Google på gång med nytt AI-chip
På sin årliga I/O-konferens i veckan presenterade IT-jätten Google ett nytt chip, Trillium, för träning och körning av stora språkmodeller som Gemma och Gemini.
Trillium är den sjätte iterationen av Googles Tensor Processing Unit (TPU). Det är nästan fem gånger så snabbt och 67 procent mer energieffektivt än sin föregångare TPU v5.
Google kommer att göra chipen tillgängliga för företag i slutet av året. De ska använda Trillium i sin AI Hypercomputer, vilket är en arkitektur för superdatorer, utvecklad för avancerade AI-relaterade arbetsbelastningar.
I ett blogginlägg skriver Amin Vahdat, general manager för system och moln-AI på Google:
”Trillium-TPU:er uppnår en imponerande 4,7 gånger ökning av toppprestanda per chip jämfört med TPU v5e. Vi har dubblat kapaciteten och bandbredden för High Bandwidth Memory (HBM) och även dubblat bandbredden för Interchip Interconnect (ICI) jämfört med TPU v5e”.
Amin Vahdat fortsätter:
”Trillium-TPU:er gör det möjligt att träna nästa våg av grundläggande modeller snabbare och köra dessa modeller med lägre latens och lägre kostnad. Avgörande är att våra TPU:er i sjätte generationen också är våra mest hållbara: Trillium-TPU:er är över 67 % mer energieffektiva än TPU v5e”.
