Nvidiachips blir effektivare på AI-träning
Nvidia's senaste chips har gjort landvinningar inom träning av stora AI-system, som nu kräver färre antal chip. Det visar data från MLCommons som publicerades under onsdagen.
Antalet chips som krävs för att träna stora språkmodeller faller drastiskt, rapporterar MLCommons, en ideell organisation som publicerar benchmark-resultat för AI-system. Undersökningen berör chip från bland andra Nvidia och AMD, avseende träning – det vill säga när AI-system matas med stora mängder data.
Viktig konkurrensfaktor - trots skiftet mot "AI-inference"
Antalet chip som krävs för att träna systemen fortfarande en viktig konkurrensfaktor inom AI-branschen, även om börsens fokus i allt högre grad har skiftat mot den växande marknaden för så kallad AI-inference, där AI-system besvarar användarfrågor.
Detta skifte tog fart på allvar tidigare i år efter att kinesiska DeepSeek presenterade en konkurrenskraftig chatbot med betydligt färre chip än sina amerikanska konkurrenter.