Musk kaže da napredak AI-ja koči nestašica naprednih GPU-ova i dostupnost električne energije

Musk predviđa da bi AGI mogao nadmašiti ljudsku inteligenciju već sljedeće godine ili do 2026., ali upozorava da će za njegovo treniranje biti potreban ekstreman broj GPU-ova i ogromne količine električne energije

Matej Markovinović četvrtak, 11. travnja 2024. u 08:52
📷 Foto: Unsplash
Foto: Unsplash

Izvršni direktor Tesle i osnivač xAI-ja, Elon Musk, u nedavnom je razgovoru za Reuters iznio svoja predviđanja o razvoju umjetne opće inteligencije (AGI) i izazovima s kojima se suočava cjelokupna AI industrija.

Musk predviđa da bi AGI mogao nadmašiti ljudsku inteligenciju već sljedeće godine ili do 2026., ali upozorava da će za njegovo treniranje biti potreban ekstreman broj GPU-ova i ogromne količine električne energije. Pitanja električne energije dotaknuo se još na konferenciji Bosch Connected World, o čemu smo pisali početkom ožujka.

Inače, Muskova tvrtka xAI trenutno trenira drugu verzija svog LLM-a Grok i očekuje završetak sljedeće faze treniranja do svibnja. Za to je, kako kaže Musk, potrebno i do 20.000 Nvidijinih H100 GPU-ova, a predviđa da bi se taj broj mogao povećati i na oko 100.000 GPU-ova za nadolazeći LLM Grok 3.

Musk iz tog razloga navodi da napredak njihove AI tehnologije trenutno koče dva glavna faktora – nestašica naprednih GPU-ova te dostupnost električne energije.

Kako prenosi Tom's Hardware, Nvidijin H100 GPU troši oko 700 W kada je u potpunosti iskorišten, tako da 100.000 GPU-ova za radne opterećenja AI-ja i HPC-a mogu potrošiti čak 70 megavata energije. S obzirom da ti GPU-ovi zahtijevaju poslužitelje i hlađenje za rad, može se zaključiti da će podatkovni centar s 100.000 Nvidijinih H100 GPU-ova trošiti oko 100 megavata energije, što je usporedivo s potrošnjom električne energije manjeg grada.