Stargate, superkompjuter s milijunima GPU-ova i cijenom od 100 milijardi dolara

U industriju umjetne inteligencije ulažu se bilijuni dolara, a planovi su još veċi. Hoće li se i kada ta ulaganja isplatiti za boljitak čovječanstva?

Ivan Podnar subota, 30. ožujka 2024. u 15:45

Microsoft i OpenAI planiraju izgraditi superkompjuter vrijedan 100 milijardi dolara pod kodnim imenom "Stargate", koji bi sadržavao milijune GPU-ova. Projekt „Stargate“ bi trebao biti najveći u nizu instalacija infrastrukture za AI koje dvije tvrtke planiraju izgraditi tijekom sljedećih šest godina. Stargate bi trebao postati operativan već 2028. godine i mogao bi zahtijevati do 5 gigavata energije. Bazirano na prosječnoj potrošnji, to bi bio ekvivalent potrošnje 500 američkih kućanstava godišnje. Zbog te enormne potrebe za energijpm, razmišlja se o upotrebi alternativnih izvora energije, uključujući nuklearnu energiju. “Stargate“ bi postao jedan od najvećih i najnaprednijih podatkovnih centara na svijetu. Tu ekskluzivnu vijest je u petak objavio je tehnološki portal The Information a prenose mnogi portali. Navodi se da bi Microsoft bio odgovoran za financiranje projekta, za koji se očekuje da će koštati znatno više od današnjih najvećih podatkovnih centara.

Troškovi "vjerojatno veći"

OpenAI već koristi Microsoftovu infrastrukturu za treniranje svojih AI modela. U 2020. godini počeo se koristiti superkompjuter u Azureu s 10 tisuća grafičkih kartica kako bi podržao rad OpenAI-a. Prema navodima obje kompanije, sustav je u trenutku lansiranja slovio kao jedan od pet najbržih superkompjutera na svijetu. Prošlog ožujka, Microsoft je detaljnije izvjestio o poslovima na infrastrukturi s OpenAI. Tvrtka je detaljno opisala da je originalni superkompjuter s 10 tisuca GPU-ova koji je izgradila za AI potrebe tada nadograđen kako bi uključivao desetke tisuća A100 čipova. Izvršni direktor Microsofta, Scott Guthrie, izjavio je da su troškovi sustava "vjerojatno veći" od nekoliko stotina milijuna dolara.

U fazama do operativnosti u 2028. godine

IPrema izvorima The Informationa, Microsoft planira nekoliko nadogradnji AI infrastrukture do 2030. godine. Plan je navodno podijeljen u pet faza, pri čemu se trenutno vjeruje da su Microsoft i OpenAI u sredini treće faze. Četvrta faza bi trebala uključivati izgradnju novog superkompjutera koji će biti lansiran "otprilike" 2026. godine.

Peta faza će, pak, biti usredotočena na sustav koji izvršni direktori Microsofta interno nazivaju „Stargate“. Do prošlog ožujka, Microsoft je uglavnom koristio grafičke kartice Nvidia Corp. za pokretanje superkompjuterske infrastrukture. To bi se u budućnosti moglo promijeniti. U studenom je tvrtka detaljno opisala interni razvijeni AI akcelerator pod nazivom Azure Maia koji sadrži 105 milijardi tranzistora. Moguće je da OpenAI neće biti jedini korisnik „Stargatea“ i drugih novih AI klastera. Prošle godine, ta je tvrtka detaljno opisala da je koristila superkompjutersku infrastrukturu izgrađenu za OpenAI za treniranje vlastitih AI modela.

Microsoft je također učinio hardver dostupnim korisnicima u oblaku, pristup koji bi mogao primijeniti i na „Stargate“ kako bi brže nadoknadio vjerojatno visoke troškove sustava. S obzirom na to da se očekuje da će postati operativan najranije 2028. godine, „Stargate“ vjerojatno neće biti korišten za treniranje nasljednika OpenAI-ovog GPT-4. Prošli tjedan, Insider je izvijestio da se očekuje da će GPT-5 postati dostupan za nekoliko mjeseci. Vjeruje se da OpenAI već ima radni prototip modela s "znatno boljim" sposobnostima od GPT-4.

Tajni projekt Q*

Već se nekoliko mjeseci špekulira da postoji tajni projekt u OpenAI o kome nitko ne govori a Sam Altman, na pitanja medija o postojanju, odlučno odbija govoriti. Sada se pak povezuje da je Q star povezan s projektom „Stargate“. Postoje razne konspiracijske priče koje povezuju Sama s ovim projektom.

Tajni projekt Q* o kojem nitko iz OpenAI ne želi govoriti povezuje se s dramom oko otpuštanja Sama Altmana

Dana 22. studenog prošle godine, nekoliko dana nakon što je OpenAI otpustio (a zatim ponovno zaposlio) izvršnog direktora Sama Altmana, isti izvor, The Information je izvijestio da je OpenAI postigao tehnički proboj koji će mu omogućiti da "razvije znatno moćnije modele umjetne inteligencije." Novi model, nazvan Q* izgovara se Q Star (Q zvijezda), bio je "sposoban riješiti matematičke probleme s kojima se prije nije susreo."

Mediji su povezali Q* s odlukom upravnog odbora da otpusti Altmana. Reuters je izvijestio da su neki zaposlenici OpenAI-a poslali pismo upravnom odboru "upozoravajući na otkriće moćne umjetne inteligencije za koje su rekli da bi moglo ugroziti čovječanstvo." The Information je izvijestio da je OpenAI ranije ove godine izgradio "sustave koji su mogli riješiti osnovne matematičke probleme, što je težak zadatak za postojeće AI modele." Reuters je opisao Q* kao sposobnog za "izvođenje matematike na razini učenika osnovne škole."

Knjigovođe pomahnitale?

Kada se gledaju brojke kojima se danas barata oko industrije umjetne inteligencije, dobro se upitati da li su knjigovođe pomahnitale i samo lupaju nule na kraju iznosa ili će stvarno biti uloženo toliko novaca. Sam Altman govori u bilijunima ulaganja u tvornicu mikročipova, Microsoft kao iz rukava obećava stotinu milijardi dolara, Nvidia je investirala blizu bilijuna dolara prošle godine u svoje i projekte partnera. Za usporedbu, do sad su ulaganja u industriju samovozećih automobila bila ukupno „samo“ sto milijardi. Ulaganja u širokopojasni Internet u SAD od 1996. godine do danas iznosila su 2,1 bilijuna dolara, dakle samo četvrtinu koliko treba Altman za tvornicu čipova. Pitanje na koje mnogi pokušavaju odgovoriti: hoće li se ta ulaganja isplatiti. Iznosi su takvi da je teško razumjeti da li se radi o velikom balonu koji se napuhava i samo će jednog dana puknuti ili smo stvarno kročili u postindustrijsku eru u kojoj će rđati strojevi, a bujati kompjutorski kodovi.