Ima tome nešto više od godine dana kako je Googleov inženjer Blake Lemoine dobio otkaz jer je javno ustvrdio da je chatbot LaMDA razuman. Sustavi umjetne inteligencije, posebno takozvani veliki jezični modeli kao što su LaMDA i ChatGPT, uvježbani su na ogromnim količinama teksta kako bi oponašali ljudske reakcije pa ne čudi da nam se mogu činiti svjesnima. No jesu li doista i kako ćemo to saznati?

Popis atributa

Grupa 19 računalnih znanstvenika, neuroznanstvenika i filozofa osmislila pristup, ne jedan definitivan test, već 120 stranica dugačak popis atributa koji bi zajedno mogli sugerirati, ali ne i dokazati da je umjetna inteligencija doista svjesna. Istraživači se oslanjaju na teorije ljudske svijesti kako bi predložili 14 kriterija, a zatim ih primijenili na postojeće UI arhitekture, uključujući tip modela koji pokreće ChatGPT.

Rad koji se može pročitati na arXivu nudi okvir za procjenu ljudima sve sličnije umjetne inteligencije i, kažu autori, uvodi sustavnu metodologiju koja dosad nije bilo. Umjesto da nudi odgovore, on poziva na  raspravu. Jer, kažu oni, ako umjetna inteligencija doista može odavati dojam svijesti, to je hitan prioritet za znanstvenike i filozofe i krajnje je vrijeme da se uključe. Robert Long iz neprofitnog Centra za sigurnost UI iz San Francisca i filozof Patrick Butlin s Instituta za budućnost čovječanstva pri Sveučilištu u Oxfordu već su organizirali prve dvije radionice o tome kako testirati svjesnost umjetne inteligencije.

Definiranje svijesti

Jedan od prvih zadataka bio je definirati svijest, a istraživači su se usredotočili na ono što je filozof Ned Block nazvao "fenomenalnom sviješću" (phenomenal consciousness) ili subjektivnom kvalitetom iskustva, odnosno osjećati kako je to biti ja.

Ali kako ispitati fenomenalnu svijest algoritma? Za razliku od ljudskog mozga on ne nudi signale o svom unutarnjem radu koji se mogu otkriti elektroencefalogramom ili magnetskom rezonancijom. Umjesto toga, istraživači su zauzeli "teorijski pristup": prvo su istražili trenutne teorije ljudske svijesti za temeljne deskriptore svjesnog stanja, da bi ih zatim pokušali pronaći u temeljnoj arhitekturi umjetne inteligencije.

Šest teorija

Da bi je uopće uzeli u obzir, teorija je morala biti utemeljena na neuroznanosti i potkrijepljena empirijskim dokazima kao što su podaci skeniranja mozga tijekom testova koji manipuliraju sviješću pomoću perceptivnih trikova. Teorija je također morala dopustiti mogućnost da se svijest može pojaviti bez obzira na to izvode li proračune biološki neuroni ili silikonski čipovi.

Kriterije je na kraju zadovoljilo šest teorija: teorija rekurentne obrade predlaže da je prolazak informacija kroz povratne sprege ključan za svijest; globalna neuronska teorija radnog prostora tvrdi da svijest nastaje kad nezavisni tokovi informacija prolaze kroz usko grlo da bi se spojili u radni prostor analogan međuspremniku računala; teorije višeg reda sugeriraju da svijest uključuje proces predstavljanja i označavanja osnovnih inputa primljenih od osjetila, a druge teorije naglašavaju važnost mehanizama za kontrolu pažnje i potrebu za tijelom koje dobiva povratnu informaciju iz vanjskog svijeta. 

Pokazatelji svjesnog stanja

Iz šest uključenih teorija istraživači su na kraju izdvojili 14 pokazatelja svjesnog stanja. Zaključili su i da što više pokazatelja provjeri arhitektura umjetne inteligencije, to je vjerojatnije da posjeduje svijest. Popis je za provjeren na nekoliko umjetnih inteligencija različitih arhitektura, uključujući one koji se koriste za generiranje slika kao što je Dall-E2. 

Mnoge su arhitekture zadovoljile razne pokazatelje iz raznih teorija; DeepMindov Adaptive Agent (AdA) obučen za kontrolu avatara u simuliranom 3D prostoru i Googleov PaLM-E koji prima podatke od raznih robotskih senzora zadovoljili su kriterij "djelovanja i utjelovljenja" (agency and embodiment), ali s obzirom na to da nijedna umjetna inteligencija nije označila više od nekoliko okvira, nijedna od njih nije jak kandidat za svijest, zaključili su istraživači. 

Širi test svijesti

Ovo nije jedini takav pokušaj. Neki članovi ove grupe sudjeluju i u projektu koji financira Kanadski institut za napredna istraživanja CIFAR čiji je cilj osmišljavanje šireg testa svijesti koji bi se primijenio i na organoide, životinje i novorođenčad. 

Problem ovakvih projekata je taj što se sve trenutne teorije temelje na našem razumijevanju ljudske svijesti. Ipak, priznaju istraživači, svijest može imati i druge oblike, čak i kod sisavaca. "Mi zaista nemamo pojma kako je to biti šišmiš; to je ograničenje kojeg se ne možemo riješiti."