Psiholozi teorijom uma opisuju sposobnost razumijevanja mentalnih stanja drugih ljudi. To je ono što vam pomaže da se odlučite što ćete reći u nekoj situaciji ili pogoditi što će učiniti vozači u drugim automobilima. No, čini se da to ne vrijedi samo za ljude nego i za strojeve. Naime, kako pokazuju rezultati nove studije, veliki jezični modeli iznenađujuće uvjerljivo oponašaju razumijevanje mentalnih stanja. Pa ako je tome već tako, ne čudi da su se te sposobnosti privukle pažnju vojnih, obavještajnih i sigurnosnih službi.

Teorija uma

Američka agencija za napredne obrambene istraživačke projekte DARPA navodno pokreće ambicioznu Theory of Mind (ToM) inicijativu s ciljem poboljšanja donošenja odluka o nacionalnoj sigurnosti. U sklopu projekta trebale bi se razvijati nove tehnologije te zajednički algoritmi i analitičkih alata koji će omogućiti predviđanje ponašanja protivnika. Projekt vodi dr. Eric Davis iz Ureda za stratešku tehnologiju, ekspert za umjetnu inteligenciju, kognitivnu znanost, integraciju čovjeka i stroja te podatkovne znanosti.

Ključni aspekt programa njegova je usredotočenost na razumijevanje ne samo trenutačnih strategija protivnika, već i kako se te strategije razvijaju. Rastavljanjem ovih strategija na temeljne komponente, DARPA želi ponuditi jasniji pogled na to kako protivnici mogu promijeniti svoje ponašanje u različitim uvjetima. Iako konkretni protivnici nisu detaljno navedeni u najavi, implikacije razvoja takvog algoritma izazivaju zabrinutost. Sam pojam "protivnik", kako je definiran u rječniku američkog ministarstva obrane, odnosi se na bilo koji entitet prepoznat kao potencijalno neprijateljski, čime se opseg definicije proširuje na bilo koga tko se smatra prijetnjom.

Nastavak tradicije

Ovo nije prvi put da DARPA pokušava pratiti, predviđati i utjecati na ljudsko ponašanje kroz opsežno prikupljanje podataka i analizu. Nakon 11. rujna 2002. pokrenut je sada nepostojeći program Total Information Awareness (TIA) koji je trebao revolucionirati američku sposobnost otkrivanje i sprečavanje terorističkih aktivnosti jačanjem sposobnosti nadzora. Brojni kritičari tog projekta TIA-u su usporedili s Big Brotherom.

Jedna od glavnih komponenti TIA-e bio je razvoj naprednih alata za rudarenje podataka koji će pomoći u otkrivanju obrazaca povezanih s potencijalnim prijetnjama. Slično tome, novi ToM program trebao bi pružiti uvid u protivnička ponašanja, ali specifični detalji o njegovim metodologijama i tehnološkom okviru zasad su prekriveni velom tajne.

Između sigurnosti i zaštite prava

ToM neki vide i kao nastavak DARPA-inog napuštenog programa LifeLog koji je trebao stvoriti sveobuhvatnu bazu podataka o individualnim iskustvima, djelujući kao sofisticirani osobni asistent. Njegov krajnji cilj bio je pomoći pojedincima da razumiju i učinkovito upravljaju svojim preferencijama i iskustvima, što je koncept u skladu s ciljevima Teorije uma.

DARPA-in program fokusira se na korištenje strojnog učenja za poboljšanje donošenja odluka u složenim scenarijima. No, ova inicijativa otvara i neka nova važna pitanja o ravnoteži između nacionalne sigurnosti te zaštite privatnosti pojedinca i građanskih sloboda. Primjena sofisticiranih algoritama za tumačenje ljudskog ponašanja mogla bi, između ostalog, dovesti do povećanog nadzora pojedinaca, strahuju borci za građanska prava.