Umjetna inteligencija koja korisnicima omogućuje da vode tekstualne i glasovne razgovore s preminulim voljenima riskira nanošenje psihičke štete pa čak i "digitalno proganjanje", upozoravaju istraživači Sveučilišta Cambridge. Takozvani deadbots ili griefbots su AI chatbotovi koji simuliraju jezične obrasce i osobine ličnosti mrtvih koristeći digitalne otiske koje ostavljaju za sobom. Neke tvrtke već nude ove usluge, pružajući potpuno novu vrstu "post mortem prisutnosti".

Tri scenarija

Etičari umjetne inteligencije iz Centra za budućnost inteligencije Leverhulme u Cambridgeu (LCFI) ocrtavaju tri moguća scenarija dizajna za platforme koje bi se mogle pojaviti kao dio razvoja "industrije digitalnog života nakon smrti". Njihovo istraživanje, objavljeno u časopisu Philosophy and Technology, naglašava rizike potencijalnog korištenja mrtvih osoba za prikriveno oglašavanje proizvoda.

Chatbotove koji nude komunikaciju s preminulim članovima obitelji, voljenim osobama ili prijateljima mogle bi iskoristiti tvrtke za slanje neželjenih obavijesti, podsjetnika i ažuriranja o uslugama koje pružaju. Onima koji traže utjehu u komunikaciji s "mrtvim botom" te bi svakodnevne interakcije na kraju mogle postati "emocionalni teret", tvrde istraživači, to više ako ne bi bili u stanju da obustave AI simulaciju ugovorio s tvrtkom koja pruža usluge digitalnog života poslije smrti. 

Narušavanje dostojanstva

"Brzi napredak u generativnoj umjetnoj inteligenciji znači da gotovo svatko s pristupom internetu i nekim osnovnim znanjem i iskustvom može oživjeti preminulu voljenu osobu", upozoravaju istraživači. "Ovo područje umjetne inteligencije je etičko minsko polje. Važno je dati prednost dostojanstvu pokojnika i osigurati da ono nije narušeno financijskim motivima usluga digitalnog života nakon smrti."

Netko bi mogao AI simulaciju ostaviti kao oproštajni dar za voljene osobe koje nisu spremne obraditi svoju tugu na ovaj način. Prava donatora podataka i onih koji su u interakciji s uslugama zagrobnog života umjetne inteligencije trebala bi biti jednako zaštićena, kažu etičari.

Rekreiranje mrtvih

Platforme koje nude rekreiranje mrtvih s pomoću umjetne inteligencije za malu naknadu već postoje. Project December koristi GPT modele i razvija vlastite sustave, a tu su i aplikacije kao HereAfter. Slične usluge počele su se pojavljivati i ​​u Kini.

"Ljudi bi mogli razviti snažne emocionalne veze s takvim simulacijama, što će ih učiniti posebno ranjivima na manipulaciju. Treba razmotriti metode i rituale za umirovljenje mrtvih robota na dostojanstven način. To može značiti oblik digitalnog pogreba ili druge vrste ceremonije, ovisno o društvenom kontekstu", upozoravaju istraživači koji preporučuju protokole koji će spriječiti korištenje deadbotova za oglašavanje ili njihovu aktivnu prisutnost na društvenim mrežama.

Transparentnost i ograničenja

Dizajneri takvih usluga trebali bi aktivno tražiti pristanak od donatora podataka, a procesi dizajniranja trebali bi uključivati ​​niz upita za one koji žele "uskrsnuti" svoje voljene, poput "jeste li ikad razgovarali o tome kako bi oni željeli da ih se pamti?", tako da se što više sačuva dostojanstvo preminulih.    

Istraživači preporučuju dobna ograničenja i pozivaju na "smislenu transparentnost" kako bi se osiguralo da korisnici budu svjesni interakcije s umjetnom inteligencijom. To bi moglo biti nešto nalik postojećim upozorenjima na sadržaj koji bi mogao izazvati epileptične napadaje.

Digitalni progon

"Važno je da usluge digitalnog života nakon smrti uzmu u obzir prava i pristanak ne samo onih koje rekreiraju, već i onih koji će morati komunicirati sa simulacijama. Ove usluge riskiraju izazivanje velike nevolje ljudima ako budu podvrgnuti neželjenim digitalnim progonima od alarmantno točnih AI rekreacija onih koje su izgubili. Potencijalni psihološki učinak, osobito u ionako teškom trenutku, mogao bi biti razoran", upozoravaju istraživači i pozivaju dizajnere deadbotova da prioritet daju protokolima za isključivanje koji će  korisnicima omogućiti prekid odnosa:

"Moramo početi razmišljati o tome kako ublažiti društvene i psihološke rizike digitalne besmrtnosti, jer je tehnologija već tu."