Što je "digitalna nekromancija" i trebamo li razgovarati s mrtvima?

Je li vraćanje ljudi iz mrtvih pomoću umjetne inteligencije samo produžetak naših praksi tugovanja ili komunikacija s digitalnim simulacijama mrtvih krije brojne opasnosti

Mladen Smrekar nedjelja, 24. rujna 2023. u 08:10
U viktorijansko doba s duhovima se komuniciralo putem ouija ploča; danas se s pokojnicima
U viktorijansko doba s duhovima se komuniciralo putem ouija ploča; danas se s pokojnicima "razgovara" pomoću generativne umjetne inteligencije freepik

Generativna umjetna inteligencija koja obuhvaća velike jezične modele (LLM) poput ChatGPT- a i generatore slika i videa poput DALL·E 2 pojačava ono što je postalo poznato kao "digitalna nekromancija", prizivanje mrtvih iz digitalnih tragova koje ostavljaju za sobom.

Reanimacija zvijezda

Rasprave oko digitalne nekromancije prvi su put potaknute u prošlom desetljeću napretkom video projekcije i pojavom deepfake uradaka koji su "oživjeli" Brucea Leeja, Michaela Jacksona i Tupaca Shakura i dovelo do posthumnih filmskih pojavljivanja Carrie Fisher i Petera Cushinga na velikom platnu

U početku u vlasništvu velikih filmskih i glazbenih produkcijskih kompanija, pojava generativne umjetne inteligencije proširila je pristup tehnologijama koje su korištene za reanimaciju zvijezda, ali i svijetu nepoznatih ljudi. Poznat je tako slučaj čovjeka koji koristio OpenAI-jev LLM za razgovor s mrtvom zaručnicom na temelju njezinih poruka i e-pošte.

Samanthamje "oživjela" i "razgovarala" sa zaručnikom zahvaljujući OpenAI-ju
Samanthamje "oživjela" i "razgovarala" sa zaručnikom zahvaljujući OpenAI-ju

Uvidjevši potencijal, niz startupa kao što su Here After i Replika pokrenuli su korištenje generativne umjetne inteligencije kako bi ožalošćenima oživjeli njihove voljene. 

Magija nekromancije

Ova tehnologija za neke prelazi kulturnu pa čak i etičku granicu, pri čemu mnogi osjećaju duboku nelagodu zbog ideje da bismo mogli rutinski komunicirati s digitalnim simulacijama mrtvih. Na magiju nekromancije potpomognute umjetnom inteligencijom gleda se sa sumnjom. No, britanski sociolozi sa Sveučilišta u Liverpoolu tvrde da nema razloga za brigu.

"Kao sociolozi koji rade na kulturnim praksama sjećanja i komemoracije i koji su eksperimentirali s oživljavanjem mrtvih pomoću generativne umjetne inteligencije, mislimo da nema razloga za zabrinutost. Nastavak veza s mrtvima putem teksta, slika i artefakata je uobičajena pojava; to je dio naših života s drugima, živima i mrtvima", pišu oni u članku koji objavljuje The Conversation.

Generativna UI

Svatko od nas ima fotografije i video snimke svojih voljenih iz prošlosti, i svatko se rado vraća tim uspomenama. Po tom pitanju generativna umjetna inteligencija ne čini ništa što već nismo iskusili s drugim medijima. No, brzina kojom su iskorištene nekromanske mogućnosti umjetne inteligencije govori nam puno o tome koliko dobro tehnologija radi s našim postojećim praksama tugovanja, sjećanja i komemoracije, umjesto da ih "ometa" ili "mijenja".

UI startupi u ovoj domeni koriste poruke ispisane na društvenim mrežama i u e-pošti, audiosnimke govora, fotografije i videozapise voljenih osoba i na njima obučavaju modele umjetne inteligencije koji omogućuju posthumnu interakciju putem slika, glasa i teksta.

Zombifikacija pokojnika

Protivnike ovakve upotrebe umjetne inteligencije brine da bi "oživljeni" pokojnici mogli biti natjerani da govore stvari koje ne bi izgovorili da su još živi i umjesto toga glume po tuđem scenariju. Mrtvi se tako "zombificiraju", čime se krši njihov integritet, smatra Debra Bassett koja je opsežno proučavala digitalne zagrobne živote i o tome objavila knjigu "The Creation and Inheritance of Digital Afterlives: You Only Live Twice".

I to je dakako moguće, ali uvijek treba imati na umu da cijelo vrijeme zamišljamo i započinjemo razgovore s mrtvima, smatraju britanski sociolozi. U trenucima krize ili radosti razmišljamo o tome što su nam oni koje smo izgubili mogli reći, o stavovima koje su mogli imati i ohrabrenju koje su mogli ponuditi u odnosu na izazove i postignuća ovdje i sada.

Dozivanje duhova

Drugi kritičari upozoravaju na to da prilikom "susreta" s pokojnicima u digitalnom svijetu zapravo imamo posla s prevarantima koji iskorištavaju naše slabosti, poput nekadašnjih dozivača duhova pomoću ouija ploča.

Startupi kao što su Here After i Replika koriste generativnu umjetnu inteligenciju kako bi oživjeli pokojne 📷 Replika
Startupi kao što su Here After i Replika koriste generativnu umjetnu inteligenciju kako bi oživjeli pokojne Replika

No, kažu britanski sociolozi, trebali bismo zapamtiti da se obično prema osobnim porukama, fotografijama ili video zapisima mrtvih ne odnosimo kao da su ti zapisi sami naši voljeni. Umjesto toga, koristimo ih kao kanale za sjećanje na njih. I zato je, kažu oni, strah od širenja "digitalne nekromancije" prenapuhan.