Prošlog travnja na YouTube kanalu nacionalnog odbora američke Republikanske stranke prikazan je oglas koji sadrži niz slika: predsjednika Joea Bidena koji slavi svoj ponovni izbor, zatvorenih banaka, interventne policije na ulicama i imigranata koji nadiru na granice. Da je riječ o deepfake uratku svakome je moglo biti jasno već iz naslova videa: "Pogled generiran umjetnom inteligencijom u moguću budućnost zemlje ako Joe Biden bude ponovno izabran 2024."

No, društvenim je mrežama istovremeno kružio i video u kojem Hillary Clinton podržava republikanskog predsjedničkog kandidata Rona DeSantisa. Iako je i ovdje očito bila riječ o deepfakeu, mnogima to možda i nije bilo jasno.    

Pomoć političkim kampanjama

A američki izbori nisu jedini na kojima će ljudi diljem svijeta birati svoje lidere; dapače, oni će se 2024. održati u čak 78 zemalja, navodi Integrity Institute, neprofitna organizacija usmjerenoj na poboljšanje društvenih mreža. 

Koalicija za proučavanje porijekla i autentičnosti sadržaja (C2PA) u koju su uključene tvrtke kao što su Adobe, BBC, Intel, Microsoft i Sony, i o kojoj smo već pisali u Bugu u sklopu teme "Kako označiti sadržaj generiran umjetnom inteligencijom?", razvija tehničke metode koje bi, nadaju se, trebale dokumentirati podrijetlo i povijest digitalnih medijskih datoteka, stvarnih i lažnih; Microsoft je na tom tragu pokrenuo i inicijativu za pomoć političkim kampanjama u korištenju vjerodajnica sadržaja (content credentials).

Standardizacija vjerodajnica

C2PA tako spaja Inicijativu za autentičnost sadržaja pod vodstvom Adobea i s Projektom Origin koji je 2021. objavio početne standarde za prilaganje kriptografski sigurnih metapodataka slikovnim i video datotekama. Sustav je zamišljen tako da se svaka izmjena datoteke automatski odražava u metapodacima, razbijajući kriptografski pečat i čineći očitim svako petljanje. Pa ako osoba koja mijenja datoteku pritom koristi alat koji podržava vjerodajnice sadržaja, informacije o promjenama trebale bi se dodavati u manifest koji putuje sa slikom.

Vjerodajnicama sadržaja služe se neke vodeće medijske kuće: BBC, CBC i The New York Times, odreda članovi C2PA, a navodno će im se pridružiti i drugi, naročito kako će se u raznim zemljama implementirati zakoni o korištenju umjetne intelitgencije. 

Provjera sadržaja

C2PA-ov sustav vjerodajnica sadržaja trebao bi, kažu, korisnicima Interneta omogućiti provjeru sadržaja. Klikom na ikonicu "cr" trebale bi se vidjeti sve dostupne informacije za određenu sliku; kad je i kako stvorena, tko ju je prvi objavio, koje su alate koristili da je izmijene, kako je izmijenjena i tako dalje. Međutim, gledatelji će vidjeti tu informaciju samo ako koriste platformu društvenih mreža ili aplikaciju koja može čitati i prikazati podatke o vjerodajnicama sadržaja.

Isti sustav mogle bi, kažu, koristiti AI tvrtke koje izrađuju alate za generiranje slika i videa; u tom slučaju, sintetički medij bio bi označen kao takav. Neke tvrtke već su uključene: Adobe tako generira relevantne metapodatke za svaku sliku stvorenu s pomoću njegovog alata za generiranje slika Firefly, a Microsoft nešto slično pokušava raditi sa svojim Bing Image Creatorom.

Uslužni centri za provjeru materijala

U BBC-u su već proveli probe dodavanja metapodataka vjerodajnica sadržaja na fotografije, ali glavni posao ih, kažu, čeka na platformama društvenih mreža. Jer, uvjereni su, manja je vjerojatnost da će gledatelji posumnjati u autentičnost fotografije na web stranici BBC-ja nego ako na istu sliku naiđu na Facebooku. Istražuje se i ideja o "uslužnim centrima" u koje bi izdavači mogli slati svoje slike na provjeru valjanosti i certifikaciju; slike bi se, kažu zagovarači ideje, potom vratile s kriptografski raspršenim metapodacima koji potvrđuju njihovu autentičnost.

Microsoftova nova inicijativa za političke kampanje Content Credentials as a Service trebala bi pak, tvrde u kompaniji, pomoći političkim kandidatima da kontroliraju vlastite slike i poruke tako što će im omogućiti da autentični materijal označe sigurnim metapodacima. Usluga bi navodno trebala startati u proljeće i isprva bi bila besplatno dostupna političkim kampanjama. Kasnije bi možda mogla postati dostupna svima, ali dakako uz odgovarajuću naplatu, a u cijeni se trenutno može samo nagađati.

Praktični problemi društvenih mreža

Velike platforme društvenih mreža još nisu javno objavile svoje planove za korištenje i prikazivanje vjerodajnica sadržaja. Tvrtke poput Mete brane se tvrdnjama da se prvenstveno vode korisničkim iskustvom te stoga, kažu, razmišljaju o praktičnim stvarima poput toga hoće li dodavanje vodenog žiga svakom sadržaju na Facebooku izazvati kašnjenje zbog kojeg će korisnici odustati od platforme. 

Društvene mreže nalaze se na kraju procesa koji započinje kamerama koje snimaju slike i videozapise. Leica je jesenas predstavila prvu kameru s vjerodajnicama, a Nikon i Canon izradili su prototipove fotoaparata koji uključuju credentialing, navodi IEEE koji je temu o vjerodajnicama sadržaja objavio u sklopu posebnog izvještaja Top Tech 2024.