Prijedlog regulacije, nazvan "Mjere za identificiranje sintetičkog sadržaja generiranog AI-jem" koji predlaže CAC, odražava globalni trend potrebe za regulacijom područja generativne AI tehnologije.

Globalni trend

U svjetlu sve veće stvaranja različitih oblika medijskog sadržaja platformama umjetne inteligencije, države i organizacije diljem svijeta poduzimaju značajne korake kako bi regulirale ovo područje. Dok Kina predlaže vlastitu regulativu o označavanju AI-generiranog sadržaja, i drugi globalno razvijaju slične inicijative.

Ujedinjeni narodi su zauzeli stav o označavanju AI sadržaja. Iako nije pravno obvezujuća, rezolucija koju je sponzoriralo 123 zemlje, uključujući SAD i Kinu, naglasila je etičku važnost označavanja sadržaja generiranog umjetnom inteligencijom.

Europa, Amerika, tehnološke tvrtke

Europska unija ima važeći Europski zakon o umjetnoj inteligenciji koji klasificira generativne AI sustave kao sustave "ograničenog rizika" i podvrgava ih zahtjevima transparentnosti. Ključna odredba je obaveza informiranja korisnika kada je sadržaj generiran umjetnom inteligencijom.

Sjedinjene Američke Države su predložile zakonodavstvo pod nazivom "Zakon o označavanju AI sadržaja iz 2023. godine". Ovaj zakon zahtijeva jasno i uočljivo označavanje slika, videa, audio i multimedijskog sadržaja stvorenog umjetnom inteligencijom. Nažalost, još nije usvojen ni u jednom domu Kongresa niti je potpisan u zakon.

Tehnološka industrija također poduzima dobrovoljne inicijative. Na Minhenskoj sigurnosnoj konferenciji u veljači 2024. godine, vodeće tehnološke tvrtke poput Googlea, Mete, Microsofta i OpenAI-a obvezale su se na implementaciju tehnologija za otkrivanje AI-generiranog sadržaja, uključujući digitalne vodene žigove.

Same kompanije, kao na primjer Google, imaju svoje ideje iplanove kako riješiti taj problem.

Odgovornost na platformama

Ključni aspekt kineskog predloženog zakona je zahtjev da pružatelji internetskih informacijskih usluga moraju slijediti obvezne nacionalne standarde pri označavanju sadržaja generiranog AI-jem. To uključuje širok spektar medija, od teksta i slika do audio i video materijala. Platforme koje omogućuju preuzimanje, kopiranje ili izvoz materijala stvorenih AI-jem bit će dužne osigurati da ti materijali sadrže jasne oznake ugrađene u same datoteke. Platforme za distribuciju sadržaja morat će implementirati funkcije za identifikaciju takvog materijala i podsjećati korisnike da objave sadrže li njihove objave elemente stvorene AI-jem.

Osim vidljivih oznaka, nacrt zakona potiče i upotrebu suptilnijih identifikatora poput digitalnih vodenih žigova i metapodatkovnih oznaka.

Popularne kineske društvene platforme poput Douyina, sestrinskog servisa TikToka, već zahtijevaju od stvaratelja sadržaja da označe sadržaj generiran umjetnom inteligencijom kako bi se izbjeglo zbunjivanje gledatelja.

Stroge zabrane

Zakon također propisuje stroge zabrane. Nijedna organizacija ili pojedinac neće smjeti zlonamjerno brisati, mijenjati, krivotvoriti ili prikrivati propisane oznake. Također je izričito zabranjeno kršenje prava i interesa drugih kroz nepropisno označavanje sadržaja generiranog AI-jem.

U globalnim naporima za označavanje AI sadržaja uočavaju se zajednički trendovi. Naglasak je na transparentnosti i jasnoj identifikaciji AI-generiranog sadržaja, uz korištenje tehničkih rješenja poput digitalnih vodenih žigova i metapodataka. Primjetan je fokus na zaštiti od dezinformacija i obmana, uz istodobno nastojanje da se održi ravnoteža između inovacija i odgovorne uporabe AI tehnologije.