Palo i prvo uhićenje zbog ChatGPT-a: Kineza optužili za širenje lažnih vijesti
Policija u kineskoj provinciji Gansu uhitila je muškarca pod optužbama da je koristio ChatGPT, njime generirao lažne vijesti i dezinformacije te ih plasirao kao prave putem društvene mreže
AI chatbot ChatGPT nije legalno dostupan u Kini, pa se za pristup njemu mora koristiti neko od VPN rješenja, kako bi se zaobišao "veliki kineski vatrozid". No, to nije spriječilo jednog korisnika, identificiranoga tek imenom Hong, da upotrijebi OpenAI-jev sustav, i to na – ilegalan način. Izvjesni je Hong, naime, koristio ChatGPT za stvaranje lažnih vijesti, a potom ih je plasirao u javnost putem društvene mreže.
Nakon što je, prije nekoliko tjedana, na ovaj način generirao lažnu priču o željezničkoj nesreći, njegov je račun privukao povećanu pozornost policije. Oni su, pak, otkrili kako je ista izmišljena vijest istodobno puštena na više od 20 blogova, pokrenutih na Baiduovoj platformi Baijiahao. Ovi su članci privukli preko 15 tisuća klikova prije nego ih je policija otkrila. Nakon istrage, vlasnik svih ovih računa osumnjičen je za korištenje umjetne inteligencije za izmišljanje lažnih i netočnih informacija, pa je protekle nedjelje i uhićen u provinciji Gansu.
AI-jem do zatvora
Prvo je ovo uhićenje povezano s korištenjem ChatGPT-a, a možda i u svijetu. Kina je, podsjetimo, početkom ove godine uvela pravila kojima se praktički zabranjuje korištenje deepfake tehnologije za stvaranje lažnog sadržaja. Iako pisan na temelju nekoliko godina stare tehnologije, ovaj se zakon, kao što vidimo, odnosi na sve oblike umjetne inteligencije koja je u stanju generirati izmišljene sadržaje – pa tako i na jezične modele. Zakonodavac je, naime, predvidio, pa samim time zabranio, stvaranje deepfake teksta, videa, slika ili zvučnih zapisa te stvaranja virtualnih scenarija događaja.
Osumnjičeni Hong priznao je nedjelo koje mu se stavlja na teret, a službena optužba kaže da će mu se suditi za izazivanje svađa i provociranje nevolja – za što je predviđena najviša zatvorska kazna u trajanju od pet godina. No, utvrdi li sud da su nedjela imala ozbiljne posljedice, kazna može biti povećana i na najviše 10 godina, prenosi South China Morning Post.
