Rješenja prepoznavanja tekstova generiranih uz pomoć AI alata već postoje, ali čudo je da se time bavi nitko drugi nego OpenAI. Nevidljivi "otisak" koji bi AI utisnuo u generiranom tekstu, poput vodenog žiga na fotografijama, omogućio bi, s visokom točnošću, prepoznati je li tekst generiran pomoću umjetne inteligencije ili je napisan ljudskom rukom. U članku WSJ-a otkriveno je mnogo toga što priječi OpenAI da predstavi tu tehnologiju javnosti i koji su sve izazovi implementacije detektora.

Duboke implikacije

U kompaniji su svjesni da odluka o objavljivanju detektora ima duboke implikacije na korisnike ChatGPT-a. S jedne strane, postoji pritisak javnosti da se nešto poduzme kako bi se spriječila zlouporaba AI-ja. S druge strane, tvrtka mora biti svjesna potencijalnih negativnih posljedica svojih odluka. Mnogi korisnici koriste ChatGPT kao alat za kreativno izražavanje, poslovnu komunikaciju, učenje jezika ili jednostavno zabavu. Uvođenje detektora moglo bi ograničiti njihovu slobodu i kreativnost.

Tehnički aspekti detekcije AI-generiranog teksta OpenAI-jev detektor temelji se na sofisticiranoj tehnici vodenog žiga, koja u suštini predstavlja digitalni potpis ugrađen u tekst. Ovaj potpis se generira tijekom procesa stvaranja teksta i ostaje nevidljiv ljudskom oku, ali je uočljiv specijaliziranim algoritmima.

Suptilan, ali robustan

Ključni izazov u implementaciji vodenog žiga je njegova robusnost. Potrebno je osigurati da vodeni žig bude dovoljno suptilan da ne utječe na čitljivost i stil teksta, ali i dovoljno robustan da se ne može lako ukloniti ili izmijeniti. OpenAI je razvio metode za dinamičko generiranje vodenih žigova, što otežava identifikaciju i njihovo uklanjanje.

Dodatno, detektor koristi napredne tehnike obrade prirodnog jezika kako bi analizirao stilističke karakteristike teksta. Algoritam uči prepoznavati obrasce koji su karakteristični za ljudski pisani tekst, uključujući varijacije u dužini rečenica, složenost sintakse, leksičku raznolikost i druge lingvističke značajke.

Međutim, i NLP tehnike imaju svoja ograničenja. AI modeli postaju sve sofisticiraniji u imitaciji ljudskog stila pisanja, što otežava razlikovanje između autentičnog i generiranog teksta. Također, postoje sofisticirane metode koje mogu pokušati izbrisati ili izmijeniti vodeni žig, što bi učinilo detekciju mnogo težom. Štoviše, široka dostupnost detektora mogla bi potaknuti razvoj protumjera, stvarajući svojevrsnu utrku u naoružanju između onih koji žele otkriti AI-generirani sadržaj i onih koji žele zaobići te detektore.

Izazovi u implementaciji

Osim tehničkih izazova, postoje i brojni etički i praktični problemi. Jedan od ključnih izazova je pitanje privatnosti. Kako bi detektor funkcionirao, potrebno je analizirati velike količine teksta, što može podići pitanja o zaštiti osobnih podataka.

Drugi izazov je potencijal za zlouporabu. Detektor bi se mogao koristiti za diskriminaciju određenih skupina ljudi, na primjer, ako bi se koristio za procjenu kvalitete pismenog izražavanja kandidata za posao.

Šire gledano, ova tema pokreće važna pitanja o budućnosti obrazovanja, znanosti i društva u cjelini. Autori teksta u WSJ-u pitaju se: Kako ćemo provjeravati autentičnost informacija u svijetu u kojem je sve teže razlikovati što je napisala osoba, a što umjetna inteligencija? Kako ćemo osigurati da AI tehnologije služe čovječanstvu na dobro, a ne na štetu?

Ne čekati regulatorna tijela

Moguće rješenje leži u razvoju sveobuhvatne strategije koja će uključivati ne samo tehnološka rješenja, već i edukaciju, etičke smjernice i suradnju sa svima, od obrazovnih, znanstvenih i pravnih institucija. Prije svega, potrebna je proaktivna edukacija, informiranje nastavnika, učenika i šire javnosti o mogućnostima i ograničenjima AI tehnologija. Akademska zajednica treba biti ta koja će odrediti jasne etičke smjernice za razvoj i korištenje AI tehnologija. Jer ako se sami edukatori ili znanstvenici, filozofi i ostali mislioci ne pobrinu, uključit će se regulatorna tijela, a to će tek donijeti neželjene posljedice i dodatnu zavrzlamu.

Ova tema je izuzetno kompleksna i zasigurno će biti predmet žustre rasprave u godinama koje dolaze.