AI koji piše uvjerljive tekstove i lažne vijesti pušten u javnost
Ranije ove godine ocijenjen je kao preopasan, no sada je ipak stavljen na raspolaganje svima – sustav umjetne inteligencije koji može pisati vrlo prirodne i vjerodostojne tekstove
Neprofitna istraživačka organizacija koja se bavi umjetnom inteligencijom, OpenAI, ranije ove godine predstavila je svoj AI sustav GPT-2. Isti su trenirali na milijardu i pol parametara i milijunima različitih tekstova, te su ga tako "naučili" da na zadanu temu generira prilično uvjerljive tekstove. Tada su njihovi stručnjaci uočili da bi se ovakvi sustavi mogli koristiti za masovno generiranje lažnih vijesti i pisanje propagandnih tekstova, pa su bili procijenili da nije pametno dati ga na korištenje baš svakome.
Prepoznavanje računalno generiranog teksta, kada se obavlja na ovako napredan način, težak je zadatak za prosječnog čovjeka, pa bi automatizirano stvaranje tekstova moglo unijeti mnogo zabune, ali uzrokovati brojne probleme. No, u međuvremenu su se u organizaciji OpenAI predomislili, pa su svoj GPT-2 dali na raspolaganje svima zainteresiranima.
Moćni pisac pogonjen računalima
Finalni AI model u svojoj punoj inačici sada je, nakon višemjesečnog testiranja ograničenih modela i demo verzija, objavljen na stranicama ove organizacije. Uz njegovu objavu autori poručuju kako se nadaju da će developeri na temelju njega stvoriti nove modele, ali i da će s cijelom zajednicom koja se bavi umjetnom inteligencijom nastaviti razgovarati o njezinom odgovornom korištenju.
Saznanja i problemi
Stručnjaci OpenAI-ja uvidjeli su da su tekstovi koje napiše GPT-2 ljudima uvjerljivi, što su pokazala i ispitivanja. Isto tako, svjesni su da se sustav koji generira tekstove može "naučiti" i podesiti za nepoželjne svrhe. Primjerice, može ga se istrenirati da piše tekstove u prilog ekstremističkim grupama te širi njihovu propagandu i ideologiju.
Ipak, stručnjaci koji rade na sustavima strojnog učenja imaju metode koje mogu prepoznati automatizirani tekst i razlučiti ga od onog pisanog "ljudskom rukom". Za sada se automatska detekcija AI teksta obavlja s preciznošću od oko 95%, što nije dovoljno, pa ju je potrebno upotpuniti ljudskom prosudbom. Jedan od razloga zašto su sada pustili u javnost svoj model je, kažu, i pomoć u razvoju boljih algoritama za otkrivanje strojno generiranog teksta.
Iako su svjesni problema koje sustav može izazvati, i priznaju da ne mogu predvidjeti sve što se njime može učiniti, ipak su odlučili objaviti ga, u nadi da će prevladati ona strana koja se bori za odgovorno korištenje ove tehnologije.
