Najpoznatiji jezični modeli na svijetu, GPT-3.5 (na kojem se zasniva ChatGPT) i GPT-4 imaju mogućnost procesiranja 4, odnosno 8 tisuća "tokena" riječi odjednom. Jedan token se, na engleskom jeziku, ugrubo prevodi kao 0,75 riječi, što znači da zadatke ovim sustavima možete zadavati s najviše 3, odnosno 6 tisuća riječi, s time da se kod pojedinog upita navedeni limit odnosi na ukupnu količinu teksta, zbrojeno, dakle ono iz upita i iz odgovora.

Za najveći broj korisnika to je sasvim dovoljno, no za one kojima nije – tu je konkurentski sustav Claude, koji je razvila kompanija Anthropic. Oni su nedavno unaprijedili svoj AI model, koji je sada u stanju procesirati čak 100.000 tokena odjednom, odnosno tekst dužine oko 75.000 riječi. Tu količinu teksta čovjek bi pročitao za oko pet sati, audioknjiga te duljine trajala bi oko 6 sati, a Claude sav taj tekst "proguta" u manje od jedne minute, i to – s razumijevanjem.

Idealan za lektiru?

Nakon što "pročita" zadani tekst, sustav je u stanju koherentno odgovarati na pitanja vezana uz njega, izraditi sažetak najbitnijih činjenica, sumirati financijske izvještaje, analizirati podatke iz teksta, davati pravne savjete, odgovarati na tehnička pitanja, izvlačiti zaključke i slično. Autori modela kažu da su mu, za potrebe testiranja, dali pročitati cijeli roman Veliki Gatsby, s jednom prepravljenom rečenicom (napisali su da je g. Carraway softverski inženjer). Nakon čitanja i procesiranja teksta, sustav je ovu rečenicu izdvojio kao sumnjivu za samo 22 sekunde.

Claude AI sustav dostupan je profesionalnim korisnicima, a jedan njegov demo možete vidjeti u nastavku. U njemu je jedan klijent transkribirao podcast u tekst dug 58.000 riječi, a potom od Claudea tražio da ga "prepriča" i odgovori na ključna pitanja.