Zanimljiv slučaj, koji pokazuje neke neočekivane posljedice korištenja umjetne inteligencije za obavljanje dosadnih i repetitivnih poslova, dogodio se u Kanadi. Tamošnji je avioprijevoznik Air Canada, naime, za poslove komunikacije s klijentima u službi za korisnike "zaposlio" AI chatbota. Nisu oni niti približno jedini koji su takvu uslugu uveli, ali su prvi koji će od nje osjetiti financijske posljedice.

Njihov je umjetno inteligentni agent korisničke podrške, naime, 2022. godine jednom kupcu savjetovao kako izbjeći plaćanje pune cijene aviokarte. Klijent Jake Moffatt raspitivao se kod njega može li iskoristiti popust u situaciji kada ima smrtni slučaj u obitelji, da bi jeftinije kupio kartu za let, samo koji dan prije datuma leta – sve kako bi mogao stići na sprovod svoje bake. Chatbot Air Canade bio mu je voljan pomoći, pa mu je izišao u susret, i to – izmislivši novo pravilo.

Halucinacija potvrđena presudom

Savjetovao je Moffattu da kupi redovnu kartu, pa da kasnije prijavi smrtni slučaj te retroaktivno traži da mu avioprijevoznik refundira dio troška. Čak mu je naveo i rok od 90 dana u kojem to, navodno, može učiniti. Problem u svemu jest to što takvo pravilo ne postoji. Air Canada omogućava kupnju karata s popustom u smrtnom slučaju, ali samo ako se to navede prije kupovine karte. Opcija refundiranja troška u cjeniku i pravilnicima ne postoji, već je ona jednostavno rezultat halucinacije ovog chatbota.

Klijent, dakako, nije bio zadovoljan s time pa je cijelu stvar doveo i do suda. Tamo je, pak, htio utjerati pravdu, dok su se iz Air Canade branili argumentom da nisu odgovorni za zavaravajuće odgovore svojeg chatbota. Sud je ovoga tjedna stao na stranu tužitelja, navodeći da je avioprijevoznik u potpunosti odgovoran za sve sadržaje na svojoj internetskoj stranici, pa tako i za odgovore robotiziranog djelatnika službe za korisnike. "Nema razlike u tome je li informacija došla sa statične web stranice ili od chatbota", stoji u presudi.

Air Canada će morati Moffattu isplatiti razliku u cijeni, za koju je chatbot rekao da ima pravo na nju. Riječ je o 650 kanadskih dolara razlike između redovne karte i one s popustom, uz sudske troškove. No, daleko važnije je to što ova presuda postavlja presedan – pa svi koji "zapošljavaju" chatbote na ovakva radna mjesta moraju imati na umu da bi ih to moglo i skupo koštati.