Ljudi olako usvajaju predrasude umjetne inteligencije
Ne samo da umjetna inteligencija nasljeđuje pristranosti iz ljudskih podataka, nego i ljudi usvajaju pristranosti koje im servira UI
Sustavi umjetne inteligencije postižu zadivljujuće rezultate, a jedan od njih je svakako i onaj da s ljudima mogu razgovarati na istoj razini. Alati temeljeni na umjetnoj inteligenciji sve se češće koriste za podršku u donošenju stručnih odluka kako bi se faktor ljudske pogreške sveo na najmanju moguću mjeru. Super, ali... ne smije se smesti s uma da podaci korišteni za treniranje UI modela odražavaju ljudske odluke iz prošlosti. Ako ti podaci skrivaju obrasce sustavnih pogrešaka, algoritam umjetne inteligencije naučit će reproducirati i te pogreške.
Dvosmjerna ulica
Sve je više dokaza koji pokazuju da sustavi umjetne inteligencije nasljeđuju i pojačavaju ljudske predrasude. No, najnovije istraživanje Sveučilišta Deusto u Bilbau pokazuje kako je moguć i obrnut učinak: da ljudi nasljeđuju pristranosti umjetne inteligencije. Odnosno, ne samo da umjetna inteligencija nasljeđuje pristranosti iz ljudskih podataka, nego i ljudi usvajaju te pristranosti od umjetne inteligencije, uz rizik da budu zarobljeni u opasnoj petlji, upozoravaju psihologinje Lucía Vicente i Helena Matute u časopisu Scientific Reports.
Eksperimenti s uspostavljanjem izmišljenih medicinskih dijagnoza uz pomoć pristranog UI sustava koji pokazuje sustavnu pogrešku pokazao je kako su sudionici potpomognuti pristranim sustavom UI činili su istu vrstu pogrešaka kao i umjetna inteligencija, dok kontrolna grupa nije griješila.
Oponašanje sustavnih pogrešaka
No, najznačajnije otkriće istraživanja bilo je da su sudionici nakon interakcije s UI sustavom nastavili oponašati njegovu sustavnu pogrešku i kad su dijagnoze postavljali bez pomoći umjetne inteligencije.
Ovi rezultati pokazuju da pristrane informacije modela umjetne inteligencije mogu imati trajan negativan učinak na ljudske odluke. Nasljeđivanje učinka pristranosti umjetne inteligencije ukazuje na potrebu za daljnjim psihološkim i multidisciplinarnim istraživanjem interakcije UI i čovjeka, kažu istraživačice koje se zalažu za uvođenje propisa kojima će se zajamčiti poštena i etička umjetna inteligencija koja u obzir neće uzimati samo tehničke nego i psihološke aspekte suradnje ljudi i umjetne inteligencije.
