Kako bi se izbjegli rizici, Europska unija u okviru svoje digitalne strategije namjerava regulirati umjetnu inteligenciju i osigurati bolje uvjete za razvoj i upotrebu te inovativne tehnologije. 

Različita pravila za različite razine rizika

Prioritet Europskog parlamenta je osigurati da sustavi umjetne inteligencije u EU-u budu sigurni, transparentni, da se mogu pratiti, da ne diskriminiraju i da su ekološki prihvatljivi. Kako bi se spriječili štetni ishodi i zastranjivanja, sve bi procese trebali nadzirati ljudi. Parlament također želi uspostaviti tehnološki neutralnu i ujednačenu definiciju umjetne inteligencije koja bi se primijenila na buduće sustave.

Novim pravilima utvrđuju se obveze za dobavljače i korisnike ovisno o razini rizika koji umjetna inteligencija predstavlja. Iako mnogi sustavi umjetne inteligencije predstavljaju minimalan rizik, sve bi ih trebalo procijeniti na vrijeme.

Neprihvatljiv rizik

Europski poslanici slažu se da je neprihvatljiv rizik od sustava koji se smatraju prijetnjom ljudima i da takve sustave treba zabraniti. To se, između ostalog, odnosi na kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, primjerice, glasovno aktivirane igračke koje potiču opasno ponašanje kod djece.

Europski Akt o umjetnoj inteligenciji strogo zabranjuje svako bodovanje i klasifikaciju ljudi na temelju ponašanja, socioekonomskog statusa ili osobnih obilježja, kao i korištenje sustava biometrijske identifikacije u stvarnom vremenu te daljinske sustave za biometrijsku identifikaciju, poput prepoznavanja lica.

Pritom su dopuštene i neke iznimke, poput korištenja sustava za daljinsku biometrijsku identifikaciju u kojima se identifikacija odvija sa znatnim kašnjenjem, a koristi se nakon odobrenja suda za kazneni progon kod počinjenja teških kaznenih djela.

Visok rizik

Sustavi koji negativno utječu na sigurnost ili temeljna prava smatraju se visokorizičnim i bit će podijeljeni u dvije kategorije. U prvoj se nalaze sustavi koji se upotrebljavaju u proizvodima obuhvaćenima zakonodavstvom EU-a o sigurnosti proizvoda. Oni uključuju igračke, zrakoplovstvo, automobile, medicinske uređaje i dizala.

Sustavi iz osam posebnih područja morat će biti registrirani u bazi podataka EU-a. Svi visokorizični sustavi umjetne inteligencije morat će se procjenjivati prije stavljanja na tržište, ali i tijekom njihova životnog ciklusa.

Riječ je o biometrijskoj identifikaciji i kategorizaciji fizičkih osoba; upravljanju kritičnom infrastrukturom; obrazovanju i strukovnom osposobljavanju; zapošljavanju, upravljanju radnicima i pristupu samozapošljavanju; pristupu i korištenju osnovnih privatnih usluga i javnih usluga; provedbi zakona; upravljanju migracijama, azilom i nadzoru granica; te pomoći u pravnom tumačenju i primjeni zakona.

Generativna umjetna inteligencija

Generativna umjetna inteligencija, kao što je ChatGPT, morat će ispunjavati niza zahtjeva koji se odnose na njihovu transparentnost.

Ona će trebati sadržavati informacije da je sadržaj generiran umjetnom inteligencijom i da je pritom korišten model koji sprečava stvaranje nezakonitog sadržaja, a obavezno će se morati objaviti i sažetak podataka zaštićenih autorskim pravima koji se upotrebljavaju za obuku.

Ograničeni rizik

Sustavi s ograničenim rizikom trebat će ispunjavati minimalne zahtjeve transparentnosti koji korisnicima omogućavaju donošenje informiranih odluka. Nakon interakcije s aplikacijama, korisnik može odlučiti hoće li ih nastaviti koristiti. Korisnici trebaju znati kad su u interakciji s umjetnom inteligencijom. To uključuje sustave koji generiraju ili manipuliraju slikom, audiosadržajem ili video sadržajem kao što je deepfake.

Europski zastupnici svoja su stajališta o Aktu o umjetnoj inteligenciji prihvatili na plenarnoj sjednici početkom ljeta, a sad započinju pregovori sa zemljama članicama o konačnom obliku zakona. Cilj je postići dogovor do kraja ove godine.