Europska unija postat će prva regija u svijetu koja će pravno regulirati pitanja umjetne inteligencije. Potvrđeno je to nakon maratonskih 37-satnih pregovora između predstavnika Vijeća i Europskog parlamenta. Pregovori su okončani u kasnim večernjim satima ovoga petka, a iz Bruxellesa tu regulativu već proglašavaju povijesnom.

Pravila, sadržana u Aktu o umjetnoj inteligenciji, primjenjivat će se u svim državama članicama, zasnovana na definiciji umjetne inteligencije koju nazivaju "otpornom na budućnost", tj morala bi biti dovoljno široka da bude prilagođena budućim okolnostima. Cijeli pristup reguliranju umjetne inteligencije zasniva se na procjeni rizika koji ona može predstavljati, od niskog, preko visokog do neprihvatljivog.

Četiri skupine

Akt će uvesti različita pravila za različite vrste umjetne inteligencije, upravo prema riziku koji ona može predstavljati.

Minimalan rizik: Velika većina sustava spada upravo u ovu kategoriju. Niskorizična AI uključuje sustave za preporuku sadržaja ili spam filtere te ne nosi za sobom nikakve obveze. EU ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana, no kompanije mogu i dalje na dobrovoljnoj bazi izraditi kodekse ponašanja u ovoj domeni.

Visok rizik: Visokorizični sustavi umjetne inteligencije morat će se voditi strožim pravilima, imati ugrađene sustave za umanjenje opasnosti, visoku kvalitetu podataka na kojima su trenirani, detalju dokumentaciju i logove, a morat će pokazati i visoku razinu robusnosti, preciznosti te sigurnosti. Cilj je osigurati siguran okvir za inovacije i razvoj prilagođenih AI sustava. Primjeri visokorizičnih sustava su oni vezani uz kritičnu infrastrukturu, obrazovanje i zapošljavanje, provođenje zakona, kontrolu granica, pravosuđe i demokratske procese.

Neprihvatljiv rizik: AI sustavi koji se smatraju jasnom prijetnjom sigurnosti i ljudskim pravima bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnim funkcijama koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju "društveno vrednovanje" pojedinaca, kao i prediktivne alate za borbu protiv kriminala. Bit će zabranjeni i biometrijski sustavi koji bi mogli prepoznavati emocije i na temelju njih u stvarnom vremenu kategorizirati pojedince.

Specifičan rizik transparentnosti: Kod korištenja AI sustava primjerice u chatbotima, korisnici će morati biti svjesni da ostvaruju interakciju sa strojem. Deepfakes i ostali sadržaji nastali generativnom umjetnom inteligencijom morat će biti označeni. Pružatelji takvih usluga morat će osigurati sintetički audio, video, tekstualni i slikovni sadržaji budu kao takvi označeni u strojno čitljivom obliku, odnosno da se može otkriti da su oni umjetno stvoreni ili manipulirani.

Kompanije koje se neće pridržavati navedenih pravila, bit će kažnjavane.

Opća umjetna inteligencija

Akt predviđa i pojavu umjetne inteligencije opće namjene. U tom slučaju glavna odrednica je transparentnost u svim dijelovima vrijednosnog lanca. Za vrlo moćne modele, koji bi mogli predstavljati sustavne rizike, postojat će dodatne obveze vezane za upravljanje rizicima i praćenje ozbiljnih incidenata, evaluiranje modela i njihovo testiranje. Ove nove obveze bit će uvedene kroz kodekse, koje će zajednički izraditi industrija, znanstvena zajednica, civilno društvo i ostali dionici zajedno s Komisijom.

Za provedbu Akta po državama bit će zadužena lokalna tijela, inače zadužena za nadzor nad tržištem, dok će na razini EU provedbu propisa koordinirati novoosnovani Europski ured za umjetnu inteligenciju, unutar Europske komisije. On će također nadzirati implementaciju i primjenu novih pravila za opću umjetnu inteligenciju. Taj Ured bit će prvi u svijetu tog tipa, pa se od njega očekuje da bude međunarodno relevantan i referentna točka za sve ostale zemlje.

Kad je riječ o modelima opće namjene, središnju ulogu imat će znanstveni panel neovisnih stručnjaka. Oni će izdavati upozorenja o sistemskim rizicima i doprinositi klasifikaciji i testiranju modela.

Ovaj politički dogovor sada formalno moraju usvojiti Parlament i Vijeće, a prije pune primjene bit će osigurano i prijelazno razdoblje. Tijekom njega, Komisija će pokrenuti Pakt za umjetnu inteligenciju, kojim će tražiti da se industrija dobrovoljno obveže na primjenu Akta o umjetnoj inteligenciji i početak provedbe njegovih zahtjeva prije zakonskog roka.