Uredba dogovorena na pregovorima s državama članicama u prosincu 2023. usvojena je s 523 glasova za, 46 protiv i 49 suzdržanih. Cilj joj je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području.

•    Regulatorne mjere za umjetnu inteligenciju opće namjene  
•    Ograničenja upotrebe sustava za biometrijsku identifikaciju u svrhu kaznenog progona  
•    Zabrana društvenog vrednovanja građana i upotrebe umjetne inteligencije za manipulaciju ili iskorištavanje ranjivosti korisnika
•    Pravo potrošača na ulaganje pritužbi i dobivanje smislenih objašnjenja

Pravila za umjetnu inteligenciju utvrđena su na temelju njezinih potencijalnih rizika i razine učinka.

Zabranjene primjene

Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje.

Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, društveno vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.

Iznimke za potrebe kaznenog progona

Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane.

Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograničena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje.

Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.

Obveze za visokorizične sustave

Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava).

Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore).

Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.

Zahtjevi za transparentnost

Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku.

Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje tih rizika te prijavljivanje incidenata. Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.

Izjave

Tijekom plenarne rasprave u utorak, suizvjestitelj Odbora za unutarnje tržište Brando Benifei (S&D, Italija) rekao je: „Konačno imamo prvi svjetski obvezujući zakon o umjetnoj inteligenciji, za smanjenje rizika, stvaranje prilika, borbu protiv diskriminacije i uvođenje transparentnosti.

Zahvaljujući Parlamentu, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Europi, a prava radnika i građana bit će zaštićena. Ured za umjetnu inteligenciju sada će biti uspostavljen kao podrška tvrtkama da se počnu pridržavati pravila prije nego ona stupe na snagu. Osigurali smo da ljudska bića i europske vrijednosti budu u samom središtu razvoja umjetne inteligencije.”

Suizvjestitelj Odbora za građanske slobode Dragos Tudorache (Renew, Rumunjska) rekao je: „EU je uspjela. Koncept umjetne inteligencije utkali smo u temeljne vrijednosti koje čine osnovu naših društava. Međutim, predstoji mnogo posla koji nadilazi sam Zakon o umjetnoj inteligenciji. Umjetna inteligencija će nas potaknuti da preispitamo društveni ugovor koji je u srcu naših demokracija, naše obrazovne modele, tržišta rada i način na koji vodimo rat. Zakon o umjetnoj inteligenciji polazište je za novi model upravljanja izgrađen oko tehnologije. Sada se moramo usredotočiti na provođenje ovog zakona u praksi”.
 

Poticanje inovacija te malih i srednjih poduzeća

Treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti start-up tvrtkama te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.
 

Sljedeći koraci

Uredbu još trebaju pregledati pravnici lingvisti, a očekuje se da će biti donesena prije kraja parlamentarnog saziva (u tzv. postupku ispravka).

Vijeće ju također treba službeno usvojiti. Stupit će na snagu dvadeset dana nakon objave u Službenom listu Europske unije i počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu). 
 

Kontekst
 
Zakon o umjetnoj inteligenciji izravno odgovara na prijedloge građana Konferencije o budućnosti Europe (COFE), konkretno na prijedlog 12. (10.) o jačanju konkurentnosti EU u strateškim sektorima, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, prijedlog 33. (5.) o sigurnom i pouzdanom društvu, uključujući suzbijanje dezinformacija i osiguravanje da ljudi u konačnici imaju kontrolu, prijedlog 35. o promicanju digitalnih inovacija, (3.) uz osiguravanje ljudskog nadzora i (8.) pouzdanu i odgovornu upotrebu umjetne inteligencije, postavljanje mjera zaštite i osiguravanje transparentnosti te prijedlog 37. (3.) o korištenju AI i digitalnih alata za poboljšanje pristupa građana informacijama, uključujući osobe s invaliditetom.