Upotreba umjetne inteligencije u EU-u regulirat će se Aktom o umjetnoj inteligenciji, prvim sveobuhvatnim zakonom o umjetnoj inteligenciji na svijetu. Saznajte kako će vas zaštititi.

U okviru svoje digitalne strategije EU želi regulirati umjetnu inteligenciju i osigurati bolje uvjete za razvoj i upotrebu te inovativne tehnologije. Umjetna inteligencija može donijeti brojne koristi, kao što je bolja zdravstvena skrb, sigurniji i čišći prijevoz, učinkovitija proizvodnja, jeftinija i održivija energija.

Komisija je u travnju 2021. predložila prvi regulatorni okvir EU-a za umjetnu inteligenciju. U sklopu njega se predlaže analiziranje i klasifikacija sustava umjetne inteligencije prema riziku koji predstavljaju za korisnike. Različite razine rizika značit će veću ili manju regulaciju. Kad se odobre, to će biti prva pravila o umjetnoj inteligenciji na svijetu.

Prioritet Parlamenta je osigurati da sustavi umjetne inteligencije u EU-u budu sigurni, transparentni, mogu se pratiti, ne diskriminiraju i ekološki su prihvatljivi. Trebali bi ih nadzirati ljudi kako bi se spriječili štetni ishodi.

Parlament također želi uspostaviti tehnološki neutralnu i ujednačenu definiciju umjetne inteligencije koja se može primijeniti na buduće sustave umjetne inteligencije.

Akt o umjetnoj inteligenciji: različita pravila za različite razine rizika

Novim pravilima utvrđuju se obveze za dobavljače i korisnike ovisno o razini rizika koji umjetna inteligencija predstavlja. Iako mnogi sustavi umjetne inteligencije predstavljaju minimalan rizik, potrebno ih je procijeniti.

Neprihvatljiv rizik

Rizik koji donose sustavi koji se smatraju prijetnjom ljudima je neprihvatljiv i takvi sustavi bit će zabranjeni. Među njima su:

• kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, primjerice, glasovno aktivirane igračke koje potiču opasno ponašanje kod djece
• bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja
• biometrijska identifikacija i kategorizacija fizičkih osoba
• sustavi biometrijske identifikacije u stvarnom vremenu i daljinski sustavi za biometrijsku identifikaciju, kao što je prepoznavanje lica

Neke iznimke mogu biti dopuštene za potrebe provedbe zakona. Sustavi daljinske biometrijske identifikacije u "stvarnom vremenu" bit će dopušteni u ograničenom broju ozbiljnih slučajeva, dok će korištenje sustava za daljinsku biometrijsku identifikaciju u kojima se identifikacija odvija sa znatnim kašnjenjem, a koristi se nakon odobrenja suda za kazneni progon kod počinjenja teških kaznenih djela biti dopušteno.

Visok rizik

Sustavi koji negativno utječu na sigurnost ili temeljna prava su visokorizični i bit će podijeljeni u dvije kategorije.

1. Sustavi koji se upotrebljavaju u proizvodima obuhvaćenima zakonodavstvom EU-a o sigurnosti proizvoda. Oni uključuju igračke, zrakoplovstvo, automobile, medicinske uređaje i dizala.

2. Sustavi iz posebnih područja morat će biti registrirani u bazi podataka EU-a:

upravljanje kritičnom infrastrukturom i njezin rad

• obrazovanje i strukovno osposobljavanje
• zapošljavanje, upravljanje radnicima i pristup samozapošljavanju
• pristup i korištenje osnovnih privatnih usluga i javnih usluga
• provedba zakona
• upravljanje migracijama, azilom i nadzor granica
• pomoć u pravnom tumačenju i primjeni zakona

Svi visokorizični sustavi umjetne inteligencije trebaju se procijeniti prije stavljanja na tržište i tijekom njihova životnog ciklusa.

Opća i generativna umjetna inteligencija

Generativna umjetna inteligencija, kao što je ChatGPT, morat će ispunjavati zahtjeve za transparentnost:

• informaciju da je sadržaj generiran umjetnom inteligencijom
• korištenje modela koji sprječava stvaranje nezakonitog sadržaja
• objavljivanje sažetaka podataka zaštićenih autorskim pravima koji se upotrebljavaju za obuku

Modeli umjetne inteligencije opće namjene koji imaju veliki utjecaj i mogu predstavljati sistemski rizik, kao što je napredniji model umjetne inteligencije GPT-4, trebaju se detaljno ocijeniti, a svi ozbiljni incidenti prijaviti Komisiji.

Ograničeni rizik

Sustavi s ograničenim rizikom trebat će ispunjavati minimalne zahtjeve transparentnosti koji korisnicima omogućavaju donošenje informiranih odluka. Nakon interakcije s aplikacijama, korisnik može odlučiti hoće li ih nastaviti koristiti. Korisnici trebaju znati kad su u interakciji s umjetnom inteligencijom. To uključuje sustave koji generiraju ili manipuliraju slikom, audiosadržajem ili video sadržajem (npr. deepfakes).

Sljedeći koraci

Parlament je 9. prosinca 2023. postigao privremeni dogovor s Vijećem o aktu o umjetnoj inteligenciji. Parlament i Vijeće sada trebaju službeno odobriti dogovoreni tekst kako bi on postao zakon.

Parlamentarni odbori za unutarnje tržište i građanske slobode glasat će o dogovoru na jednoj od sljedećih sjednica.