Parlament i Vijeće Europske unije napravili su novi korak prema reguliranju umjetne inteligencije, donošenjem nacrta zakona poznatog kao AI Act. To je prvi sveobuhvatnim zakon o umjetnoj inteligenciji na svijetu, konačna verzija tek treba biti napravljena, a iako uključuje biometrijsku identifikaciju i klasifikaciju ljudi koja nije u realnom vremenu, (što radi Kina, koja svoje građane boduje), koja je ocijenjena kao visokorizična, trebala bi biti "sigurna i transparentna", bar tako uvjerava zakonodavac.
Europski parlament je u srijedu objavio da su za novu regulativu usuglasili svoje pregovaračko stajalište, s kojim sada idu na pregovore s ostalim institucijama EU. Cilj je postizanje dogovora do kraja godine. Umjetna inteligencija koja se razvija i upotrebljava u Europi mora, poručili su, biti u potpunom skladu s pravima i vrijednostima EU-a, uključujući područja ljudskog nadzora, sigurnosti, privatnosti, transparentnosti, nediskriminacije i ekološke dobrobiti.
Sustavi iz osam područja, među kojima je i biometrijska identifikacija i kategorizacija fizičkih osoba morat će biti registrirani i prethodno procijenjeni.
Što je neprihvatljivo?
U prijedlogu zakona traži se zabrana prodaje uređaja koji pokazuju kognitivnu manipulaciju ponašanjem. Na primjer, igračaka s glasovnom aktivacijom za koje se smatra da potiču opasno ponašanje kod djece. Bit će zabranjene i tehnologije koje klasificiraju ljude na temelju njihovog društveno-ekonomskog statusa ili osobnih karakteristika. Rizik koji donose sustavi koji se smatraju prijetnjom ljudima je neprihvatljiv i takvi sustavi bit će zabranjeni. Među njima su:
- kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, primjerice, glasovno aktivirane igračke koje potiču opasno ponašanje kod djece
- bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja
- sustavi biometrijske identifikacije u stvarnom vremenu i daljinski sustavi za biometrijsku identifikaciju, kao što je prepoznavanje lica
Što je s generativnom UI?
Neke iznimke mogu biti dopuštene, poput korištenja sustava za daljinsku biometrijsku identifikaciju u kojima se identifikacija odvija sa znatnim kašnjenjem, a koristi se nakon odobrenja suda za kazneni progon kod počinjenja teških kaznenih djela.
Generativna umjetna inteligencija, kao što je ChatGPT, morat će ispunjavati zahtjeve za transparentnost:
- informaciju da je sadržaj generiran umjetnom inteligencijom
- korištenje modela koji sprječava stvaranje nezakonitog sadržaja
- objavljivanje sažetaka podataka zaštićenih autorskim pravima koji se upotrebljavaju za obuku
U međuvremenu će se tehnologije koje se smatraju "visokorizičnim" morati registrirati u posebnoj bazi podataka, a to uključuje sustave umjetne inteligencije za biometrijsku identifikaciju.
Zastupnici Europskog parlamenta, Europske komisije i Vijeća Europske unije još trebaju poraditi na detaljima za konačnu verziju zakona.
