Europska unija je donijela Zakon o umjetnoj inteligenciji

· Sanja Ledinek

Machine learning reaction and ai artificial intelligence.Chat b

Zakon o umjetnoj inteligenciji (AI Act) još treba odobriti Vijeće Europske unije i stupit će na snagu 20 dana nakon njegove objave. Očekuje se da će biti u potpunosti proveden dvije godine nakon stupanja na snagu.

Time postaju strogo zabranjena upotreba funkcija i usluga primjene umjetne inteligencije koje predstavljaju očite rizike za temeljna prava, kao što su aplikacijske usluge koje mogu uključivati obradu osobnih biometrijskih informacija. Osim toga, tehnologije umjetne inteligencije koje se upotrebljavaju u obrazovanju, zdravstvu, pravu, nadzoru granica, izborima itd., klasificirat će se kao visokorizični projekti i moraju biti u skladu s iznimno strogim zahtjevima i propisima.

“Novi propisi zabranit će određene primjene umjetne inteligencije koje ugrožavaju ljudska prava, uključujući biometrijske sustave klasifikacije koji se temelje na osjetljivim čimbenicima, kao i objedinjavanje baza podataka o ponašanju s interneta i CCTV-a kako bi se stvorile baze podataka za prepoznavanje lica. Neke iznimke morat će se posebno navesti i strogo njima upravljati, na primjer kada treba pretraživati nestalu djecu, kako bi se spriječio rizik od terorističkih napada ili identificirali, pratili i kazneno gonili osumnjičenici za kaznena djela. Također će zabraniti tehnologije koje prepoznaju emocije u školama i na radnim mjestima, procjenjuju ocjene državljanstva, upravljaju sigurnošću na temelju probabilističkih predviđanja i umjetne inteligencije koje manipuliraju ljudskim ponašanjem ili iskorištavaju ljudske slabosti.”

Postoje i propisi o tehnologijama umjetne inteligencije kao što su one koje se upotrebljavaju za filtriranje neželjene pošte, što znači da sve moraju biti u skladu s relevantnim propisima. Što se tiče tvrtki koje pružaju automatske generativne sustave umjetne inteligencije i chatbota, uključujući OpenAI, Google, Microsoft, Anthropic, AWS itd., usluge koje pružaju moraju biti regulirane od strane jedinica EU-a kako bi se izbjegli veći rizici. Moraju održavati otvorenost i transparentnost u svojim metodama, modelima i drugim informacijama o umjetnoj inteligenciji te biti u skladu sa zakonima i propisima o autorskim pravima u EU-u.

EU predlaže nova pravila o autorskim pravima za AI

Znanstvenici EU protiv AI nadzora i društvenog ocjenjivanja

Podsjetimo, AI sustavi se klasificiraju u jednu od četiri kategorije rizika, ovisno o potencijalnoj šteti koju mogu prouzročiti:

  • Neprihvatljiv rizik: Sustavi koji su zabranjeni jer predstavljaju neproporcionalnu prijetnju ljudskim pravima i slobodama.
  • Visok rizik: Sustavi koji su podložni strogim zahtjevima za nadzorom i certificiranjem.
  • Ograničen rizik: Sustavi koji su podložni manje strožim zahtjevima.
  • Minimalan rizik: Sustavi za koje se ne smatra da predstavljaju značajan rizik.

Ako se utvrdi da je riječ o prekršaju, maksimalna kazna iznosit će 35 milijuna eura, odnosno 7 posto ukupnog globalnog prometa kompanije/tvrtke koje krši zakon, ovisno o tome koja je brojka veća, kazna će se temeljiti na toj cifri. Za više detalja pogledajte web stranicu Europske komisije o AI Act-u.

DRUGE NOVOSTI