Prva svjetska regulativa o umjetnoj inteligenciji djelomično je stupila na snagu, a odmah nakon toga EU je objavila posebne smjernice za njezinu primjenu

· Sanja Ledinek

Prva svjetska regulativa o umjetnoj inteligenciji djelomično je stupila na snagu, a odmah nakon toga EU je objavila posebne smjernice za njezinu primjenu

Prema izvješću, Europska unija je predstavila nacrt smjernica za “Akt o umjetnoj inteligenciji” (AI Act). Cilj je dodatno pojasniti kako poslodavci, platforme, web stranice i druge organizacije mogu koristiti AI u skladu s pravilima. No, važno je napomenuti da ove smjernice nisu pravno obvezujuće – više služe kao referenca za provedbu zakona, što je u nadležnosti Europskog suda pravde.

Prema novim smjernicama, ako tvrtke koriste AI tehnologiju za manipulaciju, obmanu ili diskriminaciju – primjerice kroz “zatamnjena stakla”, odnosno prikrivene algoritamske pristranosti – prijete im kazne do 35 milijuna eura ili 7% globalnog prihoda. Ipak, postoje iznimke, poput kaznenih istraga, medicinske primjene, vojne upotrebe, znanstvenih istraživanja i osobne nekomercijalne upotrebe.

Kategorije rizika u “Aktu o umjetnoj inteligenciji”

Zakon dijeli AI sustave u četiri kategorije prema razini rizika:

  • Neprihvatljiv rizik – potpuno zabranjene prakse
  • Visoki rizik – strogo regulirani sustavi
  • Transparentni rizik – zahtijevaju jasno označavanje korištenja AI-a
  • Minimalni rizik – slobodna primjena

Od 2. veljače ove godine na snagu je stupila prva skupina pravila, što znači da su “neprihvatljive” AI prakse sada službeno zabranjene. To uključuje podsvjesnu manipulaciju i diskriminirajuće algoritme. Cijeli zakon stupa na snagu 1. kolovoza sljedeće godine, a smjernice će se ažurirati prema iskustvima u provedbi i tehnološkom napretku.

Nacrt smjernica možete pronaći ovdje.

Što je zabranjeno prema novim pravilima?

1. Manipulacija, prijevara i iskorištavanje: Korištenje AI-a za podsvjesno utjecanje na ljude kroz subliminalne tehnike, poput neprimjetnih bljeskova u oglasima. Također, zabranjene su tehnike koje iskorištavaju ranjive skupine, primjerice dizajniranje sučelja koje manipulira starijim osobama da nešto kupe.

2. Društveni rejting: Sustavi koji rangiraju ljude na temelju ponašanja ili osobnosti su zabranjeni ako uključuju  korištenje podataka iz nepovezanih izvora, nepravedno ili nesrazmjerno različito postupanje. Primjer: praćenje društvenih mreža radi odlučivanja o zapošljavanju ili bodovanje građana za pristup kreditima.

3. Predviđanje kriminalnog rizika: AI ne smije procjenjivati nečiju “vjerojatnost” počinjenja zločina na temelju osobnih karakteristika, poput osobnosti ili kulturne pripadnosti. Dopušteno je samo ako se temelji na provjerljivim činjenicama povezanima s kriminalnim aktivnostima.

4. Masovno snimanje lica: Zabranjeno je prikupljanje velikih količina slika lica s interneta i nadzornih kamera za baze podataka za prepoznavanje lica – osim ako postoji izričit pristanak korisnika.

5. Prepoznavanje emocija: Zabranjeno je analiziranje emocija zaposlenika ili učenika putem kamera. Dopušteno je samo u medicinske ili sigurnosne svrhe, primjerice u dijagnostici mentalnih bolesti.

6. Biometrijska identifikacija u stvarnom vremenu: AI sustavi koji prepoznaju ljude putem biometrijskih podataka (poput prepoznavanja lica) na javnim mjestima zabranjeni su za provođenje zakona, osim u specifičnim slučajevima poput potrage za nestalom osobom ili sprečavanja terorističkog napada.

Prva svjetska regulativa o umjetnoj inteligenciji djelomično je stupila na snagu, a odmah nakon toga EU je objavila posebne smjernice za njezinu primjenu_1

Što zakon ne regulira?

Postoje tri iznimke u kojima zakon ne vrijedi:

  • Nacionalna sigurnost i vojna uporaba
  • AI sustavi u fazi istraživanja (ali moraju zadovoljiti zakon ako se kasnije komercijaliziraju)
  • Osobna, nekomercijalna upotreba (npr. AI za kućni nadzor)

Kazne i nadzor

Svaka država članica EU-a mora imenovati regulatorno tijelo za nadzor AI-a, dok je EU Supervizor za zaštitu podataka zadužen za AI sustave unutar institucija EU-a. Maksimalna kazna iznosi 35 milijuna eura ili 7% globalnog prihoda tvrtke (ovisno o tome što je veće). Javne ustanove mogu biti kažnjene s maksimalno 1,5 milijuna eura. Ako se prekrši više pravila odjednom, kazne se ne zbrajaju.

Što slijedi?

“Akt o umjetnoj inteligenciji” postavlja globalni presedan, ali suočava se s protivljenjem velikih tehnoloških kompanija. Meta, Apple i francuski AI startup Mistral AI nisu potpisali prijedlog zakona. Osim toga, bivši američki predsjednik Trump izrazio je neslaganje, tvrdeći da EU koristi regulaciju kao “oporezivanje” američkih tvrtki. Osim AI regulative, sustavi također moraju poštivati i druge zakone, poput GDPR-a, zakona o oglašavanju i propisa o digitalnim uslugama (DSA).

Zaključno, iako je EU prva u svijetu u donošenju sveobuhvatnog AI zakona, njegova provedba i prilagodba industrije bit će veliki izazov.

DRUGE NOVOSTI