EU predlaže stroga pravila za AI umjetnu inteligenciju
Nakon uvođenja GDPR-a u EU, osvanuo je nacrt novih pravila o umjetnoj inteligenciji (AI), koja stvaraju opseg uporabe budući još uvijek ima niz čimbenika rizika.
Nacrt uredbe postavlja pravila ograničenja upotrebe umjetne inteligencije u nizu aktivnosti, od samostalnih automobila do odluka o zapošljavanju, posudbi u bankama ili bodovanju na ispitima. Obuhvaća upotrebu umjetne inteligencije od strane zakona i sudskih sustava što su područja koja se smatraju „visokim rizikom“ jer mogu ugroziti sigurnost ljudi ili temeljna prava. Također, predlaže se da neke uporabe algoritma poput prepoznavanje lica uživo u javnim prostorima potpuno zabrane, iako bi bilo nekoliko izuzeća za nacionalnu sigurnost, borbu protiv terorizma i druge svrhe kao što je potraga za nestalim djetetom.
Istodobno, zabranjeni su i AI sustavi dizajnirani za “manipuliranje ljudskim ponašanjem, odlukama ili mišljenjima u štetne svrhe”, te sustavi koji koriste osobne podatke za generiranje predviđanja iskorištavanjem i pojačavanjem ranjivosti ljudi ili društvenih skupina.
Nadalje, AI algoritmi s ograničenim rizikom, kao što je chat bot, trebali bi imati opciju da korisnici sami odlučuju žele li nastaviti razgovarati ili s kime žele razgovarati, dok niskog rizika, poput sustava za filtriranje neželjene pošte nisu obuhvaćeni nadzornim metodama.
Propisi Europske unije zahtijevali bi od tvrtki koje pružaju umjetnu inteligenciju u područjima s visokim rizikom da regulatorima pruže dokaze o sigurnosti, uključujući procjene rizika i dokumentaciju koja objašnjava kako tehnologija donosi odluke. Tvrtke također moraju jamčiti ljudski nadzor nad načinom na koji se sustavi stvaraju i koriste. Tvrtkama koje prekrše pravila izriče se novčana kazna od 6 % njihovih prihoda. Ovi propisi zasigurno će imati imali dalekosežne implikacije za tehnološke tvrtke poput Amazona, Googlea, Facebooka i Microsofta.
