Znanstvenici EU protiv AI nadzora i društvenog ocjenjivanja
Iako u zadnje vrijeme zakoni koji dolaze iz EU, a vezani su uz slobodnu interneta i tehnologija ne ulijevaju povjerenje u budućnost, jedno izvješće unosi tračak nade.
Skupina stručnjaka koju je osnovala Europska Komisija kako bi dostavili prijedlog smjera politike i ulaganja EU institucija pod nazivom AI HLEG (AI High-Level Expert Group) što su nedavno i učinili.
Prije no što krenemo u detalje spomenimo samo da se trenutačno u Kini provodi testni projekt masovnog nadzora građana, koristeći AI tehnologije, koji vas prati te ocjenjuje vrstu i prihvatljivost vašeg ponašanja u društvu, a sustav ocjenjivanja uključuje kriminalni dosje, kreditnu sposobnost, zdravlje, a sve kako bi procijenili vašu korist društvu i pristup javnim servisima. Za sada „kazne“ su bile hoćete li se moći ukrcati na vlak ili avion, a nedavno su pokrenuli i program nadzora djece u školama gdje se boduje njihovo emocionalno stanje i način na koji se odnose prema nastavi.
Vezano uz smjer razvoja AI tehnologija, ako će se isto orijentirati prema preporukama navedenog izvješća, EU bi se mogla odlučiti za kompletno suprotan smjer. Kao primarni smjerovi razvoja i prijedlozi ulaganja, pogotovo što se tiče državnih ulaganja, navodi se pripremanje AI za pomoć i povećanje kvalitete obrazovanja te pokušaj pronalaska novih metoda u kojima AI može pomoći svijetu.
Dvije su glavne poruke, prva da su masovni nadzor i društveno ocjenjivanje apsolutno neprihvatljivi. Pogotovo kada se uzima u obzir emocionalna analiza djece, gdje u ovom trenutku ne samo da ljudska rasa kao takva ne posjeduje dovoljna znanja za analizu takvog ponašanja te posljedice koje bi represija mogla imati na razvoj djece nego i činjenica da AI ne može sa 100% sigurnošću analizirati ponašanje kod odraslih, a kamoli kod djece. Druga poruka pak govori o puno ozbiljnijoj kontroli razvoja samog AI-a s puno čvršćom etikom koja će se na razvoj primjenjivati kako se stvari danas sutra ne bi otele kontroli.
Naravno kao i kod svega, postoje dvije strane medalje – s jedne strane imamo one koji hvale ovakvo izvješće, a s druge strane neki smatraju da je navedeno preblago, da je srž problema previše pojednostavljena, a da su linije koje se niti pod razno ne bi smjele preći nedovoljno jasne i ono najgore od svega – na njih se utječe od strane lobista koji imaju komercijalne koristi od razvoja AI industrije uz malo ili kompletno bez nadzora.
