Skandal s vrućim fotografijama šokirao je Europu: tvrtka Elona Muska dobila je “ultimatum” za istragu
Skandal povezan s pornografskim slikama generiranima umjetnom inteligencijom izazvao je snažan val ogorčenja diljem Europe te prisilio europske institucije na hitnu reakciju. Posebno zabrinjava činjenica da su se takvi sadržaji odnosili na političare i djecu, što je otvorilo ozbiljna pitanja o zloupotrebi AI tehnologije i odgovornosti platformi koje je nude. Europska komisija izdala je obavezni zahtjev društvenoj mreži X, u vlasništvu Elona Muska, kojim se nalaže pohrana svih internih podataka povezanih s AI chatbotom Grok do kraja 2026. godine. Ova odluka donesena je kako bi se osiguralo da relevantni dokazi ostanu dostupni za regulatorni nadzor i eventualnu istragu.
Prema navodima Reutersa, glasnogovornik Europske komisije potvrdio je 8. siječnja da je platformi X naređeno produljenje razdoblja čuvanja internih dokumenata vezanih uz razvoj i rad Groka. Cilj ove mjere je praćenje usklađenosti s propisima Europske unije, osobito sa Zakonom o digitalnim uslugama.
Povod za ovu odluku bila je rastuća kritika na račun Groka zbog generiranja lažnih pornografskih slika poznatih osoba, poznatih kao deepfake sadržaj. Posebnu pozornost izazvao je slučaj u kojem je alat korišten za izradu uvredljivih pornografskih slika usmjerenih na zamjenicu premijera Švedske. Švedski premijer Ulf Kristersson reagirao je oštro, nazvavši takav čin odvratnim i neprihvatljivim oblikom seksualnog nasilja te upozorivši na ozbiljne rizike koje zloupotreba tehnologije predstavlja za ljudsko dostojanstvo.
Problem se, međutim, ne zaustavlja na javnim osobama. Još veća zabrinutost odnosi se na sigurnost djece. Britanski premijer Keir Starmer pozvao je na hitne mjere nakon što je organizacija Internet Watch Foundation objavila izvještaj prema kojem je Grok korišten za stvaranje pornografskih slika djece, pri čemu se procjenjuje da su žrtve imale između 11 i 13 godina. Predstavnici IWF-a upozorili su da nedovoljno stroga kontrola AI alata nove generacije može nenamjerno potaknuti širenje ilegalnog i izrazito štetnog sadržaja koji uključuje maloljetnike.
Suočena s ozbiljnošću situacije, Europska komisija odlučila je pojačati nadzor. Glasnogovornik Komisije Thomas Regnier potvrdio je da nova naredba zahtijeva od X-a produljeno čuvanje internih dokumenata vezanih uz Grokove algoritme i operativne procese. Ova mjera predstavlja proširenje postojećeg nadzora uvedenog prošle godine, ali uz znatno stroži pristup. Cilj je osigurati da svi relevantni dokazi o funkcioniranju sustava ostanu netaknuti kako bi se mogla procijeniti usklađenost s europskim zakonodavstvom. Iako ova odluka ne znači automatsko pokretanje nove službene istrage, ona predstavlja ozbiljno upozorenje i snažan regulatorni pritisak na platformu Elona Muska.
Društvena mreža X zasad nije dala službeni komentar na najnoviji zahtjev Europske unije. Ranije je, međutim, X-ov tim zadužen za sigurnost tvrdio da platforma ima mehanizme za uklanjanje ilegalnog sadržaja te da trajno suspendira račune koji krše pravila. Tvrtka je također navela da će korisnici koji koriste AI za stvaranje zabranjenog sadržaja snositi iste posljedice kao i oni koji takav sadržaj izravno objavljuju.
Unatoč tim tvrdnjama, suočen s rastućim regulatornim pritiskom iz Europe, X će morati pružiti konkretnije dokaze i snažnije obveze kako bi uvjerio vlasti da može učinkovito kontrolirati i ograničiti zloupotrebu svog AI alata.
