Google Gemini suočen s masovnim pokušajima kopiranja tehnologije: više od 100.000 sumnjivih upita
Kako se globalna utrka u razvoju umjetne inteligencije dodatno ubrzava, zaštita temeljnih tehnoloških rješenja postaje jedan od ključnih prioriteta za vodeće tehnološke kompanije. Google je objavio da je njegov napredni AI chatbot Gemini nedavno postao meta opsežne kampanje pokušaja kopiranja tehnologije putem tzv. „destilacijskih napada”.
Prema službenom izvješću, skupina napadača poslala je više od 100.000 posebno dizajniranih upita s ciljem analiziranja načina rada modela i pokušaja rekonstrukcije njegovih internih mehanizama. Za razliku od klasičnih cyber napada koji ciljaju infrastrukturu ili sigurnosne propuste, ovakvi napadi fokusiraju se na eksploataciju samog ponašanja umjetne inteligencije.
Što su destilacijski napadi?
Google ovakve aktivnosti naziva „destilacijom modela” ili napadima ekstrakcije. Metoda se temelji na slanju velikog broja precizno formuliranih upita kako bi se identificirali obrasci odgovora, logika rezoniranja i struktura donošenja zaključaka unutar AI sustava. Cilj je prikupiti dovoljno podataka za treniranje alternativnog modela koji oponaša funkcionalnost originalnog rješenja. Prema dostupnim informacijama, dio upita bio je usmjeren na otkrivanje načina na koji Gemini obrađuje informacije i donosi zaključke, što bi potencijalno moglo pomoći konkurentima u razvoju vlastitih modela.
Tko stoji iza napada?
Google navodi da se iza aktivnosti vjerojatno nalaze privatne tvrtke ili komercijalno motivirani istraživači koji nastoje ubrzati razvoj vlastitih AI rješenja i steći tržišnu prednost. Aktivnosti su zabilježene iz više regija svijeta, no kompanija zasad nije objavila konkretne identitete sudionika. Tvrtka ovakve pokušaje smatra oblikom krađe intelektualnog vlasništva, s obzirom na to da su veliki jezični modeli rezultat višegodišnjeg razvoja i ulaganja vrijednih milijarde dolara. Iako su implementirani sustavi za detekciju anomalija i blokiranje sumnjivih aktivnosti, Google priznaje da su javno dostupni AI sustavi inherentno izloženi pokušajima iskorištavanja.
Rastući sigurnosni izazovi u AI industriji
John Hultquist, glavni analitičar za obavještajne podatke o prijetnjama u Googleu, istaknuo je da opseg napada na Gemini sugerira kako bi slične metode uskoro mogle postati standardna praksa u industriji. To je osobito relevantno kako sve veći broj tvrtki razvija vlastite AI modele temeljene na osjetljivim ili vlasničkim podacima. Sličan incident zabilježen je i prošle godine, kada je OpenAI javno prozvao konkurentsku tvrtku DeepSeek zbog navodnog korištenja ekstrakcijskih tehnika nad ChatGPT-om s ciljem unapređenja vlastitog modela.
Zaključak
Incident s Gemini modelom dodatno naglašava ključnu dilemu modernih AI sustava: kako istovremeno osigurati široku dostupnost i korisnost tehnologije, a pritom zaštititi intelektualno vlasništvo i temeljne algoritamske inovacije. Kako konkurencija u području umjetne inteligencije nastavlja rasti, sigurnosni izazovi poput destilacijskih napada vjerojatno će postati sve učestaliji.
