Uz ChatGPT lako je stvoriti zlonamjerni kod
Zabrinutost da bi OpenAI ili bilo koji AI alat mogao postati dvosjekli mač ako ga zlorabe loši akteri nije bila bez osnove.
Prema izvješću tvrtke Check Point, postoje nekoliko hakera (crnih šešira) koji na Dark Web forumima dijele zlonamjerni kod za krađu informacija stvoren pomoću ChatGPT-a na temelju jezika Python. Ovaj kod može pretraživati, kopirati i infiltrirati se u 12 vrsta datoteka kao što su Office dokumenti, PDF-ovi i slike na zaraženim računalima. Među njima, jedan otkriva da je koristio ChatGPT za pisanje koda na jeziku Java, s funkcijom tihog preuzimanja softvera za kontrolu udaljenog poslužitelja i njegovog potajnog pokretanja na zaraženom računalu.
Najviše pažnje privlači objava hakera pod nadimkom USDoD. Budući da nema razinu stručnosti potrebnu za pisanje zlonamjernog koda u Pythonu zanimalo ga je što može po tom pitanju odraditi ChatGPT. Na njegovo iznenađenje dobio je alat napisan u Pythonu s potrebnom funkcionalnošću koji pokazuje potencijal da se razvije u ransomware.
Što je ChatGPT – trend koji će eksplodirati 2023.
Kao rezultat toga, pokazalo se da zabrinutost kibernetičkih stručnjaka sigurnosti nije bio bezratložan jer ChatGPT kriminalcima niske razine daje priliku da razviju zlonamjerni softver. Osim toga napredniji kibernetički kriminalci također mogu iskoristiti prednosti ChatGPT-a za poboljšanje operativne učinkovitosti, popunjavanje rupa u svojim kvalifikacijama ili znanju i ne moraju vladati s previše programskih jezika. Mora se dodati da je, u ovom trenutku, činjenica da su alati umjetne inteligencije još uvijek prilično ‘slabi’ i ne baš pouzdani, zbog čega hakeri crnih šešira mogu malo oklijevati oslanjati se na umjetnu inteligenciju. Međutim, kako ovi alati postaju zreliji, rizik od zlouporabe dugoročno ostaje.
Kako bi kibernetičkim kriminalcima bilo teže zlouporabu tehnologije, programeri će morati obučiti i poboljšati svoje AI alate koji mogu identificirati zahtjeve za koje se sumnja da služe zlonamjernim namjerama. Također može se razmotriti još jedna opcija, a to je primjena zahtjeva za autentifikaciju i autorizaciju za korištenje alata OpenAI – slično onome što rade online financijske institucije ili usluge plaćanja.
