Državni hakeri zloupotrebljavaju alate umjetne inteligencije za kibernetičke napade, ali ne i za generiranje cijelih napada
Pet hakerskih organizacija koje rade za države poput Kine, Rusije, Irana i Sjeverne Koreje koristile su alate umjetne inteligencije (AI) da podrže svoje zlonamjerne aktivnosti, ali nisu ih uspješno upotrijebili za pokretanje cijelih napada, prema izvješću OpenAI i Microsofta.
Umjetna inteligencija im je uglavnom pomogla u traženju javnih informacija, prijevodima, pronalaženju grešaka u kodu i obavljanju osnovnih programskih zadataka.
Na primjer, ruska hakerska grupa Forest Blizzard (poznata i kao Strontium) koristila je alat ChatGPT uglavnom za istraživanje protokola satelitske komunikacije i tehnologije radarskog snimanja, te za podršku u skriptiranju. Sjevernokorejska hakerska grupa Emerald Sleet (poznata i kao Thallium) koristila je velike jezične modele poput GPT-4 za istraživanje poznatih ranjivosti i generiranje phishing sadržaja. Iranska grupa Crimson Sandstorm (ranije poznata kao Curium) zloupotrebila je usluge OpenAI-a za skriptiranje za razvoj aplikacija i web stranica, ciljane kampanje i istraživanje uobičajenih metoda za izbjegavanje otkrivanja zlonamjernog softvera.
Dvije otkrivene kineske grupe zloupotrijebile su alate za istraživanje tvrtki, alat za kibernetičku sigurnost i obavještajne agencije. Također su koristile usluge za prevođenje tehničkih dokumenata i pomoć u programiranju. OpenAI je zatvorio račune povezane s tim aktivnostima.
Hakeri ukrali Tesla automobil s pametnim telefonom
Fortinet: zlonamjerni softver se sve više širi i hakeri iskorištavaju kritične ranjivosti
Iako OpenAI ima sigurnosne mjere za sprečavanje zlouporabe alata za pisanje koda zlonamjernog softvera, ovo istraživanje pruža vrijedan uvid u metode rada takvih hakerskih skupina. Informacije iz izvješća mogu pomoći u podizanju svijesti javnosti o potencijalnim opasnostima i važnosti ranog otkrivanja sumnjivog ponašanja kako bi se spriječilo zloupotrebi umjetne inteligencije.
Izvješće također upozorava na buduće prijetnje poput lažnih telefonskih poziva s glasovima generiranim umjetnom inteligencijom.
