Kad AI postane haker: Microsoft Defender poražen nakon samo nekoliko treninga
Utrka između napadačke i obrambene umjetne inteligencije je počela. Ako umjetna inteligencija može samostalno naučiti izraditi i sakriti zlonamjerni kod od antivirusnog softvera — tko uistinu kontrolira vaše računalo?
Kad umjetna inteligencija piše zlonamjerni softver
Zamislite alat temeljen na umjetnoj inteligenciji koji, nakon samo nekoliko ciklusa učenja, samostalno generira zlonamjerni kod i uspješno izbjegava otkrivanje od strane Microsoft Defendera. Nije potreban iskusni haker ni sofisticirana infrastruktura — dovoljan je pravilan pristup treniranju AI-ja. To nije znanstvena fantastika, već stvarni rezultat istraživanja Kylea Averyja, predstavljenog na konferenciji Black Hat 2025. S budžetom od svega 1500 dolara i trajanjem od tri mjeseca, Avery je koristio open-source model Qwen 2.5 i učenje s pojačanjem (reinforcement learning) kako bi osposobio AI da zaobiđe sustave detekcije poput Defendera. Rezultat? Stopa uspješne utaje detekcije iznosila je 8 %.
AI koja uči kroz pokušaje i pogreške
Za razliku od tradicionalnog programiranja, Averyjev model je stavljen u simulirano okruženje sa stvarnim instaliranim Microsoft Defenderom. Svaki put kada bi generirao zlonamjerni kod, testiralo bi se može li se pokrenuti i je li otkriven. Povratna informacija služila je kao smjernica za sljedeći pokušaj. U početku, uspjeh je bio zanemariv — no nakon tisuća pokušaja, model je postigao 8 % uspješnog zaobilaženja Defendera. Možda se čini malo, ali u slučaju masovnog napada, to je više nego dovoljno za ozbiljne posljedice.
Zastrašujuće? Da. Panika? Ne.
Loša vijest: AI može pomoći napadačima u stvaranju učinkovitijeg zlonamjernog softvera.
Dobra vijest: Microsoft Defender i dalje blokira 92 % prijetnji. Osim toga, mnogi obrambeni sustavi danas koriste višeslojnu zaštitu — od analize ponašanja do otkrivanja anomalija putem strojnog učenja.
No, ovaj eksperiment jasno pokazuje novi smjer prijetnji: hakerima više nisu potrebne vrhunske vještine, već samo sposobnost treniranja umjetne inteligencije. Takozvani script kiddies sada mogu razviti sofisticiranije prijetnje nego ikada prije.
Što možemo učiniti?
Iako se napadačka AI razvija, obrambena AI ne zaostaje. Sve više sigurnosnih alata koristi strojno učenje za otkrivanje nepoznatih prijetnji, uključujući zlonamjerni softver koji se još nije pojavio u bazama podataka. Za prosječnog korisnika ne zahtijeva se napredna priprema. No, osnovne sigurnosne mjere su i dalje važne:
- Redovito ažurirajte operativni sustav i softver
- Koristite renomirani antivirusni program
- Ne otvarajte sumnjive datoteke i poveznice
- Održavajte osnovnu digitalnu higijenu, čak i ako mislite da niste “meta”
Napadačka vs. obrambena AI – utrka koja ne prestaje
Averyjev rad nije zamišljen da širi strah, već da upozori: umjetna inteligencija sada oblikuje obje strane sukoba — i napad i obranu. Sustavi koji se najbrže prilagođavaju bit će oni koji preživljavaju i štite. U eri umjetne inteligencije nijedan sustav nije potpuno siguran. No ako ostanete informirani i proaktivni, još uvijek možete imati kontrolu — a ne biti žrtva.
