Pet glavnih prijetnji koje uzrokuju AI i DeepFake – stručnjaci preporučuju kako se zaštititi

Najnovije izvješće o   kibernetičkoj sigurnosti koje je objavio Palo Alto Networks,  ističe da će mo se u  2025. godini suočiti s pet velikih prijetnji kibernetičkoj sigurnosti. Ove prijetnje uključuju umjetnu inteligenciju, kvantnu tehnologiju, sigurnost opskrbnog lanca i druga područja te će predstavljati ozbiljne izazove sigurnosti podataka i operacijama u svim sferama života.

1. Cyber ​​napadi vođeni umjetnom inteligencijom nadograđuju AI kako bi postao temeljni zaštitni alat

U izvješću se prvo ističe da ćemo se u    2025. godini suočiti s cyber prijetnjama koje pokreće umjetna inteligencija (AI). Kako tehnologija umjetne inteligencije bude napredovala, hakeri će koristiti modele umjetne inteligencije za pokretanje snažnijih cyber napada koje je teže spriječiti.

Palo Alto Networks rekao je da je u prošlosti 40% poslovnih čelnika reklo da mnogi ljudi nemaju razumijevanja za rizike koje predstavljaju nove generativne AI tehnologije. Do 2025. umjetna inteligencija će postati srž strategija kibernetičke sigurnosti. Organizacije će koristiti umjetnu inteligenciju za proaktivno smanjenje rizika, a također će morati zaštititi svoje modele umjetne inteligencije od prodiranja napadača. Stoga se tvrtke moraju brzo prebaciti na jedinstvenu platformu kibernetičke sigurnosti koju pokreće AI umjesto da se oslanjaju na fragmentirane obrambene metode. Samo na taj način možemo sveobuhvatno pratiti i odgovoriti na eskalaciju kibernetičkih napada uzrokovanih umjetnom inteligencijom. U isto vrijeme, poboljšanje transparentnosti i objašnjivosti AI modela također je jedini način da se pridobije povjerenje korisnika. Felix Zheng, direktor sistemskog inženjeringa za Palo Alto Networks Hong Kong i Greater Bay Area, vjeruje da će hakeri u budućnosti uvelike povećati brzinu napada zbog prevalencije umjetne inteligencije.

2. DeepFake će postati mainstream metoda napada

Izvješće je drugo istaknulo da će tehnologija deepfake postati glavna metoda napada.   Kriminalci će koristiti generativnu umjetnu inteligenciju za stvaranje vrlo realističnih lažnih videa i zvuka za izvođenje financijskih prijevara i drugih napada. Na primjer, inženjerska tvrtka u Hong Kongu jednom je naišla na hakere koji su koristili duboke krivotvorine kako bi imitirali glas glavnog financijskog direktora kako bi naveli zaposlenike da šalju milijune dolara. Uz kontinuirani napredak tehnologije dubokog lažiranja, možemo očekivati ​​da će ova vrsta preciznih prijevarnih napada usmjerenih na poduzeća postati sve intenzivnija 2025.

U tu svrhu, tvrtke moraju ojačati obuku zaposlenika o svijesti o sigurnosti i poboljšati njihovu sposobnost prepoznavanja dubokog lažnog sadržaja. U isto vrijeme, upotreba napredne tehnologije audio i video verifikacije također može učinkovito spriječiti ovu prijetnju u nastajanju. Tvrtke mogu zaštititi vlastitu sigurnost u mrežnom okruženju koje se neprestano mijenja samo uz potpuno obraćanje pozornosti na rizike koje donose duboka krivotvorenja.

3. Kvantni napadi postaju novi sigurnosni rizici

Treća točka izvješća predviđa da će razvoj kvantne računalne tehnologije (Quantum computer) postati još jedan veliki mrežni sigurnosni rizik u 2025. godini.

Dok kvantni napadi trenutačno ne mogu probiti široko korištene metode šifriranja, hakerske skupine koje sponzorira država usvajaju strategiju “sakupi sada, dešifriraj kasnije” za ciljanje vrlo povjerljivih podataka. Jednom kada kvantna tehnologija postigne značajan napredak, ovi prikupljeni podaci mogli bi se suočiti s rizikom da budu probijeni, što predstavlja veliku prijetnju kritičnim sustavima vlada i  tvrtki. Kako bi se nosila s ovom potencijalnom krizom, tvrtke moraju odmah usvojiti kvantno otporne tehnologije šifriranja, poput tehnologije tuneliranja i kvantne distribucije ključeva, kako bi zaštitile važne podatke. Istodobno, osiguranje sigurnosti opskrbnog lanca i sprječavanje korporativne špijunaže također su hitna pitanja koja treba riješiti. Samo odgovarajućim pripremama unaprijed tvrtke se mogu zaštititi od napada kada dođe kvantna era. Wickie Feng, direktor Palo Alto Networks Hong Kong i Greater Bay Area, rekao je da su mnogi ljudi nedavno bili žrtve prijevara DeepFakea.

4. Transparentnost postaje ključ za AI aplikacije

Četvrto predviđanje izvješća ističe da će transparentnost postati kamen temeljac za tvrtke da zadrže povjerenje kupaca u eri umjetne inteligencije.

Mnoge regulatorne agencije sve su više zabrinute zbog utjecaja AI modela na zaštitu podataka i sigurnost mreže. U budućnosti će relevantni propisi posvetiti više pozornosti etici, zaštiti podataka i transparentnosti umjetne inteligencije. Tvrtke moraju proaktivno otkriti mehanizam rada AI modela, kao što su izvori podataka, procesi obuke modela itd., kako bi pridobile povjerenje kupaca. Stručnjaci Palo Alto Networksa rekli su da će se više pažnje posvetiti sigurnosti umjetne inteligencije te cjelovitosti i pouzdanosti podataka. Samo postizanjem potpune transparentnosti tvrtke mogu doista shvatiti svoju vrijednost kada koriste AI tehnologiju i steći široko priznanje društva.

5. Sigurnost lanca opskrbe postaje novi fokus

Posljednje predviđanje izvješća ističe da će tvrtke više pažnje posvetiti integritetu proizvoda i sigurnosti opskrbnog lanca 2025. godine.

Kako se složenost okruženja računalstva u oblaku nastavlja povećavati, sigurnost opskrbnog lanca postala je fokus na koji poduzeća moraju obratiti pozornost. Poduzeća moraju provesti sveobuhvatnu procjenu rizika, razmotriti zakonsku odgovornost za prekid poslovanja i razviti aranžmane osiguranja. U isto vrijeme, praćenje u stvarnom vremenu i druga sredstva koriste se za poboljšanje vidljivosti i otpornosti opskrbnog lanca.