Zašto AI “divovi” otkrivaju svoje tajne?

· Sanja Ledinek

Zašto AI “divovi” otkrivaju svoje tajne

Globalna utrka za umjetnom inteligencijom nikada nije bila brža. Svi žele biti prvi – lansirati nove modele, osvojiti tržište i osvojiti povjerenje korisnika. Međutim, ovaj pritisak na brzinu često se pretvara u ranjivost.

Novo izvješće tvrtke Wiz, specijalizirane za kibernetičku sigurnost, otkrilo je da 65% od 50 najvećih AI tvrtki slučajno procurilo osjetljive informacije na GitHubu. Riječ je o podacima koji uključuju API ključeve, pristupne kodove i vjerodajnice sustava – ključevima koji otvaraju vrata internim modelima, podacima i sustavima koji bi trebali biti strogo zaštićeni. Konvencionalni sigurnosni alati često propuštaju ove “skrivene slojeve” – izbrisane grane, povijest obveza ili poddatoteke. Curenja mogu postojati mjesecima ili godinama prije nego što ih otkriju sigurnosni istraživači. Glyn Morgan, direktor Salt Securityja, opisao je ovaj fenomen kao “pogrešku koja se mogla izbjeći”. Kada napadač dobije API ključ, to je poput dobivanja zlatne karte za infiltraciju u cijeli sustav.

Ledeni brijeg sigurnosnih rizika AI-a

Wiz uspoređuje rizik curenja podataka s ledenim brijegom: ono što je vidljivo – poput javno dostupnih repozitorija – samo je mali dio problema. Većina prijetnji skriva se duboko ispod površine.  Zato je tim Wiz-a razvio troslojno skeniranje:

  • Dubina: Povijest obveza, izbrisane grane, skrivene datoteke.
  • Perimetar: Širenje izvan glavne organizacije kako bi se obuhvatili suradnici i partneri.
  • Opseg: Traženje AI-specifičnih API ključeva (WeightsAndBiases, Groq, Perplexity) koje standardni skeneri često zanemaruju.

Rezultati su zabrinjavajući

LangChain je slučajno otkrio više Langsmith API ključeva s administrativnim pravima. ElevenLabs izložio je poslovne API ključeve u običnim tekstualnim datotekama. Anonimna AI tvrtka razotkrila je token HuggingFace koji je omogućavao pristup do 1,000 privatnih modela zajedno s ključem WeightsAndBiases koji sadrži interne podatke o obuci. Ova curenja ne samo da kompromitiraju osjetljive podatke, već i prijete privatnosti korisnika i strukturi sustava. Ukupna tržišna vrijednost pogođenih tvrtki procjenjuje se na više od 400 milijardi USD, što pokazuje ozbiljnost rizika.

Pouke za tvrtke: brzina ne može zamijeniti sigurnost

Još jedan problem koji je izvještaj Wiz-a istaknuo: gotovo polovica tvrtki nije imala službeni kanal za primanje upozorenja o curenjima ili nije reagirala na obavijesti. To odražava slabosti u upravljanju sigurnošću i koordinaciji, čak i kod najvećih AI igrača.

Wiz nudi tri konkretne radnje:

  • Obuka zaposlenika: Edukacija o sigurnosti na GitHubu, višefaktorska autentifikacija i odvajanje poslovnih i osobnih računa.
  • Sveobuhvatno skeniranje: Ne ograničavati se na interne repozitorije, već primijeniti metodu “Dubina, perimetar, opseg” za otkrivanje potencijalnih curenja.
  • Nadzor cijelog lanca opskrbe: Prilikom integracije alata ili modela trećih strana, provjeriti kako dobavljač upravlja ključevima i ranjivostima.

Posljednja poruka Wiz-a bila je jasna: “Brzina ne može biti izgovor za zanemarivanje sigurnosti.” U digitalnom svijetu gdje svaka greška može koštati milijarde dolara, tvrtke koje žele voditi u AI sektoru moraju prvo zaštititi svoje tehnološke temelje.

Zašto se ovo događa

Glavni razlog za curenja je pritisak na brzinu. Tehnološki divovi žure lansirati nove modele i platforme prije konkurencije, a sigurnost se često stavlja u drugi plan. Zatim, brze iteracije koda i modela povećavaju šanse da se povjerljive informacije nenamjerno otkriju, a  suradnici i freelance developeri često koriste vlastite račune i alate, što dodatno povećava rizik.

Posljedice

  • Financijski: curenja podataka i API ključeva mogu omogućiti krađu intelektualnog vlasništva, što dugoročno može koštati milijarde dolara.
  • Operativni: kompromitirani ključevi omogućuju napade na interne modele, što može paralizirati usluge ili dovesti do lažnih podataka u AI sustavima.
  • Reputacijski: gubitak povjerenja investitora i korisnika može biti katastrofalan za tvrtku koja se temelji na podacima i AI modelima.

U utrci za umjetnom inteligencijom, brzina je dvostruki mač. Ona omogućuje tržišnu dominaciju, ali istovremeno čini tvrtke ranjivima i prisiljava ih da nenamjerno otkrivaju svoje tajne. Tvrtke koje žele dugoročno biti lideri u AI sektoru moraju balansirati brzinu i sigurnost sa time da brzo lansiranje novih modela ne smije ugroziti sigurnost ključnih podataka. Nadalje, proaktivno otkrivanje i zakrpa curenja mora biti standardna praksa. Također integracija alata trećih strana mora biti praćena rigoroznim nadzorom i politikama sigurnosti.

Ukratko, budućnost AI-a neće se graditi samo na brzini inovacija, već na otpornosti i povjerenju u vlastite sustave.

DRUGE NOVOSTI