Jedna glasovna naredba dovoljna je za hakiranje robota: mogu “zaraziti” jedni druge čak i bez interneta

Dok se javnost još uvijek oduševljava videozapisima humanoidnih robota koji plešu, kuhaju ili pomažu u kućanstvu, šokantan eksperiment proveden u Kini razotkrio je ozbiljnu i potencijalno smrtonosnu slabost moderne robotske industrije.

Na sigurnosnoj konferenciji GEEKCon u Šangaju, istraživači su dokazali da se komercijalni humanoidni roboti mogu preuzeti samo glasovnom naredbom, bez fizičkog kontakta – a još alarmantnije, da se zlonamjerni softver može širiti s robota na robota čak i kada nisu spojeni na internet.

Ovo otkriće izazvalo je burne reakcije na kineskim društvenim mrežama i otvorilo ozbiljna pitanja o sigurnosti robota koji sve češće ulaze u tvornice, bolnice i domove.

Od “pametnog asistenta” do potpunog preuzimanja u nekoliko minuta

U središtu demonstracije našao se humanoidni robot tvrtke Unitree, domaćeg kineskog proizvođača. Riječ je o naprednom modelu cijene oko 100.000 juana, opremljenom velikim jezičnim modelima (LLM) za prirodnu komunikaciju s ljudima i obavljanje složenih zadataka.

Upravo ta „inteligencija“ pokazala se kao kritična sigurnosna slabost.

Sigurnosni tim DARKNAVY otkrio je da se sustav prepoznavanja govora – zamišljen kao praktično sučelje – može iskoristiti kao vektor napada. Umjesto otvaranja kućišta ili spajanja na interne portove, napadač koristi posebno oblikovan lanac glasovnih naredbi.

Zbog nedostatnih sigurnosnih filtera i kontrole privilegija, AI sustav robota:

• pogrešno interpretira naredbu
• dodjeljuje root (administratorski) pristup
• napadaču daje potpunu kontrolu nad kretanjem, senzorima i komunikacijskim modulima

Sve to – bez fizičkog kontakta i u svega nekoliko minuta.

Pad mita o “offline sigurnosti”

Godinama je u kibernetičkoj sigurnosti vrijedilo jednostavno pravilo: ako uređaj nije spojen na internet, siguran je. Eksperiment na GEEKConu potpuno je srušio tu pretpostavku.

Istraživači su postavili sljedeći scenarij:

• Robot A: zaražen zlonamjernim softverom putem interneta
• Robot B: potpuno offline, bez Wi-Fi ili mrežne veze

Prema klasičnoj logici, Robot B trebao bi biti siguran. No u praksi se dogodilo suprotno. Nakon preuzimanja, Robot A automatski aktivira bežične protokole kratkog dometa – poput Bluetootha i internih robotskih komunikacijskih kanala – te počinje “skenirati” okolinu. Kada detektira Robota B, započinje unakrsnu infekciju.

Rezultat:

• zlonamjerni kod se prenosi bežično
• Robot B biva kompromitiran u djeliću sekunde
• oba robota postaju dio istog napadačkog sustava

Ovo otvara zastrašujući scenarij za tvornice, skladišta i logističke centre u kojima desetci ili stotine robota rade u neposrednoj blizini. Jedan zaraženi uređaj dovoljan je da paralizira cijelu proizvodnu liniju, čak i ako su mrežne veze isključene.

Kada digitalni napad postane fizička prijetnja

Za razliku od hakiranja računala ili pametnog telefona, hakiranje robota ima izravne fizičke posljedice. Kako bi to demonstrirali, istraživači su poslali zlonamjernu naredbu kompromitiranom robotu. Njegova mehanička ruka, inače programirana za precizne i sigurne pokrete, naglo se zaletjela i snažno udarila lutku postavljenu na pozornici. Poruka je bila jasna: ako se takav napad dogodi u stvarnom okruženju – u domu, bolnici ili tvornici – posljedice mogu biti teške ozljede ili gubitak života. Stručnjaci koje citira South China Morning Post upozoravaju da se rizik povećava kako roboti postaju: snažniji, autonomniji i sposobni za slobodno kretanje među ljudima.

Sigurnost žrtvovana zbog brzine razvoja

Kako bi što brže izbacili proizvode na tržište, mnogi proizvođači  prioritet daju funkcijama, mobilnosti i cijeni dok zanemaruju temeljna sigurnosna načela.

Stručnjaci s GEEKCona ističu da brojni roboti rade na:

• open-source operativnim sustavima
• s velikim brojem neispravljenih ranjivosti
• bez adekvatne kontrole ulaznih podataka za LLM sustave

Integracija glasovnih AI modela bez stroge provjere naredbi omogućuje tzv. voice injection napade, koji su iznimno teški za detekciju.

Zaključak: hitna potreba za “sigurnošću po dizajnu”

Demonstracija u Šangaju poslužila je kao hladan tuš za cijelu industriju humanoidnih robota. Ako se sigurnost ne ugradi u sustave od samog početka, vizija robota kao pomagača mogla bi se brzo pretvoriti u noćnu moru. Bez hitnih mjera, budućnost u kojoj roboti pomažu starijima, čuvaju djecu ili rade uz ljude mogla bi postati svijet u kojem je jedna zlonamjerna glasovna naredba dovoljna da se tehnologija okrene protiv svojih korisnika.