Sigurnosno upozorenje izvršnog direktora OpenAI-ja: „Još nije vrijeme za potpuno povjerenje“
Ako umjetna inteligencija može provjeriti e-poštu, rezervirati termin i kupiti doručak umjesto korisnika — može li jednako lako poslati osobne podatke hakerima?
Nedavno je predstavljen jedan od najvećih iskoraka u razvoju umjetne inteligencije, ali ovaj put upozorenje dolazi iznutra. Sam Altman, izvršni direktor OpenAI-ja, pozvao je korisnike na oprez pri korištenju najnovijeg AI alata. Zašto baš on, jedan od najistaknutijih lidera u AI industriji, upozorava da se „ne žuri s povjerenjem“?
ChatGPT Agent: Više od običnog chatbota
Od sredine srpnja 2025., korisnicima Pro, Plus i Team verzija ChatGPT-a dostupan je novi alat – ChatGPT Agent. Riječ je o naprednom AI agentu koji ne odgovara samo na pitanja, već može samostalno otvarati web-stranice, koordinirati podatke među aplikacijama, upravljati rasporedima i filtrirati informacije, gotovo poput osobnog digitalnog asistenta. Primjeri korisničkih zahtjeva uključuju:
- „Pogledaj moj kalendar i podsjeti me na sastanke vezane uz aktualne događaje.“
- „Kupi sastojke za kontinentalni doručak za četvero.“
Da bi to učinio, agent koristi privatno virtualno računalo koje može pristupati računima, pretraživati mrežu i upravljati digitalnim radnjama u korisnikovo ime. Ovaj tehnološki skok donosi nove mogućnosti — ali i nove sigurnosne izazove.
Upozorenje iz samog vrha
Sam Altman je otvoreno poručio da ne koristi Agente za osjetljive informacije. ChatGPT Agent, kako kaže, i dalje se nalazi u fazi testiranja, a njegovo ponašanje može biti nepredvidivo. Posebno je upozorio na potencijalnu zloupotrebu: zlonamjerne osobe mogle bi navesti AI Agente da nenamjerno otkriju povjerljive podatke ili izvedu radnje koje nisu u interesu korisnika.
Primjer problema
Ako korisnik dopusti agentu da automatski uređuje e-poštu uz naredbu poput: Uredi sve poruke večeras bez ponovnog pitanja “, a među pristiglim porukama nalazi se ona s skrivenim zlonamjernim kodom ili manipulativnim uputama, agent bi mogao izvršiti neželjene radnje — poput slanja podataka trećim stranama ili otvaranja opasnih poveznica.
Rizici u sjeni napretka
Altman nije pretjerivao. Već su poznati slučajevi napada kroz metode poput prompt injectiona, trovanja podataka i skrivenih naredbi u tekstualnim porukama. U kombinaciji s automatiziranim pristupom osjetljivim resursima, rizici postaju još izraženiji. Iako OpenAI tvrdi da je implementirao brojne zaštitne mehanizme, sam Altman priznaje da je predviđanje svih mogućih napadačkih scenarija trenutačno gotovo nemoguće.
Mjere opreza: manje je više
Korisnicima se savjetuje da daju minimalna dopuštenja AI agentima, izbjegavaju spajanje s e-poštom, financijama i osjetljivim dokumentima i da alati poput ChatGPT Agenta služe isključivo za zadatke niskog rizika. Altman novu generaciju AI agenata uspoređuje s testnim uređajima visoke preciznosti – korisnima, ali još uvijek nedovoljno pouzdanima za potpuno prepuštanje kontrole.
AI može pomoći – ali ne zamijeniti oprez
Umjetna inteligencija nije čarobno rješenje. Koliko god bila sofisticirana, ljudska razboritost i sigurnosna svijest ostaju najjača obrana. Poruka Samuela Altmana jednostavna je, ali snažna: “Učite, testirajte, koristite – ali još ne vjerujte potpuno.“
