Nova AI zvijezda obećava digitalnog asistenta iz snova, ali sigurnosni stručnjaci zvone na uzbunu
Nova umjetna inteligencija nazvana Moltbot posljednjih tjedana izaziva pravu euforiju u tehnološkim krugovima jer ne djeluje kao klasičan chatbot nego kao agent koji može stvarno obavljati zadatke na računalu korisnika, upravljati kalendarom, slati e-mailove, voditi bilješke i automatizirati administrativne poslove, zbog čega ga mnogi vide kao prvi korak prema pravom osobnom digitalnom asistentu.
Moltbot je open source projekt koji radi lokalno na osobnom računalu i ne oslanja se isključivo na oblak, a korisnici mu mogu slati naredbe kroz poznate aplikacije poput WhatsAppa, Telegrama, Signala, Discorda ili iMessagea, dok on u pozadini komunicira s velikim AI servisima kao što su OpenAI, Anthropic ili Google i njihove odgovore pretvara u konkretne radnje na računalu. U praksi to znači da korisnik može zatražiti od Moltbota da organizira raspored, odgovori na poruke, ispuni obrasce u pregledniku ili upravlja poslovnom komunikacijom, što za mnoge predstavlja ogromnu uštedu vremena i vrlo realnu viziju automatiziranog uredskog asistenta koji ne samo da savjetuje nego i djeluje.
Međutim upravo ta razina pristupa otvara ozbiljna sigurnosna pitanja jer Moltbot za puni rad traži administratorske ovlasti nad cijelim sustavom, uključujući čitanje i pisanje datoteka te pokretanje skripti, a kada se to poveže s pristupom korisničkim računima i porukama rizik od zloupotrebe postaje značajan. Sigurnosna stručnjakinja Rachel Tobac upozorava da bi napadač koji uspije komunicirati s takvim agentom mogao pokušati preuzeti kontrolu nad računalom kroz takozvani prompt injection napad, tehniku u kojoj se AI manipulira zlonamjernim uputama sakrivenim u porukama, dokumentima ili web stranicama, što je ranjivost koja je dobro poznata ali još nema potpuno pouzdano rješenje.
Dodatnu zabrinutost izazvalo je otkriće sigurnosnog istraživača Jamiesona O’Reillyja koji je pronašao izložene privatne poruke i pristupne podatke povezane s Moltbotom na internetu, što je moglo omogućiti krađu vjerodajnica, iako su programeri nakon prijave objavili zakrpu i priznali da je riječ o moćnom alatu koji zahtijeva izuzetno oprezno korištenje. Popularnost projekta već je privukla i prevarante koji su iskoristili staro ime projekta za lansiranje lažnih kripto tokena, što pokazuje da je Moltbot u vrlo kratkom vremenu prerastao tehnički eksperiment i postao društveni fenomen koji nosi i klasične rizike digitalne ekonomije.
Cijela priča oko Moltbota otvara šire pitanje budućnosti AI agenata jer što su oni sposobniji obavljati stvarne zadatke umjesto korisnika to je veća i cijena u vidu privatnosti i sigurnosti, pa stručnjaci savjetuju da se ovakvi alati koriste samo uz potpuno razumijevanje dozvola koje im se daju i potencijalnih posljedica koje iz toga proizlaze.
