Trend opasnih AI podvala širi se: tinejdžeri stvaraju lažne fotografije “upada beskućnika” da bi preplašili roditelje — policija upozorava na kršenje zakona

Na američkim društvenim mrežama posljednjih tjedana pojavio se zabrinjavajući trend: tinejdžeri koriste generativnu umjetnu inteligenciju (AI) kako bi stvorili realistične fotografije beskućnika koji navodno ulaze u njihove domove, a zatim ih šalju roditeljima kako bi izazvali šok i snimili njihove reakcije. Podvale, koje su se proširile na platformama poput TikToka i Instagrama, brzo su postale viralne, no istovremeno su potaknule val upozorenja od strane američke policije, koja naglašava da takvo ponašanje može imati ozbiljne pravne posljedice.

Od “šale” do istrage: kad AI podvale izmaknu kontroli

Prema izvješćima portala Futurism, mnoge od tih AI-generiranih slika toliko su uvjerljive da su čak i policijske postaje u više saveznih država nakratko povjerovale da se radi o stvarnim provalama. Primjerice, policija Oak Harbora (Washington) reagirala je na dojavu o “ženi beskućnici” koja je navodno ušla u školu — dojavu temeljenu na potpuno lažnoj AI fotografiji. Škola je bila zatvorena nekoliko sati prije nego što je otkriveno da je slika izmišljena. Slične situacije dogodile su se i u drugim državama, a policija Salema (Massachusetts) službeno je izdala priopćenje u kojem opisuje trend kao “glup i opasan”, upozoravajući da ove podvale ne samo da objektiviziraju ranjive skupine, poput beskućnika, nego i izazivaju paniku te nepotrebno troše javne resurse.

Prvi kazneni slučajevi: maloljetnici optuženi za širenje lažnih informacija

U okrugu Brown, Ohio, dvojica tinejdžera službeno su procesuirana zbog “širenja lažnih informacija koje su izazvale uzbunu i uzrokovale ometanje javnih službi”. Lokalni šerif izjavio je: Ovo nije šala — ovo je kazneno djelo. Korištenje umjetne inteligencije za stvaranje lažnih hitnih situacija ozbiljno ugrožava sigurnost zajednice.” Takvi slučajevi otvaraju pitanje pravne odgovornosti u doba generativne AI tehnologije, posebno kada su u pitanju maloljetnici. Iako većina tinejdžera takve sadržaje objavljuje iz zabave, pravni sustav počinje ih promatrati kao potencijalne digitalne prekršaje.

Lažni alarmi i širenje panike i izvan SAD-a

Trend se ne zaustavlja samo na američkom tlu. BBC je izvijestio da se slične AI podvale pojavljuju i u Velikoj Britaniji, gdje su neki roditelji, nakon što su primili “fotografije” uljeza u kući, odmah pozvali policiju — bez provjere autentičnosti slike. Britanska policija apelirala je na građane da je današnja tehnologija generativnog snimanja izuzetno je realistična. Mole da provjerite izvor prije nego što reagirate — jedan poziv može pokrenuti čitav lanac nepotrebnih postupaka.”  U Round Rocku (Teksas), zapovjednik policije istaknuo je da ovakve “naizgled bezazlene podvale” mogu odgoditi stvarne hitne intervencije, jer policija i službe moraju reagirati na lažne dojave.

Širi društveni problem: nedostatak medijske pismenosti i povjerenje u “AI stvarnost”

Ovaj trend otkriva dublji problem — nedostatak svijesti o granicama i rizicima generativne umjetne inteligencije, osobito među mladima. Roditelji, pak, često vjeruju svemu što vide u digitalnom obliku, bez sumnje da sadržaj može biti potpuno lažan. Stručnjaci za digitalnu sigurnost upozoravaju da se društvo mora brže prilagoditi eri hiperrealističkih AI sadržaja, jer se granica između stvarnog i generiranog neprestano briše. Prema analizi Centra za digitalnu etiku, više od 60% tinejdžera koji koriste generativne AI alate nije svjesno pravnih i etičkih posljedica svojih postupaka.

Zaključak: AI podvale nisu bezopasna zabava

Trend “AI lažiranja” možda se čini kao još jedna internetska šala, ali posljedice mogu biti stvarne: od pravnih sankcija do gubitka povjerenja u sustave za hitne slučajeve. Ovaj fenomen još jednom naglašava potrebu za:

obrazovanjem o odgovornom korištenju AI alata, kritičkim razmišljanjem o digitalnim sadržajima  i strožim nadzorom platformi koje omogućuju širenje lažnih informacija.

Kako je sažela policija u Salemu: “AI je moćan alat. No kad se koristi bez odgovornosti, može postati oružje dezinformacije.”