Ne laži o svojem rođendanu: ChatGPT sad sam otkriva maloljetnike i blokira neprimjeren sadržaj
OpenAI je upravo predstavio novu funkciju u ChatGPT-u koja koristi umjetnu inteligenciju za predviđanje dobi korisnika. Kada sustav procijeni da je korisnik mlađi od 18 godina, automatski se aktiviraju strogi sigurnosni filteri, osmišljeni kako bi se tinejdžeri zaštitili od neprimjerenog sadržaja poput nasilja, pornografije ili tema vezanih uz samoozljeđivanje.
Ova funkcija dolazi u trenutku kada vlade diljem svijeta pojačavaju nadzor nad online sigurnošću maloljetnika. Ranije je OpenAI predstavio i “tinejdžersku verziju ChatGPT-a” za korisnike od 13 do 18 godina, koja omogućuje povezivanje računa tinejdžera, upravljanje memorijom chata i postavljanje ograničenja korištenja u kasnim večernjim satima. Novi AI mehanizam sada analizira ponašanje korisnika i sadržaj razgovora kako bi procijenio njihovu dob, što znači da lažno navedeni podaci pri registraciji više nisu dovoljni za izbjegavanje sigurnosnih ograničenja.
AI sustav analizira više signala, uključujući teme razgovora i obrasce korištenja, te automatski uključuje filtriranje koje zamagljuje ili blokira:
- Pretjerano nasilje i krvoproliće
- Seksualni, romantični ili RPG sadržaj
- Samoozljeđivanje i rizično ponašanje
- Ekstremnu estetiku, nezdravu prehranu i teme vezane uz tjelesnu anksioznost
Ako AI pogrešno procijeni korisnika, OpenAI omogućuje provjeru dokumenata putem partnera Persona. Korisnici mogu poslati selfie i osobnu iskaznicu, putovnicu ili vozačku dozvolu. Persona provjerava podatke i briše slike u roku od 7 dana, dok OpenAI dobiva samo informaciju o prolasku ili neuspjehu verifikacije.
Ovakav pristup prati trendove u industriji: Meta je prošle godine također koristila AI za određivanje dobi, a Australija i Ujedinjeno Kraljevstvo razmatraju zakonska ograničenja za pristup društvenim mrežama maloljetnicima. Samo oslanjanje na “samoprijavu” rođendana više nije dovoljno, a aktivna AI detekcija postaje standard.
Analitička perspektiva
Iako je cilj zaštita maloljetnika, ovakav sustav izaziva i zabrinutost za privatnost. AI mora analizirati teme i obrasce razgovora, što nekim korisnicima može stvoriti osjećaj stalnog praćenja. Osim toga, odrasli korisnici koji koriste ChatGPT za kreativno pisanje ili RPG igre mogu biti pogrešno procijenjeni kao tinejdžeri, što zahtijeva dodatni sloj verifikacije i predaju ID-a platformi treće strane. U eri sve strožeg nadzora i regulacije, ovakav mehanizam “bolje pogriješiti nego propustiti” mogao bi postati standardna funkcija svih generativnih AI servisa.
