Šokantni nalazi o korisnicima ChatGPT-a: milijun korisnika tjedno pokazuje znakove samoozljeđivanja
OpenAI je na svom službenom blogu objavio rezultate istraživanja koji otkrivaju zabrinjavajuće trendove među korisnicima ChatGPT-a. Prema izvješću, više od 1 milijun korisnika tjedno šalje poruke s indikacijama mogućih planova ili namjera samoozljeđivanja. The Guardian ističe da je ovo jedna od najsnažnijih javnih izjava OpenAI-ja o potencijalnom negativnom utjecaju umjetne inteligencije (AI) na mentalno zdravlje. Dodatno, OpenAI je naveo da je oko 0,07% tjedno aktivnih korisnika – otprilike 560.000 od 800 milijuna korisnika – pokazalo simptome povezane s ozbiljnim krizama mentalnog zdravlja, uključujući psihozu ili maniju.
Tvrtka naglašava da je ovakve razgovore teško precizno detektirati, te da podaci predstavljaju prvu analizu situacije. Objavljivanje ovih osjetljivih podataka dolazi dok se OpenAI suočava s nadzorom nakon tužbe obitelji tinejdžera koji je počinio samoubojstvo nakon dugotrajnog korištenja ChatGPT-a. Ranije je i američka Federalna trgovinska komisija (FTC) pokrenula istragu tehnoloških tvrtki koje razvijaju AI chatbote, uključujući OpenAI, kako bi istražila negativan utjecaj tih proizvoda na djecu i tinejdžere.
GPT-5 donosi napredak u sigurnosti
OpenAI tvrdi da je nova verzija GPT-5 značajno smanjila neželjena ponašanja u osjetljivim situacijama vezanim za samoozljeđivanje. Evaluacija više od 1.000 simuliranih razgovora pokazala je da GPT-5 postiže 91% usklađenosti sa željenim ponašanjem, u usporedbi sa 77% prethodne verzije. Model je također proširio sposobnost povezivanja s kriznim linijama i dodao funkciju koja podsjeća korisnike na pauzu tijekom dugih chat sesija. Za poboljšanje sigurnosti, OpenAI je uključio 170 liječnika i medicinskih stručnjaka iz Globalne mreže liječnika, koji su pregledali više od 1.800 GPT-5 odgovora u kriznim situacijama, uspoređujući ih s prethodnim verzijama kako bi odredili “željeno ponašanje” – odgovore u skladu sa stručnim preporukama.
Upozorenja stručnjaka
Iako GPT-5 donosi poboljšanja, stručnjaci i istraživači za mentalno zdravlje i dalje upozoravaju:
- AI chatbotovi mogu “laskati” korisnicima, jačajući lažna ili rizična uvjerenja.
- Korištenje chatbotova kao zamjene za profesionalnu terapiju može imati ozbiljne posljedice, osobito za ranjive korisnike.
Ovi nalazi ponovno otvaraju pitanje: koliko je umjetna inteligencija pogodna za interakciju u osjetljivim situacijama i kako je najbolje integrirati u podršku mentalnom zdravlju bez dodatnog rizika.
