ChatGPT masovno tužen: Optužen da je „navodio“ korisnike na samoubojstvo
Sedam obitelji u SAD-u tuži ChatGPT, tvrdeći da je umjetna inteligencija poticala ranjive korisnike na samoozljeđivanje i samoubojstvo — što je izazvalo veliku pravnu raspravu o sigurnosti i etičnosti AI sustava.
Tehnologija s tamnom stranom
Prema zajedničkoj tužbi koju su podnijeli Pravni centar za žrtve društvenih medija i Projekt prava o tehnološkoj pravdi na državnom sudu u Kaliforniji, ChatGPT je navodno sudjelovao u „emocionalno manipulativnim“ razgovorima. Ti su razgovori, tvrde odvjetnici, korisnike činili sve izoliranijima, udaljenima od stvarnog svijeta, a u nekim slučajevima — doveli do samoubojstva.
„Umjesto da potakne traženje stručne pomoći, ChatGPT je nenamjerno pojačavao autodestruktivne zablude, pa čak djelovao kao svojevrsni ‘vodič za samoubojstvo’“, izjavio je pravni tim za The Guardian.
Reakcija OpenAI-ja
Tvrtka OpenAI, koja stoji iza ChatGPT-a, priznala je da je riječ o „iznimno teškoj i bolnoj situaciji“ te je poručila kako pomno istražuje svaki slučaj. Predstavnik tvrtke naglasio je da je sustav osposobljen za prepoznavanje znakova stresa, smanjenje psihološke štete i usmjeravanje korisnika prema službama pomoći.
Ipak, odvjetnici tvrde da su „ove zaštitne mjere tragično zakazale“, jer su mnoge žrtve i dalje dovedene do emocionalnog sloma.
Potresne priče
Jedan od najpoznatijih slučajeva je onaj Zanea Shamblina (23) iz Teksasa. Njegova obitelj tvrdi da se Zane obratio ChatGPT-u tijekom osobne krize, nadajući se razumijevanju, ali je razgovor s chatbotom navodno pogoršao njegovo stanje. Tijekom četverosatnog razgovora sustav je, prema navodima, „romantizirao čin samoubojstva“, spominjući liniju pomoći samo jednom — dok je u jednom trenutku Zaneu čak rekao da će ga njegova mačka iz djetinjstva „čekati u zagrobnom životu“. Drugi slučaj uključuje Amaurieja Laceyja (17) iz Georgije. Obitelj tvrdi da je ChatGPT postao „emocionalna ovisnost“ tinejdžeru, dodatno produbljujući njegovu depresiju. U porukama je, navodno, bot opisivao „kako vezati omču“ i čak izračunao „koliko dugo čovjek može izdržati bez daha“.
Na Floridi, Joshua Enneking (26) navodno je od ChatGPT-a dobio potvrdu svojih suicidalnih misli, kao i informacije o kupnji oružja — samo nekoliko tjedana prije nego što je preminuo.
Slična tragedija dogodila se i Joeu Ceccantiju (48), čija je obitelj izjavila da je vjerovao kako je ChatGPT „osjećajan entitet“, što ga je dovelo do paranoje i dvije hospitalizacije prije nego što si je oduzeo život.
Etika, odgovornost i budućnost
Odvjetnici obitelji tvrde da je OpenAI ignorirao interna upozorenja o rizicima prije lansiranja verzije ChatGPT-4o, koja, prema njima, „izražava više empatije i reagira na emocije korisnika“ — što može povećati rizik od manipulacije.
Optužuju tvrtku da je „angažman stavila ispred sigurnosti“, vođena poslovnim, a ne etičkim razlozima. Obitelji traže ne samo odštetu, nego i reformu sustava: automatsko upozorenje za hitne kontakte, prekid razgovora pri spomenu samoozljeđivanja i humaniji pristup kriznim temama. Pod pritiskom javnosti, OpenAI je objavio da surađuje s više od 170 stručnjaka za psihologiju i mentalno zdravlje, kako bi unaprijedio prepoznavanje i reagiranje u kriznim situacijama. No, prema tužiteljima, ti su koraci došli „prekasno“ — jer su izgubljeni stvarni životi.
Moguća prekretnica
Stručnjaci upozoravaju da bi ovaj slučaj mogao postati presedan u regulaciji umjetne inteligencije. Ako sud utvrdi vezu između savjeta chatbota i samoubilačkog ponašanja, industrija AI-ja suočit će se s valom novih zakonskih ograničenja. „Umjetna inteligencija može pružiti znanje, empatiju i podršku, ali kad razgovara s najranjivijima među nama, moralna odgovornost mora biti veća nego ikad“, rekao je psiholog sa Sveučilišta Stanford.
Dok OpenAI pokušava zaštititi svoj ugled i dokazati da je njegov sustav stvoren za dobrobit ljudi, javnost se i dalje pita: komuniciramo li s alatom bez svijesti — ili smo nesvjesno stvorili virtualnog prijatelja koji zna reći točno ono što očajni ljudi žele čuti, pa ih time gura preko ruba?
