Zašto ime Daivd Mayer izaziva “paniku” u ChatGPT-u? OpenAI daje objašnjenje

Zanimljivo je vidjeti kako jedna naizgled tehnička pogreška može izazvati toliko špekulacija i teorija. Fenomen poput ovoga s imenom “David Mayer” ističe složene izazove u razvoju velikih jezičnih modela poput ChatGPT-a.  OpenAI je objasnio da je problem povezan s greškom u sustavu koji je označio određena imena i spriječio njihovu obradu. Takvi filtri često se koriste za izbjegavanje širenja dezinformacija, osjetljivih podataka ili pravnih problema. No, nenamjerne posljedice, poput ovih, mogu izazvati probleme u korisničkom iskustvu.

Hipoteze o uzroku problema

Pravne tužbe: Primjer Briana Hooda, gdje su filtri možda uvedeni kako bi se spriječilo širenje lažnih informacija, pokazuje praktične izazove u balansiranju slobode generiranja sadržaja s odgovornošću.
Teorije zavjere: Povezivanje s obitelji Rothschild i sličnim figurama naglašava koliko javnost može spekulirati kada nedostaju konkretni podaci.

Ranjivosti u sustavu

Ova situacija otkriva kako se AI može eksploatirati. Na primjer, umetanje “zabranjenih” riječi na web stranice moglo bi učiniti da AI izbjegava obradu tih stranica. Ovo je značajan izazov za integraciju AI-a u kritične sustave.

Izazovi budućeg razvoja

Situacije poput ove pokazuju koliko je AI još uvijek u fazi razvoja, s potrebom za rafiniranijim sustavima filtriranja koji mogu razlikovati kontekstualne i stvarne prijetnje. Ovo je dobar primjer kako naizgled trivijalni tehnički problemi mogu postati značajni sociokulturni fenomeni, posebno u eri kada su AI alati sveprisutni.