Yoshua Bengio kaže da bi AI agenti mogli biti katastrofa
Ove godine AI agenti ili AI asistenti mogu raditi sami. Bez ljudskog bića koje bi nadgledalo rad, kao što je traženje informacija. Rezervirajte restoran ili čak kupujte online. U međuvremenu mnogi istraživači umjetne inteligencije čekaju da vide kada će umjetna inteligencija moći raditi i rasuđivati ravnopravno s ljudima, što će biti sljedeća važna igla za umjetnu opću inteligenciju (AGI).
Međutim, Yoshua Bengio, pionir umjetne inteligencije, “Želio bih podići crvenu zastavu za AI agente jer će to biti najopasniji put“, rekao je na Svjetskom ekonomskom forumu.
Bengio vjeruje da bi ti sustavi mogli biti katastrofalni. Ako se razvije u AGI zbog razvoja moćnog AI sustava, to se može učiniti bez potrebe za AI agentima kao što su medicinska i znanstvena umjetna inteligencija. Osim toga, Bengio to vidi kao stvaranje konkurencije među divovskim tvrtkama ili čak zemljama koje su zabrinute da neće moći držati korak. Uzrokuje štetu i na kraju može naštetiti ljudima. Preporučuje stvaranje naprednog sustava nadzora za održavanje i kontrolu AI agenata, čak i ako su skupi, kao i nacionalne propise koji sprječavaju AI tvrtke da razvijaju modele agenata bez prethodnog dokazivanja njihove sigurnosti.
