OpenAI najavljuje ogromna ulaganja u superalignment tim
Iako razvoj umjetne inteligencije nudi velik potencijal za napredak i ubrzavanje društvenog razvoja, također predstavlja ozbiljne izazove i rizike. Važno je osigurati da se regulira, kontrolira i primjenjuje etički i sigurno.
To je razlog što OpenAI osniva superalignment istraživački tim koji se priprema za superinteligentnu umjetnu inteligenciju. Mogla bi biti razvijena do 2030. godine kao rezultat samo-evolucije i doseći znatno veće sposobnosti od čak i umjetne opće inteligencije (AGI) ili biti sposobna naučiti izvršavati bilo koji intelektualni zadatak koji ljudska bića mogu izvršiti. Na čelu tima trebao bi biti glavni znanstvenik i suosnivač tvrtke Ilyom Sutskever, a bit će blokirano 20 posto procesorskih resursa za ovaj istraživački projekt. Cilj je osigurati da AI nastavi djelovati prema ljudskim namjerama i smanji se potencijalna šteta tehnologije koja može napraviti neočekivane pogreške koja se ne mogu predvidjeti.
PROČITAJTE JOŠ
OpenAI želi izgraditi epsku LLM trgovinu aplikacija otvarajući sve ChatGPT modele
EU predlaže nova pravila o autorskim pravima za AI
Međutim, OpenAI naglašava da treba imati na umu da čak i ako je sustav umjetne inteligencije pažljivo dizajniran i podešen, ne postoji potpuno jamstvo da će njegovo ponašanje i ishodi uvijek biti točno usklađeni s ljudskim ciljevima i vrijednostima. Jer u stvarnom svijetu često se događaju neočekivane situacije i rezultati. Stoga rješavanje problema usklađivanja zahtijeva područje koje nadilazi inženjersku tehnologiju, zahtijeva multidisciplinarno znanje i razumijevanje te dublje razmišljanje i raspravu.
