OpenAI upozorava na visoke rizike kibernetičke sigurnosti pri razvoju novih AI modela
Nedavno je OpenAI izdao važno upozorenje o mogućim rizicima kibernetičke sigurnosti novih AI modela koje namjeravaju lansirati. Prema informacijama Reutersa, OpenAI je naveo da su s brzim razvojem performansi ovi AI modeli sposobni sami razvijati sigurnosne ranjivosti, koje mogu napadati strogo zaštićene sustave. To može dovesti do sofisticiranih upada u poduzeća ili industrije, stvarnih posljedica.
U objavi na blogu, OpenAI je naglasio da ulaže u unapređenje sposobnosti svojih modela u obrambenim misijama kibernetičke sigurnosti. Također razvijaju alate koji olakšavaju sigurnosnim radnicima provođenje provjera koda i ispravljanje ranjivosti.
Kako bi se nosio s tim rizicima, OpenAI će usvojiti niz mjera, uključujući kontrolu pristupa, jačanje infrastrukture, kontrolu izvoznog prometa i nadzor. Također će uvesti novi plan za pružanje decentraliziranog pristupa korisnicima i korisnicima koji ispunjavaju uvjete za kibernetičku obranu, omogućujući im korištenje naprednih značajki. Osim toga, OpenAI će osnovati savjetodavnu skupinu pod nazivom “Pioneer Risk Committee”, koja poziva iskusne
stručnjake za kibernetičku sigurnost da blisko surađuju sa svojim timovima. Grupa će se u ranim fazama usredotočiti na kibernetičku sigurnost, a zatim će se proširiti na druga pionirska područja.
Ovo je važan korak OpenAI-a u osiguravanju sigurnosti svojih proizvoda i usluga, a također nas podsjeća na izazove s kojima se AI tehnologija suočava u sve složenijem okruženju kibernetičke sigurnosti.
