Upravljanje etikom umjetne inteligencije u obrazovanju: analiza ključnih UNESCO-ovih preporuka i skrivenih digitalnih opasnosti

Prava era umjetne inteligencije mora se temeljiti na višerazinskoj suradnji čovjeka i stroja koja obuhvaća cjelokupno društveno polje. Ta razina suradnje uključuje interakciju između ljudskih pojedinaca i inteligentne tehnologije, međuljudsko povezivanje skupina pod utjecajem tehnoloških medija, kao i inteligentno upravljanje suverenih država te međunarodnu suradnju i konkurenciju. Unatoč napretku, suradnja između ljudskog društva i tehnologije umjetne inteligencije još je uvijek u fazi pokušaja, pogrešaka i stalnih ispravaka. Jedna od tipičnih karakteristika ove tranzicijske faze jest činjenica da privatni pružatelji digitalne tehnologije ostvaruju sve neuravnoteženiju apsolutnu prednost nad javnim institucijama i individualnim korisnicima. Ta se prednost očituje u monopolu nad podacima, algoritmima i računalnom snagom, stvarajući specifične oblike privatne digitalne hegemonije. Na nacionalnoj razini i razini zajednice, takva hegemonija dodatno pogoršava dugotrajnu nejednakost u bogatstvu i smanjuje jednake mogućnosti razvoja. Na razini međuljudskih odnosa, neetična primjena umjetne inteligencije pojačava postojeće oblike diskriminacije, potiče nove predrasude, širi govor mržnje i narušava kulturnu raznolikost. Konačno, na razini odnosa pojedinca i tehnologije, pojavila su se dalekosežna etička pitanja poput komercijalnog profitiranja narušavanjem privatnosti te zabrinjavajućeg trenda tehnološke indukcije u kojoj čovjek postaje sluga stroja.

Kako bi regulirao ova otvorena pitanja, UNESCO je u studenom 2021. godine izdao Preporuku o etici umjetne inteligencije, ponudivši tako prvi međunarodni normativni instrument. Ova studija detaljno istražuje raznovrsni krajobraz globalnog upravljanja i dileme skrivene iza spomenute Preporuke. Cilj nam je razjasniti ključne kategorije etičkih pitanja, protumačiti humanističke vrijednosti unutar općeg okvira održivog razvoja biosfere te otkriti postojeće manifestacije i potencijalne opasnosti umjetne inteligencije u području obrazovanja. Na tim temeljima nastojimo razumjeti načela praktičnog upravljanja i istražiti prostor za rekonstrukciju sustava u kojem bi se inovacija inteligentne tehnologije odvijala sinkronizirano s etičkom kontrolom.

Učinkovitost upravljanja i doseg UNESCO-ve preporuke

Preporuku je izradila ad hoc skupina stručnjaka koju je imenovao UNESCO na temelju rada Svjetskog povjerenstva za etiku znanstvenog znanja i tehnologije (COMEST). Tijekom njezina oblikovanja opsežno su konzultirana mišljenja 193 zemlje članice, drugih međunarodnih institucija i nevladinih organizacija, nakon čega je dokument službeno usvojen na 41. Općoj konferenciji UNESCO-a. Iako se Preporuka temelji na međunarodnom pravu i globalnom pristupu, njezino je tumačenje etičkih pitanja i prijedloga upravljanja ipak ograničeno na funkcionalna područja pod izravnom jurisdikcijom organizacije, poput obrazovanja, znanosti, kulture, komunikacija i informacija. Ova umjetno sužena vizija na samo nekoliko funkcionalnih područja u određenoj mjeri zamagljuje okvir logičke analize i ograničava dubinsku analizu specifičnih etičkih problema unutar samog obrazovnog sektora.

Da bismo ispravno razumjeli učinkovitost upravljanja ovim dokumentom, moramo ga sagledati iz nacionalne perspektive, s obzirom na to da UNESCO nema ovlasti za formuliranje obvezujućeg međunarodnog prava. Globalno upravljanje ove organizacije primarno se oslanja na deklaracije i preporuke koje imaju moralnu i političku snagu, ali ne dopuštaju prisilno miješanje u zakonodavstvo suverenih država. Suverene zemlje utvrđuju obveze provedbe na temelju domaćeg pravnog okvira i međunarodnog konsenzusa, što ovaj dokument svrstava u kategoriju fleksibilnog zakonodavstva. U tom kontekstu, učinkovitost Preporuke očituje se kroz nekoliko ključnih pravaca:

• Izgradnja međunarodnog okvira pravila: Preporuka služi kao dinamična regulatorna osnova za normativno vrednovanje i usmjeravanje tehnologije unutar nacionalnih zakona o zaštiti privatnosti i etike.
• Rješavanje transnacionalnih sporova: S obzirom na to da umjetna inteligencija ima iznimno snažan prekogranični prodor, njezina kontrola zahtijeva međunarodnu suradnju, a ovaj dokument nudi institucionalni okvir za usklađivanje djelovanja država, poduzeća i znanstvene zajednice.
• Smjernice za međusektorsku koordinaciju: Države članice pozvane su uspostaviti nacionalne etičke odbore za umjetnu inteligenciju. Primjerice, kinesko službeno mišljenje o jačanju etičkog upravljanja znanošću i tehnologijom, koje predlaže osnivanje Nacionalnog etičkog odbora, predstavlja izravan odgovor na ovu inicijativu.
• Etički kodeks ponašanja za pojedince i institucije: Dokument pruža jasnu osnovu za procjenu utjecaja tehnologije, pomažući društvu i pojedincima da lakše odluče koje će tehničke usluge prihvatiti, a koje odbaciti.

Digitalno privatno upravljanje kao odgovor na globalne poremećaje

Sustav Ujedinjenih naroda tradicionalno prakticira državocentričnu paradigmu u kojoj su suverene države glavni nositelji javnog upravljanja. Međutim, od sredine 1990-ih godina i uspona koncepta globalnog upravljanja, civilno društvo prepoznato je kao važan partner javnim institucijama. Pravi preokret nastupa nakon 2011. godine s popularizacijom mobilne širokopojasne tehnologije i sveprisutnih, visoko monopoliziranih digitalnih društvenih platformi. Nakon 2015. godine, najnovija tehnološka otkrića u području umjetne inteligencije duboko su se integrirala s mobilnim medijima, što je stvorilo golemu asimetriju u podacima i računalnoj snazi između privatnih programera i javnih institucija. Tijekom pandemije koronavirusa, popularnost ovih platformi dosegnula je vrhunac, pa su do početka 2021. godine društvene mreže obuhvatile više od polovice globalne populacije.

U takvom su okruženju nositelji monopolističkih platformi de facto počeli definirati i provoditi vlastite norme, što je označilo uspon digitalnih privatnih upravljačkih tijela koja danas imaju hegemonijski položaj u globalnoj strukturi. To se ogleda u činjenici da su privatni pružatelji usluga, vođeni profitom, postali glavni izvor etičkih problema jer bez potpunog znanja i izričitog pristanka korisnika rudare podatke i manipuliraju potrošačkim ponašanjem. U područjima gdje zakonska regulativa kasni, ova privatna tijela preuzimaju ulogu zakonodavca i provoditelja etičkih propisa, djelujući kao arbitri u sporovima. Ova dominantna pozicija ozbiljno slabi sposobnost suverenih država da upravljaju etičkim pitanjima, potičući opasan trend desuverenizacije javnog upravljanja. Pravna ponuda i sposobnosti provođenja zakona daleko zaostaju za brzinom prodora novih tehnologija, a zabrinjava i podatak da više od jedne trećine zemalja u svijetu još uvijek nema nikakav oblik općih propisa o zaštiti podataka.

Okvir analize etičkih problema: Tehnička i humanistička dimenzija

S obzirom na složenost same definicije umjetne inteligencije, Preporuka se operativno usredotočuje na tehnologije obrade informacija koje integriraju modele i algoritme s ciljem generiranja sposobnosti učenja i donošenja odluka. Iako dokument naglašava da etička pitanja obuhvaćaju cijeli životni ciklus sustava, od dizajna do uporabe, izneseni prijedlozi uglavnom ciljaju na stvarne prijetnje ljudskom dostojanstvu, osnovnim pravima te stabilnosti ekosustava. Zanimljivo je da Preporuka ostavlja praznine u području fizičke umjetne inteligencije, poput sučelja čovjek-stroj i pametnih uređaja, ne nudeći detaljna objašnjenja za te segmente.

Da bismo sustavno analizirali ove izazove, predlažemo trodimenzionalni okvir koji obuhvaća tehničku dimenziju, humanističku dimenziju i dimenziju povijesnog razvoja:

Unutar tehničke dimenzije, najveći se rizici kriju u čvoru algoritamskog odlučivanja, gdje nenamjerne pristranosti ili svjesne manipulacije dizajnera stvaraju diskriminaciju i suzbijaju slobodnu ljudsku volju kroz nevidljive preporuke sadržaja. Na humanističkoj razini, najdalekosežniji problem unutar odnosa pojedinca i stroja jest stvaranje takozvanih „informacijskih čahura“ koje sužavaju vidike korisnika i potiču ovisnost o digitalnoj interakciji. U međuljudskim odnosima, tehnologija često pridonosi digitalnoj marginalizaciji starijih osoba, osoba s invaliditetom i kulturno izoliranih skupina. Rani algoritmi često su patili i od rodnih predrasuda, automatski označavajući žene isključivo za zanimanja poput medicinskih sestara, dok su inteligentni sustavi korisničke službe nerijetko objektivizirali žene u podređene uloge.

Ekološki otisak umjetne inteligencije i poboljšane humanističke vrijednosti

Dimenzija koja povezuje ljude, okoliš i ekosustav otkriva etička pitanja koja se najlakše previde, a imaju iznimno ozbiljne posljedice. Riječ je o ekološkom utjecaju cijelog životnog ciklusa digitalne opreme. Procjene pokazuju da emisije ugljika koje generiraju globalni digitalni uređaji čine između 2,3% i 3,7% ukupnih svjetskih emisija, što je jednako zagađenju koje proizvodi cjelokupna zrakoplovna industrija. Time je digitalna tehnologija postala jedan od značajnih uzročnika globalnog zatopljenja prije nego što je uopće uspjela ponuditi održiva rješenja za klimatsku krizu. Postavlja se ključno pitanje hoće li dugotrajni razvoj umjetne inteligencije nastaviti ubrzavati ekološku degradaciju ili će buduće inovacije pomoći čovječanstvu da pronađe učinkovita ugljično neutralna rješenja.

Kao odgovor na ovu povijesnu egzistencijalnu krizu, institucije globalnog upravljanja pozivaju na odmak od radikalnog antropocentrizma koji je zanemarivao prirodne resurse i planetarne granice. Novi, poboljšani humanizam temelji se na filozofskoj perspektivi biocentrizma i biosfernog holizma. Ovaj pristup naglašava da ljudsko društvo može napredovati, graditi mir i ostvarivati inkluzivnost samo ako se svaka njegova komponenta razvija jednako i u skladu s prirodom.

Sukladno Općoj deklaraciji o ljudskim pravima, UNESCO-va Preporuka čvrsto brani načela poštivanja urođenog dostojanstva svakog pojedinca, bez obzira na rasu, spol, jezik ili ekonomski status. U bilo kojoj fazi životnog ciklusa umjetne inteligencije, a osobito kada se sustavi koriste za dijagnostiku i preporuke ponašanja, tehnologija se ne smije koristiti za kontrolu ljudi. Primarna zadaća modernog upravljanja jest spriječiti pretvaranje čovjeka u slugu tehnologije te onemogućiti objektivizaciju onih društvenih skupina koje nemaju punu sposobnost samostalnog djelovanja.