AI u obrazovanju: Ogroman potencijal, ali i ozbiljni rizici za sigurnost i privatnost
Umjetna inteligencija (AI) sve više ulazi u učionice – i to brže nego što bismo očekivali. Iako donosi sjajne prilike za personalizirano učenje i olakšavanje nastavnog procesa, tu su i ozbiljna pitanja privatnosti, sigurnosti i etike.
EU i UNESCO aktivno rade na razvoju smjernica kako bi se AI koristio odgovorno u školama. Ove smjernice osmišljene su tako da pomognu svim nastavnicima – bez obzira na to koliko su tech-savvy – da bolje razumiju što AI jest (a što nije), kako utječe na učenike i kako ga primijeniti na siguran i učinkovit način. Cilj je jasan: Europa želi postati zona povjerenja i izvrsnosti u području umjetne inteligencije. AI može pomoći učiteljima u radu, omogućiti učenicima personalizirano učenje i pripremiti ih za svijet koji se brzo mijenja – radna mjesta koja još ne postoje i tehnologije koje tek dolaze.
AI i škole: Prilike i zamke
AI može poboljšati obrazovanje, ali isto tako i zakomplicirati stvari. Djecu se mora učiti kako odgovorno koristiti AI, kako razlikovati stvarnost od deepfake-a, kako prepoznati dezinformacije i kako AI može manipulirati sadržajem koji vide. UNESCO upozorava da se generativna AI uvodi u obrazovne sustave nevjerojatno brzo, bez dovoljno kontrole i regulacije. Za razliku od udžbenika, za koje treba proći mnogo vremena i odobrenja prije nego što se uvedu u škole, AI alati se pojave i koriste praktički preko noći. Zato je hitno potrebna strategija koja će osigurati da AI u obrazovanju ne postane još jedan “divlji zapad”.
Što AI može, a što ne bi smjela?
Neka AI rješenja već su zabranjena u EU – poput biometrijskih sustava koji koriste osjetljive podatke, neselektivnog prikupljanja slika s interneta za baze prepoznavanja lica, pa čak i sustava za prepoznavanje emocija u školama i na radnom mjestu. Također su zabranjeni sustavi koji dodjeljuju “društvene bodove” ili pokušavaju predvidjeti ponašanje na temelju profila osobe. Sve to zvuči kao SF, ali već se događa – zato su regulacije ključne.
AI nije magija: kako zapravo funkcionira?
Najjednostavnije rečeno, AI je skup algoritama koji omogućuju računalima da “misle”, donose odluke i rješavaju zadatke koje bi inače radio čovjek. Već svi poznajemo primjere – Google Assistant, Siri, Alexa… Ali u obrazovanju stvari su malo kompleksnije. Ovdje nije dovoljno da AI “radi posao umjesto nas” – mora to raditi na način koji je siguran, pošten i usmjeren na dobrobit učenika.
Prava pitanja: Tko odlučuje, tko štiti i kako dalje?
Zaštita podataka učenika, etička upotreba tehnologije i jasno definirana pravila – to su stvari koje moramo odmah adresirati. EU AI Act i UNESCO-ove preporuke idu u tom smjeru, ali škole trebaju jasne smjernice, praktične primjere i konkretne alate. Također se preporučuje da se AI alati ne koriste s djecom mlađom od 13 godina – što je trenutno granica na mnogim platformama, ali se često ignorira.
Zaključak: AI je tu da ostane, ali mi biramo kako ćemo ga koristiti
Umjetna inteligencija u školama može biti genijalna stvar – ali samo ako se koristi pametno. Treba nam balans između inovacije i zaštite prava učenika. AI može pomoći učiteljima, otvoriti nova vrata za učenje, ali ne smije preuzeti kontrolu nad obrazovanjem. U suprotnom, riskiramo da škole postanu poligon za eksperimentiranje tehnoloških divova, umjesto sigurno mjesto za razvoj djece.
Posjetite: UNESCO o AI u obrazovanju Ili pročitajte: UNESCO Preporuka o etici AI-ja
