Gemini izmišlja podatke? Kako aktivirati skrivenu funkciju za provjeru činjenica koja rješava AI

Otkako su napredni AI alati postali široko dostupni javnosti, sve veći broj korisnika u poslovnom i akademskom svijetu postaje ovisan o njima, bilo da je riječ o pisanju poslovnih izvještaja ili pretraživanju svakodnevnih podataka. Međutim, korisnici nerijetko primjećuju situacije u kojima umjetna inteligencija “laže” s iznimno uvjerljivim stavom. To se događa zato što je AI u svojoj srži vjerojatnosni jezični model koji na temelju prethodnog teksta predviđa sljedeću najvjerojatniju riječ, umjesto da doista s razumijevanjem vlada znanjem o kojem piše.

Ovaj fenomen, u tehnološkoj industriji poznat pod nazivom “AI halucinacije”, prilično je zabrinjavajući. Sustav, naime, često generira informacije koje na prvi pogled izgledaju logički strukturirano i točno, dok su u stvarnosti potpuno izmišljene. Ako korisnici takve neprovjerene podatke izravno uvrste u službene korporativne izvještaje, to može dovesti do ozbiljnih poslovnih pogrešaka. Srećom, Gemini u svojoj desktop i mobilnoj verziji ima ugrađen koristan mehanizam za provjeru činjenica (Fact Check) koji korisnicima pomaže u učinkovitom filtriranju netočnih informacija.

Usporedba s online izvorima u stvarnom vremenu

Ako nakon dobivanja odgovora posumnjate u točnost navedenih podataka, unutar platforme Gemini možete pokrenuti automatiziranu provjeru. Potrebno je samo kliknuti na ikonu s tri točke iznad generiranog odgovora i odabrati opciju “Provjeri sadržaj odgovora”. Sustav će u tom trenutku u pozadini pokrenuti Google pretraživanje kako bi usporedio generirani tekst s dostupnim informacijama na internetu. Kada pretraga završi, Gemini će potvrditi pouzdanost napisanog teksta pomoću oznaka u različitim bojama te ponuditi izravne poveznice na izvorne članke radi dodatne verifikacije.

Oznake u boji za brzo prepoznavanje točnosti informacija

Rezultati provjere unutar Geminija podijeljeni su u tri glavne kategorije, što korisnicima omogućuje da jednim pogledom procijene vjerodostojnost teksta:

• Zelena oznaka: Označava informacije za koje je Google pretraživanje pronašlo izvore koji se podudaraju s tvrdnjama u tekstu. Sustav će ponuditi relevantne poveznice, no važno je napomenuti da to ne moraju nužno biti izvorni podaci koje je model koristio pri kreiranju odgovora, već tekstovi koji potvrđuju istu tezu.
• Crvena oznaka: Upozorava na informacije koje se razlikuju od onoga što je pronađeno na internetu ili za koje na mreži uopće ne postoje relevantni podaci. Uz ove oznake sustav također prilaže poveznice kako bi korisnik sam mogao usporediti razlike.
• Neoznačeni tekst: Odnosi se na dijelove teksta za koje nema dovoljno informacija na mreži, pa sustav ne može procijeniti njihovu vjerodostojnost, ili se radi o rečenicama koje ne predstavljaju činjenične podatke. Vrijedi napomenuti da Gemini u ovoj fazi razvoja preskače provjeru unutar tablica i programskog koda, pa ti dijelovi ostaju bez obojanih oznaka.

Unatoč tome što Gemini nudi ovaj napredni automatizirani mehanizam verifikacije, njegova je točnost i dalje izravno ograničena kvalitetom i vjerodostojnošću samih podataka na internetu. Zbog toga stručnjaci savjetuju da se, bez obzira na boju oznake, prije konačnog uvrštavanja osjetljivih podataka u važne dokumente uvijek klikne na izvornu web stranicu kako bi se osobno provjerila autentičnost sadržaja.