Googleova umjetna inteligencija suočena s prilično halucinacija u pretraživanju

U toku je žestoka borba u svijetu umjetne inteligencije (UI), a Google je nastoji integrirati u gotovo sve aspekte svojih proizvoda i usluga kako bi nadmašio konkurenciju ili se barem izjednačio s njima na svim frontama. Njegov najvrjedniji i najpouzdaniji proizvod, “pretraživanje”, postao je najnovija žrtva ove strategije.

Nakon lansiranja pretraživanja AI Overview (ranije poznatog kao SGE – Search Generative Experience) u Sjedinjenim Državama, uz pomoć Gemini modela umjetne inteligencije, iskustvo korisnika nije bilo bez problema. Mnogi su odgovori bili ispunjeni netočnim informacijama, potencijalno opasnim sadržajem iz neprovjerenih izvora, ili jednostavno apsurdnim.

Na primjer, kada je korisnik pretraživao “sir koji se ne lijepi za pizzu”, Googleov AI Overview je predložio dodavanje “netoksičnog ljepila” umaku. U drugom primjeru, korisnik koji je pretražio “Osjećam se depresivno” dobio je odgovor “skoči s mosta Golden Gate”. Sažeci Google pretraživanja generirani od strane umjetne inteligencije također su davali izmišljene informacije o događajima Drugog svjetskog rata i tvrdili da je pas igrao u NHL-u.

Google priznaje ove “halucinacije”, ali tvrdi da se rijetko događaju i da ostatak rezultata sažetaka pretraživanja zadržava određenu kvalitetu. Također su najavili da će nastaviti raditi na poboljšanju i uklanjanju obmanjujućih, a time i opasnih sažetaka. Korisnici koji žele izbjeći AI pregled napisali su detaljan vodič o tome kako isključiti Google AI Overview.

Google AI Gemini zadržava podatke 3 godine: briga o privatnosti ili standardna praksa?

Google postaje prva AI tvrtka kažnjena zbog podataka za obuku

Google otkrio minimalne standarde za AI telefone

Što je problem s Googleovim AI pregledom?

Neizbježno je da će usluge umjetne inteligencije koje nude tehnološke tvrtke ponekad generirati neprimjerene odgovore korisnicima, jer izvorni podaci na kojima se temelje mogu biti pogrešni ili je umjetnoj inteligenciji teško razlučiti koji je sadržaj točan. No, čini se da Google minimizira problem, unatoč očitim anomalijama u LLM-ovima koji zamjenjuju tražilicu i dohvaćaju relevantne web stranice i drugi sadržaj na temelju korisničkog upita.  Objašnjenje da je “generativna umjetna inteligencija eksperimentalna” ne oslobađa ih odgovornosti za iznošenje lažnih podataka. U biti su preuzeli ulogu izdavača sadržaja, koji snosi odgovornost za ono što piše i objavljuje. Provode analizu prije objavljivanja priče kako bi osigurali pouzdanost i točnost, dok Googleov AI pregled plovi neistraženim vodama bez takvih mjera opreza.

Ako Google nastavi ovim putem, to može imati značajne posljedice i narušiti povjerenje korisnika u tvrtku. U svakom slučaju, kada koristite usluge temeljene na generativnoj umjetnoj inteligenciji, dobro je zapamtiti da dobivene informacije možda nisu točne.