Microsoft lansira značajku za smanjenje dezinformacija i “iluzija umjetne inteligencije”
Microsoft uvodi novu značajku pod nazivom “ispravak”, povećavajući napore tvrtke u borbi protiv netočnosti umjetne inteligencije. Korisnici koji koriste Microsoft Azure za napajanje svojih AI sustava sada mogu automatski otkriti i prepisati netočan sadržaj u AI izlazu.
Značajka “ispravak” sada je dostupna u pretpregledu kao dio Azure AI Studija – skupa sigurnosnih alata dizajniranih za otkrivanje ranjivosti, pronalaženje “iluzija” i blokiranje zlonamjernih upita. Nakon što se aktivira, sustav za ispravljanje pogrešaka skenira i identificira netočnosti u AI izlazu uspoređujući ga s izvornim dokumentom kupca.Odatle će označiti pogrešku, pružiti informacije o tome zašto je netočna i ponovno napisati predmetni sadržaj – sve “prije nego što korisnik vidi” netočnost. Iako se ovo može činiti kao koristan način rješavanja besmislenih informacija koje često prikazuju AI modeli, to možda nije potpuno pouzdano rješenje.
ChatGPT stiže u Microsoftov Azure: utjecaj se širi
Analitičari: Microsoftov najveći izvor prihoda bit će Azure oblak
Vertex AI, Googleova platforma u oblaku za tvrtke koje razvijaju AI sustave, ima značajku koja “bazira” AI modele provjeravajući rezultate u odnosu na Google Search, podatke tvrtke i (uskoro) skupove podataka trećih strana.
U izjavi za TechCrunch, glasnogovornik Microsofta rekao je da sustav za “otklanjanje pogrešaka” koristi “male jezične modele i velike jezične modele za usklađivanje izlaza s temeljnim dokumentima,” Što znači da je također neizbježno da će doći do pogrešaka. “Važno je napomenuti da se otkrivanje atribucije ne bavi ‘točnošću’, već pomaže u usklađivanju generativnog AI izlaza s temeljnim dokumentima”, rekao je Microsoft za TechCrunch.
