Ljudski kompromis: zaokret Anthropica između sigurnosti i tržišne utrke

Anthropic godinama je bio percipiran kao tvrtka koja sigurnost umjetne inteligencije stavlja ispred brzine komercijalizacije. Izvršni direktor Dario Amodei više je puta isticao da je sporiji tempo razvoja u odnosu na konkurenciju svjestan izbor, utemeljen na potrebi kontrole rizika i odgovornog širenja moćnih modela. Upravo zbog takvog pristupa, dio analitičara smatra da je kompanija izgubila inicijalnu tržišnu prednost u trenutku kada je OpenAI lansirao ChatGPT i brzo preuzeo dominantnu poziciju u javnoj percepciji generativne umjetne inteligencije.

Međutim, Antrophic je  signalizirao značajan strateški zaokret. Tvrtka je objavila da se više neće strogo pridržavati Politike odgovornog širenja uvedene 2023. godine. Prethodna verzija politike predviđala je da će kompanija, u slučaju da razvoj modela premaši njezine kapacitete za upravljanje rizikom, obustaviti daljnje širenje ili odgoditi objavu novih verzija. Taj je pristup u industriji često tumačen kao svojevrsni manifest protiv mentaliteta „utrke pod svaku cijenu“.

Prema novoj formulaciji, Anthropic više nije unaprijed obvezan na jednostrano zaustavljanje visokorizičnih modela. Odgoda bi se primjenjivala samo u specifičnim okolnostima, primjerice ako bi tvrtka bila nedvojbeni tržišni lider. Budući da ne postoji precizna definicija kriterija „vođenja“, dio stručne javnosti smatra da je ranija sigurnosna barijera znatno ublažena.

Unatoč tome, kompanija je obećala povećanu transparentnost u vezi sa sigurnosnim testiranjima, objavu izvješća o procjeni rizika u razdoblju od tri do šest mjeseci te izradu dugoročne sigurnosne strategije. Također je najavljeno da će ulaganja u sigurnost ostati na razini jednakoj ili višoj od konkurencije.

Glavni znanstvenik Jared Kaplan priznao je da nema smisla jednostrano usporavati razvoj dok konkurenti ubrzavaju. Prema njegovim riječima, potpuno zaustavljanje treniranja modela ne bi koristilo nikome u kontekstu iznimno dinamičnog napretka umjetne inteligencije. Kaplan tvrdi da promjena ne predstavlja odustajanje od sigurnosti, već prilagodbu realnom tržišnom i političkom okruženju.

Anthropic je ujedno snažan zagovornik regulacije umjetne inteligencije u Sjedinjenim Američkim Državama. Dok su pojedine savezne države, poput Kalifornije i Colorada, već usvojile strože propise, na saveznoj razini prevladava pristup koji daje prioritet konkurentnosti i gospodarskom rastu. Time se smanjuje vjerojatnost brzog uspostavljanja jedinstvenog regulatornog okvira.

Dio promatrača smatra da su zagovaranje strože regulacije i visoki sigurnosni standardi ujedno i strateška prednost za velike kompanije, koje raspolažu resursima za implementaciju kompleksnih sigurnosnih sustava. U takvom scenariju manji startupi i open-source projekti mogli bi se suočiti s većim preprekama.

Bez obzira na motive, jasno je da se Anthropic nalazi u intenzivnoj tržišnoj utrci. Kompanija je nedavno zaključila novu rundu financiranja vrijednu 30 milijardi dolara, uz procjenu vrijednosti od oko 380 milijardi dolara. Postavljeni ciljevi rasta izrazito su ambiciozni. Prihod za 2026. godinu planiran je na razini od 18 milijardi dolara, što je približno četiri puta više nego u 2025., dok bi do 2027. mogao dosegnuti 55 milijardi dolara. Oko 80 posto prihoda dolazi od poslovnih korisnika, osobito kroz razvojne alate poput Claude Code.

U međuvremenu, konkurenti ubrzano lansiraju nove modele i napredne AI alate za programiranje, dodatno pojačavajući pritisak na tempo inovacija. U takvom okruženju ublažavanje ranijih sigurnosnih obveza može se tumačiti kao pragmatičan potez kojim Anthropic ulazi u tržišnu utrku punom brzinom.

Ova situacija nadilazi okvire tehnološke politike i regulatornih rasprava. Riječ je o klasičnom sukobu između ideala i tržišne realnosti, u kojem se visoki principi često prilagođavaju kada investicijski i konkurentski pritisci postanu preintenzivni da bi ih se ignoriralo.