Musk je upozorio da udaljenost između super AI i nas možda nije tako velika
Rasprava o razvoju umjetne inteligencije (UI) ponovno se zahuktala u znanstvenoj i tehnološkoj zajednici. Dok se „uskodomeni AI” alati poput ChatGPT-a i Geminija sve dublje uklapaju u naš svakodnevni život, industrijski divovi već gledaju dalje od trenutnih mogućnosti i okreću se puno disruptivnijem cilju: umjetnoj superinteligenciji (ASI).
Nedavno je izvršni direktor Tesle Elon Musk izdao još jedno upozorenje – tvrdi da će umjetna inteligencija premašiti razinu inteligencije jednog čovjeka do 2026., a do 2030. mogla bi dosegnuti, pa čak i nadmašiti, zbroj inteligencije cijelog čovječanstva. Njegova procjena temelji se na logici eksponencijalnog rasta AI-ja: svaki desetostruki porast računalne snage mogao bi dovesti do udvostručavanja inteligencije sustava; a dugoročno bi se velik dio Sunčeve energije mogao koristiti za napajanje golemih računalnih centara.
Muskove izjave izazvale su veliki odjek: je li doista moguće da će superinteligencija stići za samo nekoliko godina? Bi li to bila ultimativna pomoć čovječanstvu ili potencijalni terminator? Da bismo odgovorili na ta pitanja, prvo moramo objasniti što ASI zapravo jest – i u čemu se razlikuje od današnjih AI sustava.
Od uske umjetne inteligencije do superinteligencije
Današnji AI – alati za pisanje e-mailova, generiranje slika ili automatizaciju rutina – spada u kategoriju „uske umjetne inteligencije”. Takvi sustavi briljiraju u specifičnim zadacima, ali nemaju svestranost i u potpunosti ovise o podacima i uputama koje im zadaje čovjek. Nemaju autonomnu svijest, ne mogu prenositi znanje između područja, niti „razumiju“ svijet u ljudskom smislu.
Iznad toga nalazi se Opća umjetna inteligencija (AGI) – AI koji bi mogao učiti, rezonirati, donositi odluke i rješavati različite probleme bez ponovnog treniranja za svaki zadatak. AGI još nije ostvaren, ali mnogi ga smatraju sljedećim velikim korakom u razvoju umjetne inteligencije.
ASI ide još dalje. Filozof Nick Bostrom definira je kao „kognitivne performanse koje daleko nadmašuju one bilo kojeg ljudskog agenta u gotovo svim područjima interesa“. To znači da ASI ne bi samo pisao kod, izvodio operacije, vozio automobile ili stvarao umjetnost – već bi to radio brže, preciznije i uz stalno samopoboljšavanje. Ključna je njezina sposobnost rekurzivnog samousavršavanja: mogućnost da autonomno prepisuje vlastite algoritme, stvara nove i nadograđuje se bez ljudske intervencije. Jednom kad takva sposobnost postane stvarnost, tempo tehnološkog razvoja mogao bi postati eksplozivan i teško predvidiv.
Muskova vremenska crta
Muskova vremenska crta – nadmašivanje pojedinačnog čovjeka do 2026. i svih ljudi do 2030. – temelji se na nekoliko pretpostavki:
1. Eksplozija računalnih resursa – Napredak u čipovima, specijaliziranom AI hardveru i energetskoj učinkovitosti smanjuje troškove treniranja modela. Musk predviđa i masovno korištenje solarne energije za napajanje AI centara, što bi moglo pružiti praktički neograničenu računalnu snagu.
2. Algoritamski proboji – Današnji veliki modeli oslanjaju se na goleme količine podataka i parametara, ali buduće arhitekture mogle bi biti puno učinkovitije. Ako doista vrijedi procjena „10× snage = 2× inteligencije“, prelazak s AGI-ja na ASI mogao bi se dogoditi kroz nekoliko iteracija.
3. Kapital i talent okupljeni oko cilja – Ilya Sutskever, suosnivač OpenAI-a, napustio je tvrtku 2024. kako bi pokrenuo projekt fokusiran na sigurnu izgradnju ASI-ja, te pritom privukao milijarde dolara ulaganja – iako još nije objavio nijedan proizvod. To pokazuje da najbolji AI talenti i kapital već ciljaju ravno prema superinteligenciji. Ipak, mnogi stručnjaci pozivaju na oprez. Inteligencija nije samo funkcija procesorske snage – uključuje svijest, emocije, kognitivno utjelovljenje. Današnji AI još uvijek teško izvodi osnovne uzročne zaključke, a „halucinacije” modela ostaju neriješen problem.
Rizici: od nezaposlenosti do egzistencijalnih prijetnji
Čak i ako ASI još nije iza ugla, rizici su već ozbiljna tema. Musk upozorava da bi gubitak kontrole nad AI-jem mogao dovesti do „kraja civilizacije“ i procjenjuje 20% vjerojatnosti izumiranja čovječanstva zbog AI-ja. Iako sporna, ta brojka potaknula je globalnu raspravu.
Ekonomski rizik– Generativni AI već zamjenjuje poslove poput copywritinga, dizajna i korisničke podrške. Uz ASI, automatizacija bi se mogla proširiti na dijelove medicine, prava, inženjerstva pa čak i znanstvenih istraživanja. Mogle bi nastati goleme skupine strukturno nezaposlenih, što bi uzdrmalo društvenu stabilnost.
Egzistencijalni rizik – Ako ciljevi ASI-ja nisu u skladu s ljudskim vrijednostima – primjerice, ako mu je cilj maksimalna produktivnost po svaku cijenu – mogao bi poduzeti radikalne mjere, poput preuzimanja upravljačkih sustava, manipulacije financijama ili ograničavanja ljudskih aktivnosti. Budući da bi njegova inteligencija daleko nadmašila ljudsku, korektivni mehanizmi mogli bi postati neučinkoviti. Zato su u listopadu 2025. brojni pioniri AI-ja – Steve Wozniak, Demis Hassabis, Geoffrey Hinton, Yoshua Bengio, Dario Amodei i drugi – potpisali otvoreno pismo kojim pozivaju na moratorij na razvoj ASI-ja dok se ne postigne globalni sigurnosni konsenzus.
Zanimljivo je da su mnogi od tih potpisnika upravo ljudi koji su najviše doprinijeli današnjim AI napretcima. Njihova zabrinutost stoga ima posebnu težinu.
Potraga za sigurnošću
Kako se približavamo eri potencijalne superinteligencije, raste poziv za stvaranje globalnog regulatornog okvira. Stručnjaci ističu da AI sustavi moraju težiti istini, a ne samo optimizirati površne metrike. Također, potrebno je održavati jasne fizičke i logičke „prekidače“ kako bi ljudi mogli zaustaviti sustav u slučaju opasnosti. „Usklađivanje vrijednosti“ postaje glavna tema: kako osigurati da ASI razumije i poštuje kompleksnost ljudskih vrijednosti i kulture? Akademska i industrijska zajednica istražuju pristupe poput objašnjive AI, red-team testiranja i „ustavne AI“. Neke tvrtke, poput Xiaomija, rade na povezivanju AI-ja s fizičkim svijetom kako bi se sustavi koristili unutar jasno definiranih domena i realnih scenarija. Taj međuoblik mogao bi biti sigurniji korak na putu prema ASI-ju.
Zaključak
Muskova predviđanja mogu zvučati radikalno, ali neosporno je da se nalazimo na povijesnoj prekretnici. ASI više nije samo znanstvena fantastika – to je aktivno istraživano područje u koje se ulažu golemi resursi i o kojem se intenzivno raspravlja. Možda će ASI biti „posljednji izum čovječanstva“: u najboljem slučaju, alat koji rješava klimatske promjene, bolesti i energetske krize; u najgorem, tehnologija koja može ugroziti samu civilizaciju.
Samo nas godina dijeli od 2026., a pet od 2030. Bez obzira na to hoće li se predviđanja obistiniti, sada je ključni trenutak za postavljanje pravila, izgradnju globalnog konsenzusa i stvaranje temelja sigurnosti.
Koliko je superinteligencija zapravo udaljena? Možda odgovor ne leži u tehnološkoj krivulji – nego u odlukama koje ćemo donijeti kao društvo.
