Što se dogodi kad umjetna inteligencija piše brže nego što čovjek može misliti

Ars Technica provela je više od tisuću sati intenzivno radeći s programerskim asistentima nove generacije temeljenima na umjetnoj inteligenciji, s ciljem da ispita njihove stvarne granice. Rezultat tog eksperimenta nije bila revolucija produktivnosti, već mentalna iscrpljenost uzrokovana analizom tisuća redaka koda punih pogrešaka koje je generirao AI.

Iako umjetna inteligencija može pisati kod i do deset puta brže od čovjeka, vrijeme potrebno za provjeru, razumijevanje i ispravljanje pogrešaka višestruko se povećava. U konačnici, ukupno trajanje projekta često je tek neznatno kraće nego kod klasičnog razvoja, a ponekad i dulje.

Jedan od najzanimljivijih podataka jest da AI može generirati više od 500 redaka koda u svega nekoliko sekundi, ali u složenijim zadacima stopa logičkih ili sigurnosnih pogrešaka doseže i do 40 posto. To stvara tzv. zamku produktivnosti, jer imamo osjećaj da napredujemo brzo, dok zapravo većinu vremena trošimo na čišćenje tehničkog otpada. Autor pritom naglašava da današnji AI alati još uvijek nemaju sposobnost razumijevanja šire slike velikih i kompleksnih sustava.

Prekretnica je nastupila kada je autor odlučio prestati koristiti AI za temeljnu logiku aplikacija. Prekomjerna upotreba umjetne inteligencije dovodi do stanja koje opisuje kao intelektualnu odvojenost, u kojem programeri više ne razumiju kako proizvod koji grade uopće funkcionira. Do kraja 2025. godine predviđa se da bi taj trend mogao dovesti do vala profesionalnog umora u tehnološkom sektoru, ako inženjeri ne nauče jasno razdvojiti ulogu AI-ja kao podrške, a ne zamjene za vlastito razmišljanje.

Najpraktičniji savjet koji  nude jest da umjetnu inteligenciju zamislimo kao entuzijastičnog, ali nestašnog pripravnika. Takvom pomoćniku treba povjeravati samo ponavljajuće i jednostavne zadatke, uz stalni nadzor nad svakim rezultatom. Kako bi sačuvali mentalnu jasnoću i kvalitetu rada, programeri bi se trebali vratiti osnovama, tako da oko 70 posto vremena provode u razmišljanju i planiranju, a tek 30 posto u samom izvršavanju uz pomoć AI-ja.

Ova priča služi kao poziv na buđenje. Bez obzira na brzinu tehnološkog napretka, umjetna inteligencija ne može zamijeniti ljudsko strpljenje, razumijevanje i dubinsko razmišljanje. Ravnoteža između strojne snage i ljudske pedantnosti ključna je za izbjegavanje izgaranja u eri umjetne inteligencije.

10 lekcija o AI programiranju

1. Brzina pisanja koda ne znači i brže dovršen projekt. Iako AI generira stotine linija koda u nekoliko sekundi, vrijeme provedeno na provjeri i ispravljanju pogrešaka često je znatno dulje, što stvara lažni osjećaj produktivnosti.
2. Izgaranje dolazi iz stalnog načina rada provjere. Kada sami pišete kod, vaš mozak prirodno prati tijek misli, dok kod generiran od AI-ja zahtijeva neprekidnu koncentraciju i detaljnu recenziju, što ubrzano dovodi do mentalnog umora.
3. AI je izuzetno učinkovit u stvaranju tehničkog duga. Često bira najbrža i najjednostavnija rješenja, bez razmišljanja o dugoročnoj održivosti sustava, što s vremenom pretvara projekt u teško upravljiv kaos.
4. Preveliko oslanjanje na AI dovodi do gubitka razumijevanja vlastitog proizvoda. Kada umjetna inteligencija preuzme previše posla, programer postupno gubi jasnu sliku o tome kako pojedine komponente funkcioniraju.
5. Umjetna inteligencija treba biti pripravnik, a ne glavni inženjer.  Ključne arhitekturne odluke moraju ostati u rukama ljudi, dok AI može pomagati u ponavljajućim zadacima poput pisanja dokumentacije, jednostavnih funkcija ili testova.Pretjerana upotreba AI-ja slabi vještine rješavanja problema.
6. Programiranje je mentalna vježba, a prepuštanje svih izazova umjetnoj inteligenciji s vremenom čini mozak pasivnim i ovisnim o alatima.
7. Halucinacije AI-ja u programiranju iznimno su opasne. Umjetna inteligencija može uvjerljivo izmišljati biblioteke, funkcije ili rješenja s ozbiljnim sigurnosnim propustima, što zahtijeva visoku razinu znanja kako bi se pogreške na vrijeme uočile.
8. Najvažnija vještina budućnosti je čitanje i provjera koda. Vrijednost se sve manje mjeri sposobnošću pisanja, a sve više sposobnošću razumijevanja i kritičke analize onoga što AI proizvede.
9. Sedamdeset posto vremena treba posvetiti razmišljanju, a trideset posto izvršavanju. Detaljno planiranje na papiru ili kroz dijagrame mora prethoditi svakom korištenju AI-ja, kako alat ne bi preuzeo kontrolu nad procesom.
10. Povremene AI detox pauze postaju nužnost. Pisanje koda bez ikakve pomoći umjetne inteligencije pomaže u očuvanju znanja, smanjenju psihološkog pritiska i vraćanju osjećaja stvarne kontrole nad tehnologijom.