Leidenski manifest: Svjetska matematička elita ustala protiv zlouporabe i komercijalizacije umjetne inteligencije

Iako tehnologija umjetne inteligencije svakodnevno pokazuje impresivne sposobnosti u rješavanju složenih problema, globalna matematička zajednica izražava duboku zabrinutost. Znanstvenici opravdano strahuju da će zlouporaba ovih naprednih alata dovesti do trajnog gubitka humanističke komponente u matematici.

Pojava velikih jezičnih modela donijela je brojna otkrića u znanstvenom svijetu, uključujući i matematiku. Nedavno je u javnosti odjeknula vijest da je tvrtka OpenAI upotrijebila svoj AI model za rješavanje kompleksnog problema udaljenosti između točaka, pitanja koje je mučilo znanstvenike posljednjih osamdeset godina. Međutim, početno oduševljenje tehnoloških entuzijasta bilo je kratkog vijeka. Samo nekoliko dana nakon tog uspjeha, skupina od šesnaest uglednih matematičara okupila se na Sveučilištu u Leidenu u Nizozemskoj kako bi objavila strateški dokument pod nazivom Leidenski manifest. Ovaj je dokument u kratkom roku prikupio više od 650 potpisa podrške matematičara i akademika iz cijelog svijeta.

Među potpisnicima su se našla neka od najistaknutijih imena suvremene znanosti. Među njima je i Peter Scholze, dobitnik prestižne Fieldsove medalje i trenutačni direktor Max Planck instituta za matematiku u Njemačkoj. Scholze je javno istaknuo kako nikada ne koristi umjetnu inteligenciju prilikom analiziranja matematičkih problema te da aktivno izbjegava čitanje sadržaja koji generiraju AI modeli. Prema njegovom slikovitom objašnjenju, matematičke su ideje poput djece jer zahtijevaju godine pažljivog njegovanja i rada kako bi u potpunosti sazrele.

Profesor Kevin Buzzard s prestižnog Imperial Collegea u Londonu, koji je također podržao manifest, pozvao je svoje kolege na izniman oprez zbog iznenadnog i naglog interesa tehnoloških tvrtki za matematiku. On smatra kako je Leidenski manifest nužan i promišljen odgovor na trenutačne pritiske s tržišta. Dodatno, oštro upozorenje izdala je i Leslie Ann Goldberg, voditeljica Odjela za računalne znanosti na Sveučilištu u Oxfordu. Ona je znanstvene članke koje generira umjetna inteligencija, a koji često sadrže suptilne pogreške, usporedila s kućama izgrađenima na trulim temeljima koje će se neizbježno srušiti. Goldberg napominje da će se, nastave li se nova istraživanja temeljiti na takvim manjkavim izvorima, pogreške eksponencijalno širiti i izazvati nepredvidive posljedice za cijelu znanstvenu zajednicu. Manifest su podržali i drugi renomirani stručnjaci, uključujući Michaela Harrisa sa Sveučilišta Columbia, Rodriga Ochigamea sa Sveučilišta u Leidenu te Ursulu Martin sa Sveučilišta u Oxfordu.

Temeljni pokretač ovog ujedinjavanja znanstvenika jest opravdani strah od budućnosti u kojoj bi umjetna inteligencija mogla postati jedino mjerilo uspješnosti u matematičkom rješavanju problema. Ako se dopusti takav scenarij, neprocjenjive ljudske kvalitete kao što su intuicija, dubina misli i kritička prosudba postupno će izblijedjeti i postati suvišne.

Zbog toga Leidenski manifest postavlja stroge zahtjeve za transparentnošću pred sve matematičare koji koriste AI alate u svom radu. Oni moraju proaktivno i jasno navesti upotrebu takvih softvera, preuzeti potpunu i isključivu odgovornost za sadržaj svojih znanstvenih radova umjesto prebacivanja krivnje na stroj te nipošto ne smiju koristiti umjetnu inteligenciju kao paravan za plagiranje tuđih radova. Dokument istovremeno otvoreno kritizira tehnološke korporacije koje iskorištavaju matematičke uspjehe AI-ja isključivo kao marketinški trik za privlačenje investitora i umjetno napuhavanje cijena dionica na burzi.

Poseban problem leži u činjenici da su mnoge tehnološke tvrtke samovoljno i bez ikakve dozvole koristile autorske istraživačke radove znanstvenika za treniranje svojih modela. Rezultati desetljeća marljivog ljudskog rada iskorišteni su kao besplatna sirovina za strojno učenje. Ironično je da se nakon završetka obuke ta ista umjetna inteligencija komercijalizira radi ostvarivanja profita i izravno natječe s ljudima u brzini rješavanja zadataka. Istodobno, matematičari koji su stvorili to izvorno znanje ne primaju nikakvu naknadu niti priznanje za svoj doprinos. Jedan od autora manifesta izrazio je ogorčenje činjenicom da tehnološki divovi profitiraju na njihovom intelektualnom vlasništvu bez ikakvog pristanka.

Dodatni razlog za zabrinutost jest i selektivan pristup tvrtki koje razvijaju umjetnu inteligenciju. One najčešće biraju samo one probleme koje strojevi mogu lako riješiti, potpuno ignorirajući složenije izazove koji nisu prikladni za trenutnu AI arhitekturu. Dugoročno gledano, takav trend vodi prema situaciji u kojoj privatni kapital suptilno manipulira smjerom cjelokupnog znanstvenog istraživanja, čime matematičari gube svoju neovisnost.

Kako bi se to spriječilo, manifest donosi niz preporuka za različite društvene aktere. Od kreatora politika i zakonodavaca zahtijeva se hitna zaštita autorskih prava, regulacija AI industrije, izbjegavanje senzacionalizma u medijima te veća javna ulaganja u računalnu infrastrukturu kako znanost ne bi ovisila o privatnim poslužiteljima. Za same matematičare ključna je transparentnost, podržavanje neovisnih stručnih recenzija, poštivanje načela otvorene znanosti te stalna evaluacija etičkih posljedica tehnologije. Sveučilišta, znanstvene organizacije i zaklade koje financiraju projekte moraju razviti dugoročne strategije i održati rigorozne akademske standarde u skladu s temeljnim ljudskim vrijednostima.

Iako se matematika oduvijek smatrala plemenitom disciplinom u kojoj znanstvenici mogu pomicati granice ljudskog znanja koristeći samo papir i olovku, upravo ju je ta jednostavnost učinila primarnom metom za tehnološke tvrtke. Korporacije rado ističu matematičke sposobnosti AI-ja jer su podaci čisti, dok znatno rjeđe koriste te iste modele za rješavanje kaotičnih i složenih izazova u biologiji, kemiji ili znanosti o materijalima.

Leidenski manifest u međuvremenu je dobio i službenu podršku Međunarodne matematičke unije. Potpredsjednik ove organizacije potvrdio je da matematika mora ostati područje duboko prožeto ljudskim duhom. Mnogi stručnjaci strahuju da se upitni znanstveni radovi koje je generirao AI već sada šire stručnom zajednicom poput virusa, što recenzentima drastično otežava prepoznavanje autentičnih i originalnih istraživanja.

Znanstvenici u zaključku naglašavaju kako nisu apriori protiv umjetne inteligencije kao modernog alata, već ustaju isključivo protiv njezine zlouporabe i komercijalne eksploatacije. Baš kao što kalkulatori mogu brzo i točno izračunati matematičke operacije, učenici i dalje moraju vježbati računanje na papiru kako bi razvili logičko mišljenje. Umjetna inteligencija stoga nikada ne smije postati jedino mjerilo i standard za definiranje matematike, a Leidenski manifest stvoren je upravo s ciljem da obrani integritet ljudskog uma i slobodu znanstvenog razmišljanja.