NVIDIA Vera nadmašuje Zen 5 arhitekturu EPYC u AI testovima temeljenim na agentima

Sve veći naglasak na umjetnu inteligenciju temeljenu na agentima potiče dramatične promjene u dizajnu poslužiteljskih procesora. Najnovija testiranja u okviru renomiranog Daytona benchmarka, specijaliziranog za mjerenje performansi pisanja AI koda i agentskih procesa, pokazuju iznimne rezultate Nvidijina novog procesora s vlastitom arhitekturom – NVIDIA Vera. U zahtjevnim okruženjima agentskih sandboxova, gdje su performanse s jednom niti i stabilnost pod opterećenjem presudne, Vera je ostvarila rezultate koji znatno nadmašuju AMD-ove poslužiteljske procesore temeljene na Zen 5 arhitekturi.

Zašto su performanse jedne niti ključne za AI proxy sandboxe?

Filozofija dizajna iza Nvidijina Vera procesora usmjerena je na maksimiziranje održivih performansi po jednoj niti, a ne na puko gomilanje sirovih vršnih vrijednosti koje se brzo urušavaju pod punim opterećenjem. Dok suvremeni procesori podatkovnih centara nude impresivne vršne performanse za različite zadatke, mogućnosti pojedinačne jezgre često značajno opadaju kada se istovremeno koristi veliki broj jezgri u stvarnim aplikacijama.

Kod aplikacija s AI agentima, koje zahtijevaju neprekidno izvršavanje tisuća izoliranih zadataka unutar takozvanih proxy sandboxova, performanse s jednom niti postaju usko grlo cijelog sustava. Prema riječima Vedrana Jukića, suosnivača i tehničkog direktora Daytone, ključni pokazatelj uspjeha nije teorijska vršna snaga, već sposobnost sustava da zadrži gotovo ravnomjerne, stabilne performanse čak i kada se istovremeno pokreće 2000 sandboxova, bez ikakvih rušenja ili drastičnih padova frekvencija.

Usporedba performansi: NVIDIA Vera nasuprot AMD EPYC Zen 5 procesora

Rezultati Daytona benchmarka jasno oslikavaju razliku u arhitektonskom pristupu. U testovima propusnosti i brzine pokretanja okruženja, NVIDIA Vera postavila je nove standarde:

• Vrhunska propusnost: Vera je postigla vršnu propusnost od 13,3 proxy zadataka u sekundi uz stabilan kontinuirani izlaz od 13 zadataka u sekundi.
• Brzina pokretanja: Sustav je uspio pokrenuti 1000 sandbox okruženja za samo 10,8 sekundi, dok je pokretanje 2000 sandboxova trajalo 27 sekundi.
• Usporedba s AMD EPYC-om: Konkurentski AMD EPYC 9755 trebao je čak 88,4 sekunde za pokretanje 1000 sandboxova uz stabilan izlaz od 8 zadataka u sekundi.

Čak i snažniji EPYC 9575F, optimiziran za veće radne taktove, trebao je 32,3 sekunde za 1000 sandboxova uz izlaz od 11 zadataka. Važno je napomenuti da niti jedan od testiranih EPYC modela nije uspio uspješno pokrenuti opterećenje od 2000 sandboxova u istim uvjetima.

Zahvaljujući ovakvoj stabilnosti, Vera omogućuje znatno veću učinkovitost na razini jednog poslužitelja. Za postizanje cilja od 1000 istovremenih zadataka, Vera zahtijeva 15 posto manje resursa od modela EPYC 9755, odnosno čak 38 posto manje od modela EPYC 9575F. To se u praksi prevodi na niže ukupne troškove vlasništva (TCO), manji broj potrebnih poslužitelja, manju potrošnju električne energije i smanjene troškove hlađenja.

Iako AMD već priprema svoju nadolazeću Zen 6 arhitekturu koja će donijeti nova poboljšanja, Nvidijin uspjeh s Verom dokazuje ispravnost strategije prilagodbe hardvera specifičnim radnim opterećenjima umjetne inteligencije. Zbog ovakvih rezultata ne čudi što je Nvidia odlučila skratiti razvojne cikluse svojih poslužiteljskih procesora, nagovještavajući još agresivniju utakmicu na tržištu podatkovnih centara.