AMD Zen 6: vodeća arhitektura za eru agentske umjetne inteligencije

Serija procesora AMD EPYC 9006 šeste generacije, kodnog naziva „Venice”, označava odlučan arhitekturni zaokret u području računalstva visokih performansi. Dok je peta generacija procesora EPYC donijela zamjetnu, 10,1 puta veću propusnost u odnosu na prvu generaciju, „Venice” taj rezultat podiže na impresivnih 18,0 puta veću propusnost. Takve performanse nisu rezultat pukog povećanja frekvencije, nego onoga što glavni arhitekt Mike Clark naziva „kotačem performansi”.

Arhitekti u AMD-u moraju uskladiti četiri ključna, često međusobno suprotstavljena projektna čimbenika:

• Broj instrukcija po taktu (IPC): Maksimiziranje opsega logičkih operacija i rada obavljenog u svakom taktu.
• Frekvencija: Postizanje visokih taktnih frekvencija bez ugrožavanja stabilnosti ili prekoračenja dopuštenih kašnjenja logičkih sklopova.
• Površina: Upravljanje fizičkom površinom silicija kako bi se osigurala visoka gustoća sklopova.
• Potrošnja energije: Optimiziranje potrošnje kako bi ostala unutar strogih toplinskih ograničenja.

U generaciji „Venice” ti su čimbenici prilagođeni specifičnim ograničenjima na razini sustava u eri agentske umjetne inteligencije. Pritom u prvi plan dolaze tradicionalna uska grla: memorijska propusnost i gustoća snage u poslužiteljskim ormarima, osobito u okruženjima sa snagom od 100 kW po ormaru.

Srce zvijeri: jezgre Zen 6 i Zen 6c

AMD nastavlja strategiju optimizacije u dva smjera, koristeći isti RTL i istu softversku osnovu kako bi zadovoljio različite potrebe podatkovnih centara. Jedan od ključnih uvida iz „kotača performansi” jest da se za postizanje najviših ciljanih frekvencija jezgri Zen 6 dizajn mora „razlomiti na manje cjeline” kako bi se ispunili zahtjevi vremenskog usklađivanja, što neizbježno zahtijeva veću površinu. S druge strane, Zen 6c usmjeren je na najveću moguću gustoću jezgri za radna opterećenja kod kojih je ključna propusnost.

Strategija predmemorije bez kompromisa. Na arhitekturnoj razini serija 9006 prelazi na model predmemorije „punog kapaciteta”. Za razliku od prethodnih generacija, u kojima se kapacitet predmemorije L3 katkad prepolovljavao radi veće gustoće, „Venice” za obje vrste jezgri kao temeljno arhitekturno obilježje donosi punih 4 MB predmemorije L3 po jezgri. Time se osigurava da i konfiguracije s najvećom gustoćom zadrže lokalnost podataka potrebnu za izvođenje složenog koda s brojnim grananjima.

Procesorske specifikacije

• Gustoća jezgri: Do 256 fizičkih jezgri i 512 dretvi po procesorskom podnožju (Zen 6c).
• Performanse jezgri Zen 6: Do 96 jezgri optimiziranih za cjelobrojne operacije uz nisku latenciju.
• AMD 3D V-Cache™: Inačice s proširenom predmemorijom nude do 1152 MB ukupne predmemorije L3.
• Ustrajnost u primjeni SMT-a: Unatoč zaokretu dijela industrije prema jezgrama s jednom dretvom (Arm/Intel), AMD ostaje pri stajalištu da je istodobno izvođenje više dretvi (SMT) njegova „najbolja značajka za poboljšanje performansi po vatu i po jedinici površine”. U izoliranim izvršnim okruženjima agentske umjetne inteligencije, u kojima tisuće jednostavnih zadataka poput pozivanja alata i izvršavanja koda često čekaju završetak ulazno-izlaznih operacija, SMT omogućuje „Veniceu” da iskoristi svaki ciklus rada tranzistora, učinkovito pretvarajući razdoblja čekanja u koristan rad.

Modularno skaliranje: arhitektura čipleta i temelji ulazno-izlaznog sustava

Serija 9006 temelji se na razdvajanju računalnih čipleta (CCD) i ulazno-izlaznog čipa (IOD). Takva modularnost omogućuje proizvodnju procesorskih jezgri u najnaprednijim proizvodnim procesima, dok IOD ostaje optimiziran za brze sklopove SerDes i povezivost platforme.

Mogućnosti ulazno-izlaznog sustava

• PCIe® šeste generacije: 128 staza u jednoprocesorskoj konfiguraciji (1P) pri brzini od 64 Gbit/s, čime se udvostručuje propusnost u odnosu na prethodnu generaciju.
• CXL 3.1: Snažna podrška za proširenje memorije i objedinjavanje memorijskih resursa, ključna za opsežna radna opterećenja koja koriste generiranje potpomognuto dohvatom podataka (RAG, engl. Retrieval-Augmented Generation).
• Infinity Fabric™ pete generacije: Održavanje koherentnosti pri velikim brzinama komunikacije između CPU-a i GPU-a putem xGMI-ja.
• Infinity Fabric over Ethernet (IFoE): Važna pojedinost za analitičare jest da IFoE proširuje koncepte međupovezivanja izvan procesorskog podnožja, na razinu poslužiteljskih ormara i skupina ormara, omogućujući neometanu koordinaciju više čvorova u radnim procesima agentske umjetne inteligencije.

Memorijski podsustav: od LPDDR5X-a do MRDIMM-a

„Venice” uvodi opsežnu memorijsku arhitekturu sa 16 kanala, koja podržava standardne module RDIMM i nove module MRDIMM usklađene sa standardom JEDEC. Uz to podržava i konfiguraciju memorije LPDDR5X s 24 kanala putem modula SOCAMM2 koji se mogu zamijeniti na terenu, čime donosi dosad nedostignutu ravnotežu između gustoće i potrošnje energije za zadatke umjetne inteligencije ograničene memorijskim resursima.

Specifikacija	DDR5-8000	MRDIMM-12800
Vršna propusnost (po procesorskom podnožju)	~1,0 TB/s	~1,6 TB/s
Najveći kapacitet (po procesorskom podnožju)	Do 4 TB	Do 4 TB
Konfiguracija	16 kanala	16 kanala

Tehnologija proširenja memorije (MEXT). MEXT odgovara na ekonomsku činjenicu da DRAM čini najveći dio troška komponenti poslužitelja. Uz softversko upravljanje temeljeno na umjetnoj inteligenciji, MEXT raspoređuje podatke između sloja za često korištene podatke (DRAM) i sloja za rijetko korištene podatke (flash memorija). Time arhitektima omogućuje povećanje efektivnog memorijskog kapaciteta za goleme skupove podataka uz kontrolu troškova i prikrivanje dodatne latencije flash pohrane.

Za arhitekte podatkovnih centara otpornost na pogreške ne dopušta kompromise. „Venice” koristi sveobuhvatnu arhitekturu za pouzdanost, raspoloživost i mogućnost servisiranja (RAS), po kojoj se razlikuje od memorijskih alternativa niske potrošnje (LP). Konkretno, podsustavi DDR5 RDIMM i MRDIMM podržavaju potpuno ispravljanje pogrešaka podataka nastalih kvarom jednog memorijskog čipa. Ta razina otpornosti ugrađene u arhitekturu nije moguća s memorijskim tehnologijama niske potrošnje, koje često daju prednost gustoći na račun mogućnosti ispravljanja pogrešaka. Zbog toga je „Venice” stabilniji izbor za uvođenje u velike skupine poslužitelja koji izvršavaju kritične zadatke.

Agentska umjetna inteligencija: prijelaz na omjer CPU-a i GPU-a od 1 : 1

Područje umjetne inteligencije razvilo se od jednostavnog treniranja modela do radnih procesa agentske umjetne inteligencije koji uključuju pozivanje alata, provjeru pravila i izvršavanje koda. Budući da ti zadaci često sadrže brojna grananja i zahtijevaju znatnu koordinaciju, CPU više nije sporedna komponenta. AMD predviđa da će čvorovi koji ugošćuju agentske sustave zahtijevati omjer CPU-a i GPU-a od 1 : 1 kako CPU ne bi postao usko grlo zbog kojeg GPU ostaje bez posla.

Napredno matrično proširenje (ACE). Kako bi standardizirali ubrzavanje zadataka umjetne inteligencije, AMD i Intel surađivali su na razvoju ACE-a (Advanced Matrix Extension). ACE je nasljednik „koprocesorskog modela”, kakav primjenjuje Intelov AMX. Budući da je ACE integriran izravno u protočnu strukturu CPU-a, lakše se skalira u cijelom ekosustavu, od prijenosnih računala niske potrošnje do najnaprednijih poslužiteljskih procesora s 256 jezgri. Time se izbjegava fragmentacija skupa instrukcija koja je opterećivala starija vektorska proširenja poput AVX-512.

Zrelost ekosustava i prednost arhitekture x86

O zrelosti platforme EPYC svjedoči njezina primjena u više od 450 OEM platformi i više od 1600 instanci u javnom oblaku. U okviru savjetodavne skupine x86 Ecosystem Advisory Group, AMD i Intel osiguravaju usklađen smjer razvoja softvera. Standardizacijom značajki poput ACE-a i FRED-a skupina sprječava fragmentaciju, omogućujući korisnicima da iskoriste velike ulazno-izlazne kapacitete i visoku gustoću jezgri „Venicea” bez skupog restrukturiranja softvera. „Venice” nije samo predvodnik po broju jezgri, nego i uravnotežena, zrela platforma za najzahtjevnije razdoblje računalstva.

(sponzorirani sadržaj)