Kioxia i NVIDIA razvijaju SSD-ove do 100 puta brže od današnjih standarda: nova paradigma AI pohrane

· Sanja Ledinek

Kioxia i NVIDIA razvijaju SSD-ove do 100 puta brže od današnjih standarda

Na brifingu u Tokiju, Kioxia je otkrila strateško partnerstvo s NVIDIOM na razvoju SSD-ova optimiziranih za AI, koji obećavaju performanse do 100 puta veće od tradicionalnih NVMe SSD-ova. Ova inicijativa ima potencijal redefinirati granicu između pohrane i memorije visoke propusnosti (HBM) u sustavima za umjetnu inteligenciju.

GPU–SSD izravna povezanost: zaobilazak CPU-a

Tradicionalna arhitektura podataka uključuje CPU kao posrednika između GPU-a i SSD-a, što uvodi latenciju i uska grla. Novi Kioxia–NVIDIA SSD uklanja tu prepreku i omogućuje:

  • Izravnu komunikaciju GPU–SSD, eliminirajući konvencionalni CPU bounce.
  • Znatno manju latenciju u data loading i pre-fetching procesima.
  • Optimizaciju za AI radna opterećenja poput treniranja velikih modela i inferencije generativne AI.

Performanse: od IOPS-a do propusnosti

Kioxijin cilj: 100 milijuna IOPS (Input/Output Operations per Second), što je ≈100× više od današnjih SSD-ova (~1 milijun IOPS), dok  NVIDIA-in cilj je 200 milijuna IOPS. Predviđeno je paralelno korištenje dva SSD-a za probijanje kroz fizička uska grla. Takvi brojevi nisu samo teoretski benchmarkovi – oni predstavljaju pomak paradigme u odnosu na NVMe SSD-ove 4.0/5.0 generacije, gdje se i najbolji modeli teško penju iznad 2–3 milijuna IOPS-a.

PCIe 7.0 i potencijal zamjene HBM-a

Novi SSD temelji se na PCIe 7.0 standardu, koji omogućuje do 512 GB/s dvosmjernog prijenosa. To otvara prostor da SSD preuzme dio uloge HBM memorije, čija je dostupnost ograničena i izrazito skupa:

  • HBM3E/HBM4: ekstremna propusnost (1–1,5 TB/s po stogu), ali mali kapacitet i visoka cijena.
  • AI-SSD: niža propusnost od HBM-a, ali značajno veći kapacitet i skalabilnost.

? Ako AI-SSD postane djelomična alternativa HBM-u, moguće je smanjiti ukupne troškove hardvera za AI poslužitelje, rasteretiti proizvodne kapacitete SK hynixa i Samsunga, te omogućiti šire skaliranje AI infrastrukture.

Strateške implikacije

NVIDIA dobiva još jedan ključni element u optimizaciji AI lanca opskrbe – nakon dominacije GPU-ovima, sada ulazi i u inovacije pohrane. Kioxia, koja se u NAND segmentu natječe s Samsungom i Micronom, traži diferencijaciju kroz AI-specifične SSD-ove. Ako tehnologija uspije, mogla bi redefinirati arhitekturu podatkovnih centara za AI: kombinacija GPU + HBM + AI-SSD umjesto tradicionalnog CPU–DRAM–SSD lanca.

Zaključak: početak nove klase memorijsko-pohrambenih sustava

Kioxia i NVIDIA ciljaju stvoriti “hibridni sloj pohrane-memorije” između HBM-a i konvencionalnih SSD-ova. Ako uspiju, AI sustavi budućnosti neće više biti ograničeni skupljom HBM memorijom, već će imati elastičnu, brzu i skalabilnu pohranu, što može ubrzati treniranje LLM-ova, multimodalnih modela i real-time inferenciju.

DRUGE NOVOSTI