NVIDIA-in budući AI akcelerator pomaknut će se prema silicijskoj fotonskoj komunikaciji i memorijskom 3D slaganju
NVIDIA je na IEDM konferenciji predstavila svoju konceptualnu viziju za sljedeću generaciju AI akceleratora, s dvije ključne točke. Spomenula je da će koristiti SiPH za zamjenu trenutne elektroničke komunikacije kao srednjeg sloja velikih računalnih GPU-ova. SiPh silicijska fotonika je optička komunikacijska tehnologija koja ima veću propusnost i nižu latenciju od trenutnih metoda električne komunikacije, a također štedi energiju. Osim što će služiti kao međusloj, NVIDIA također planira koristiti SiPh kao komunikacijsku tehnologiju za povezivanje više matrica u novom GPU čipu, omogućujući višestrukim GPU čipovima da se međusobno povežu i međusobno povežu u kanalima veće brzine i niske latencije.
Osim toga, NVIDIA također planira koristiti 3D slaganje za izgradnju sljedeće generacije AI akceleratora, uključujući vertikalno slaganje više GPU čipova kako bi se smanjila površina čipa i povećala gustoća. NVIDIA ovu tehnologiju naziva GPU razinom, a svaka GPU razina sastoji se od četiri GPU matrice složene okomito, svaki GPU s tri SiPh kruga međusobno povezana, i planira složiti memoriju u čip u 3D, pri čemu je svaka matrica opremljena sa šest memorijskih čipova.
Međutim, takva se tehnologija neće pojaviti 2025. godine, industrijski analitičar Ian Cutress vjeruje da je iz procjene cjelokupnog koncepta čipa, a s obzirom na masovnu proizvodnju SiPh-a, ali i s obzirom na grijanje i druge probleme koje će neizbježno uzrokovati veliki čipovi složeni u više slojeva, vjerojatnije da će vremenska točka implementacije biti oko 2028. do 2030. godine.
