NVIDIA rozszerzyła NVLink Fusion o NVHBM - nową generację zaawansowanej pamięci o wysokiej przepustowości przeznaczoną dla XPU. Innowacja polega na przeniesieniu kontrolera pamięci z matrycy procesora do podstawy stosu 3D pamięci HBM, co zmienia tradycyjną architekturę i przynosi znaczące korzyści wydajnościowe.
Tradycyjne architektury HBM umieszczają kontroler pamięci na matrycy XPU, zajmując przestrzeń, którą można byłoby przeznaczyć na obliczenia. NVHBM rozwiązuje ten problem, integrując niestandardowy kontroler NVIDIA bezpośrednio w fundamenty stosu pamięci. Ta reorganizacja dostarcza aż 30 procent większą przepustowość pamięci, zmniejsza konsumpcję energii HBM o 15 procent i uwalnia do 25 procent więcej powierzchni matrycy obliczeniowej w stosunku do konkurencyjnej pamięci HBM4E. Technologia będzie budowana na podstawie tego samego rozwiązania, które NVIDIA planuje wdrożyć w przyszłych GPU.
NVIDIA ustanawia standardową implementację NVHBM dostępną od wielu producentów pamięci, co zmniejsza nakład inżynierski wymagany do integracji i walidacji pamięci z różnych dostawców. To podejście daje klientom NVLink Fusion szybszą ścieżkę do wdrożenia zaawansowanej infrastruktury obliczeniowej, której potrzebują agenci AI i modele z bilionami parametrów.