輝達於2026年8月27日宣佈擴充套件其NVLink Fusion平台，推出新一代高頻寬記憶體技術NVHBM，旨在提升定製AI晶片（XPU）的記憶體效能與效率。亞馬遜旗下Annapurna Labs將成為首家與輝達合作採用NVHBM的公司，並延續雙方在NVLink Fusion上的既有協作。

隨著AI代理和萬億引數級工作負載成為主流，AI基礎設施的效能不再單純依賴計算能力，而是取決於計算、記憶體、儲存、網路與軟體如何作為統一系統協同設計。輝達此舉正是針對這一趨勢，為超大規模雲服務商和AI創新企業提供半定製AI基礎設施的新選項。

傳統HBM架構將記憶體控制器置於XPU晶片上，佔用寶貴的矽片面積，而這些面積本可用於計算單元。NVHBM則基於輝達未來GPU將採用的技術，將輝達定製的記憶體控制器整合到HBM的基底晶片中。通過將記憶體控制器移入3D HBM堆疊而非XPU，NVHBM相比標準HBM4E可提供最高30%的記憶體頻寬提升、15%的HBM功耗降低，併為XPU計算晶片釋放最多25%的額外面積。

輝達正在建立標準的NVHBM實現方案，並計劃由多家記憶體供應商提供。這一標準化做法可減少跨供應商整合和驗證記憶體所需的工程工作量，為NVLink Fusion客戶提供更快的定製AI晶片上市路徑。

亞馬遜Annapurna Labs將與輝達合作開發NVHBM技術及NVLink擴充套件架構，以提升AI工作負載的效能與效率。這建立在AWS此前宣佈支援NVLink Fusion的基礎上。Annapurna Labs計劃從下一代Trainium4晶片開始支援NVLink Fusion，使亞馬遜自研晶片與輝達GPU能夠在共同的機架級架構下協同工作。

Annapurna Labs副總裁Nafea Bshara表示，NVHBM代表了推進高頻寬記憶體效能與效率的新架構方法，並期待通過技術合作惠及未來的AWS基礎設施設計。

NVLink Fusion平台允許合作伙伴將定製XPU和CPU連線到輝達的機架級平台，可訪問輝達NVLink chiplets、NVLink-C2C、NVLink交換機、MGX系統與機架，以及廣泛的CPU合作伙伴、ASIC設計商、系統製造商和技術提供商生態。該平台隨輝達每一代機架級系統架構提供，使超大規模雲服務商和AI原生公司能將工程資源集中於XPU創新，同時利用經過驗證的技術棧進行擴充套件網路、機架級系統和軟體部署，從而以更低風險、更快速度實現半定製AI基礎設施。

此次合作延續了AWS與輝達在AI基礎設施領域的緊密關係。此前，AWS已宣佈支援NVLink Fusion，並計劃部署200萬塊額外GPU及下一代基礎設施，用於代理式AI和物理AI。NVHBM的推出進一步鞏固了輝達在定製AI晶片生態中的核心地位，同時也為亞馬遜等雲廠商提供了更靈活的記憶體方案選擇。