英伟达于2026年8月27日宣布扩展其NVLink Fusion平台,推出新一代高带宽内存技术NVHBM,旨在提升定制AI芯片(XPU)的内存性能与效率。亚马逊旗下Annapurna Labs将成为首家与英伟达合作采用NVHBM的公司,并延续双方在NVLink Fusion上的既有协作。

随着AI代理和万亿参数级工作负载成为主流,AI基础设施的性能不再单纯依赖计算能力,而是取决于计算、内存、存储、网络与软件如何作为统一系统协同设计。英伟达此举正是针对这一趋势,为超大规模云服务商和AI创新企业提供半定制AI基础设施的新选项。

传统HBM架构将内存控制器置于XPU芯片上,占用宝贵的硅片面积,而这些面积本可用于计算单元。NVHBM则基于英伟达未来GPU将采用的技术,将英伟达定制的内存控制器集成到HBM的基底芯片中。通过将内存控制器移入3D HBM堆栈而非XPU,NVHBM相比标准HBM4E可提供最高30%的内存带宽提升、15%的HBM功耗降低,并为XPU计算芯片释放最多25%的额外面积。

英伟达正在建立标准的NVHBM实现方案,并计划由多家内存供应商提供。这一标准化做法可减少跨供应商集成和验证内存所需的工程工作量,为NVLink Fusion客户提供更快的定制AI芯片上市路径。

亚马逊Annapurna Labs将与英伟达合作开发NVHBM技术及NVLink扩展架构,以提升AI工作负载的性能与效率。这建立在AWS此前宣布支持NVLink Fusion的基础上。Annapurna Labs计划从下一代Trainium4芯片开始支持NVLink Fusion,使亚马逊自研芯片与英伟达GPU能够在共同的机架级架构下协同工作。

Annapurna Labs副总裁Nafea Bshara表示,NVHBM代表了推进高带宽内存性能与效率的新架构方法,并期待通过技术合作惠及未来的AWS基础设施设计。

NVLink Fusion平台允许合作伙伴将定制XPU和CPU连接到英伟达的机架级平台,可访问英伟达NVLink chiplets、NVLink-C2C、NVLink交换机、MGX系统与机架,以及广泛的CPU合作伙伴、ASIC设计商、系统制造商和技术提供商生态。该平台随英伟达每一代机架级系统架构提供,使超大规模云服务商和AI原生公司能将工程资源集中于XPU创新,同时利用经过验证的技术栈进行扩展网络、机架级系统和软件部署,从而以更低风险、更快速度实现半定制AI基础设施。

此次合作延续了AWS与英伟达在AI基础设施领域的紧密关系。此前,AWS已宣布支持NVLink Fusion,并计划部署200万块额外GPU及下一代基础设施,用于代理式AI和物理AI。NVHBM的推出进一步巩固了英伟达在定制AI芯片生态中的核心地位,同时也为亚马逊等云厂商提供了更灵活的内存方案选择。