英伟达于 2026 年 8 月 26 日发布了两项关键技术——NVLink Fusion 和 NVHBM，旨在帮助超大规模云厂商和 AI 原生公司将其自研的 AI 加速器（XPU）和 CPU 无缝集成到英伟达的 AI 基础设施平台中。这一举措被视为英伟达巩固其在 AI 算力生态中核心地位的重要一步，同时也回应了 AI 工作负载对算力、内存带宽和能效日益增长的需求。
随着 AI 模型规模不断扩大、推理任务日益复杂，超大规模云厂商和 AI 原生公司纷纷开发定制化的 AI 加速器（XPU）。然而，将这些加速器大规模部署到数据中心，需要高带宽内存（HBM）来持续供给计算单元，同时还需要足够的封装和硅片面积、高效的供电方案以及稳健的供应链。英伟达的 NVLink Fusion 正是为此而设计，它提供了连接技术和 IP，使客户能够利用英伟达的 scale-up 和 scale-out 技术栈、生态系统以及 MGX 机架级架构，降低开发和部署复杂性，提升性能，并加速半定制 AI 工厂的上市时间。
在封装层面，NVHBM 是英伟达与领先内存厂商共同设计和验证的定制 HBM 基底芯片技术。相比标准 HBM4e，NVHBM 可提供最高 30% 的内存带宽提升、25% 的计算芯片面积增加以及 15% 的 HBM 功耗降低，从而带来整体 XPU 性能 30% 的提升。这些改进有助于定制 XPU 支持更大规模的模型、更快地读取 KV 缓存数据，并提升训练和大规模推理的效率。
内存带宽一直是 AI 加速器性能的关键瓶颈。更高的 HBM 速度能在给定封装预算内提供更多可用带宽，从而提升训练和推理中带宽密集型阶段的性能。NVHBM 通过将内存控制器集成到 3D HBM 堆栈中、减少 I/O 面积需求，实现了面积节省，为计算资源和工作负载特定的加速优化腾出了更多空间。对于内存受限或部分内存受限的 AI 工作负载，这意味着更高的加速器利用率和吞吐量，尤其是在大模型推理中，能更快地在 HBM 和计算核心之间移动数据，从而提升每个用户的 token 吞吐量。
NVLink Fusion 则通过其小芯片架构和第六代 NVLink 网络，将定制 XPU、CPU 和 GPU 在机架级连接起来，实现无缝的 scale-up 域。这对于使用专家并行（EP）或 WideEP 等高级路由技术尤为关键，因为不同专家分布在不同的 GPU 上，需要在整个机架内进行高速同步。NVLink 作为 AI 工厂的 scale-up 网络结构，负责在专家之间传输激活值和隐藏状态，并帮助在 scale-up 域内同步分布式缓存，而 NVHBM 则通过持续供给本地计算引擎来减少数据饥饿。
对于定制 AI 芯片设计者而言，每一平方毫米的芯片面积都至关重要。NVHBM 通过减少内存接口所需的面积，使团队能够将更多面积用于矩阵引擎、向量单元、片上 SRAM、缓存层次结构、控制逻辑、网络片上等计算资源，从而针对推理服务、推荐系统、多模态流水线或内部训练工作负载进行优化。此外，NVHBM 的功耗节省在数千个 XPU 的规模下累积起来，可显著降低数据中心的运营成本。
英伟达表示，NVLink Fusion 和 NVHBM 共同构成了一个统一的架构，使客户能够将定制 XPU 和 CPU 部署到英伟达的 AI 基础设施平台中，同时利用其成熟的软件生态和机架级架构。这有望降低定制加速器项目的集成和验证瓶颈，因为 NVHBM 基底芯片已与领先内存制造商完成验证。
从产业角度看，这一发布可能对 AI 芯片产业链产生深远影响。一方面，它降低了超大规模云厂商和 AI 原生公司自研芯片的门槛，可能加速异构 AI 基础设施的部署；另一方面，它也强化了英伟达在 AI 算力生态中的枢纽地位，因为其技术栈和生态成为定制芯片落地的关键路径。对于内存、封装和网络设备供应商而言，NVHBM 和 NVLink Fusion 的推广可能带来新的需求，但也可能重塑现有的供应链格局。
总体而言，英伟达通过 NVLink Fusion 和 NVHBM 展示了其在 AI 基础设施领域的前瞻布局，旨在应对 AI 工作负载对算力、带宽和能效的持续挑战，同时为行业提供更灵活、更高效的定制化方案。