在Hot Chips 2026大会上，英伟达除了介绍Vera CPU和Rubin GPU外，还专门讲解了其在Vera Rubin机架中使用的语言处理单元（LPU）。这些LPU来自英伟达通过收购获得的Groq公司，目前英伟达自身尚未量产LPU，但相关研发正在进行中。

英伟达在Vera Rubin集群中引入LPU，旨在弥补GPU在推理解码阶段的不足。GPU在预填充阶段表现出色，但在解码阶段，LPU凭借大量片上SRAM，将模型数据尽可能靠近计算单元，从而显著降低延迟，提升单用户token生成速率。英伟达在演讲中展示了性能曲线，对比了token/秒/瓦与token/秒/用户的关系，指出在追求更高用户交互性（即更低token延迟）时，GPU性能会大幅下降，而LPX机架作为第二层硬件，能有效提升每用户token率并降低延迟。

具体到LPX机架，单个机架在31B模型（Gemma 4）上每秒可解码11000个token。本周早些时候，英伟达发布了由Artificial Analysis进行的第三方基准测试，结果显示LPX机架的token输出率比最接近的公开竞争对手（未点名，但疑似Cerebras CS-3）高出4倍。

Groq的LPU架构强调内存与计算的紧密连接，芯片完全确定性，无分支或非确定性来源，因此指令调度由软件完成，无需复杂的调度硬件。每个LPU芯片同时充当处理器和路由器，编译器统一调度所有处理与网络资源，且没有硬件流控制或虚拟通道，设计极为精简。一个LPX机架包含256个LPU，数千个芯片协同工作，如同一个巨大的LPU核心。

英伟达在多个演讲中反复强调，智能体AI是历史上最复杂的计算工作负载，需要新的硬件开发方法和更多硬件。LPU的引入正是这一理念的体现，通过异构计算满足不同阶段的需求。对于Groq团队而言，在Hot Chips上演讲也颇具纪念意义，他们已加入英伟达并参与这一项目。

此次发布表明，英伟达正积极构建多元化的AI计算生态，LPU作为补充，与GPU协同，为不同工作负载提供优化方案。对于AI产业投资者而言，这预示着推理性能的提升可能带来更高效的算力利用，并影响未来数据中心的设计方向。