英伟达正式披露了其面向下一代 AI 工厂的 Vera CPU 架构细节,该处理器专为解决智能体系统在大规模部署时遇到的 CPU 侧瓶颈而设计。根据英伟达开发者博客公布的数据,Vera CPU 在全插槽满载状态下,单核持续性能达到基线 CPU 的 1.8 倍,显著改善了强化学习训练吞吐量、策略梯度质量以及环境推演的完成率。
Vera CPU 采用 单片式计算芯片,集成 88 个 Olympus 核心、统一缓存以及可扩展一致性互联结构。与传统的 x86 数据中心 CPU 相比,其峰值加载延迟降低了 40%,每核内存带宽提升超过 3 倍,而功耗不到后者的一半。这些指标直接指向智能体推理和交互式部署场景中对响应速度与能效的苛刻要求。
在智能体系统中,模型推理只是整个工作流的一环。一个完整的智能体任务通常需要串联推理、工具调用、代码执行、检索、编排和结果处理等多个步骤,而每一步之间的协调、沙箱化评估、KV 缓存管理以及数据处理都落在 CPU 上。如果 CPU 处理速度跟不上,GPU 集群就会面临三重损失:强化学习每轮获得的有效反馈减少,导致训练时间膨胀;单个用户的响应时间拉长;KV 缓存被过早驱逐,迫使系统重新计算上下文,浪费宝贵的算力。
英伟达给出的一个关键对比场景是强化学习的环境推演。在基线 CPU 上,由于单核性能不足,只有约 45% 的环境评估能在训练窗口内完成,GPU 不得不空转等待反馈。而 Vera CPU 凭借更快的单核速度,可将这一比例提升至 85%,从而向 GPU 输送更密集、更高质量的训练信号,加速模型收敛并产出更优的策略。
这一提升得益于 Olympus 核心的多项针对性设计:神经分支预测器用于应对 Python 代码、模拟器和奖励逻辑中复杂的控制流;10 宽度解码前端每周期向执行单元送入更多指令;深度乱序执行能力减少了不规则负载下的停顿;英伟达自研的空间多线程技术则确保在扩展到数千个并行环境时,单核性能不会大幅衰减。
在在线部署端,Vera CPU 同样瞄准了交互式智能体的延迟约束。当智能体自主执行一连串工具调用和代码编译时,每一步的 CPU 处理时间都直接叠加到用户感知的响应延迟上。Vera CPU 通过降低单步处理延迟并提高内存带宽,使系统能够在相同的 GPU 资源下服务更多并发用户,同时更稳定地满足服务等级协议。
从产业视角看,Vera CPU 的定位并非替代 GPU,而是作为 AI 工厂中 CPU-GPU 协同的关键一环。随着智能体应用从实验走向规模化部署,基础设施的瓶颈正从单纯的算力总量转向算力效率与系统级吞吐量。Vera CPU 试图通过消除 CPU 侧的停滞点,让昂贵的 GPU 集群保持更高的利用率,从而在单位时间内完成更多有效工作。这一思路与英伟达从芯片到系统再到数据中心的垂直整合策略一脉相承,也为评估下一代 AI 基础设施的总拥有成本提供了新的参考维度。