英伟达于11月16日公布了新一代Vera Rubin平台在MLPerf基准测试中的首次成绩,结果显示该平台在训练与智能体推理两类负载上均取得领先。MLPerf Training v6.1的全部基准项目均有英伟达平台的结果,覆盖大语言模型、图像生成、推荐系统和强化学习后训练,是本轮唯一实现全项目覆盖的厂商。
在训练性能上,Vera Rubin NVL72在首次亮相中,单GPU性能最高达到经过高度优化的GB300 NVL72系统的两倍。英伟达称这体现了代际创新的速度,并强调随着CUDA软件栈的持续优化,Vera Rubin的性能还将继续提升,客户当前投资的基础设施会随时间释放更多价值。
规模扩展方面,在DeepSeek-V3基准上,Vera Rubin NVL72从256颗GPU扩展至1024颗,仍保持约97%的效率,训练时间从16分钟缩短至约4分钟。英伟达还使用GB300系统在10240颗GPU上运行了该基准,为本轮最大规模;微软Azure则以10240颗英伟达GPU搭配GB200系统达到同等规模。英伟达表示,这种规模的结果之所以重要,是因为增加GPU只有在高效协同工作时才能加速训练,其NVLink纵向扩展网络负责系统内GPU互联,Quantum-X800 InfiniBand与Spectrum-X Ethernet负责数据中心内系统间互联。
在智能体推理方面,MLPerf Endpoints v1.0测试系统在真实智能体编程与企业工作流中的表现,并验证智能体能否正确完成任务。英伟达称Vera Rubin在所有智能体基准中领先。以面向智能体工作流的大型开放模型Kimi K3的暂定结果为例,在相同响应速度下,Vera Rubin NVL72的每瓦吞吐量超过GB300 NVL72的10倍。具体数据为:Vera Rubin NVL72使用32个加速器,系统吞吐量41414.2 tokens/秒,运行功率100.89千瓦;GB300 NVL72使用48个加速器,系统吞吐量2210.4 tokens/秒,运行功率60千瓦;比较基于每用户端到端平均交互性不低于50 tokens/秒的共享最低标准。英伟达指出,该Vera Rubin结果为暂定,尚待MLCommons协会验证。
英伟达还提到,MLPerf Training中有20家合作伙伴提交了结果,包括华硕、Azure、思科、CoreWeave、Crusoe、戴尔科技、Firmus、富士通、Giga Computing、谷歌云、HPE、英业达、Krai、Lambda、Nebius、甲骨文、广达云科技(QCT)、超微、TTA和佛罗里达大学,显示其可编程平台与开源库、框架所支持的生态广度。此外,英伟达称Vera Rubin在SemiAnalysis AgentX和Artificial Analysis AgentPerf等独立基准上也表现领先。
对关注AI算力产业的读者而言,这组数据提供了两个观察维度:一是训练侧代际性能提升与大规模扩展效率,直接关系到模型迭代速度和算力集群的性价比;二是智能体推理的每瓦吞吐量,在数据中心电力约束日益突出的背景下,成为衡量智能体服务经济性的关键指标。英伟达通过MLPerf这一公开基准展示进展,也意在向客户与生态伙伴传递其平台持续优化的信号。