英伟达宣布其新一代Spectrum-6以太网交换机系统已开始向全球领先的AI基础设施提供商交付。这款交换机是英伟达Vera Rubin平台的关键组件,专为超大规模AI工厂设计,标志着网络技术在AI时代迈出重要一步。
Spectrum-6是一款102.4 Tbps的以太网交换机系统,吞吐能力是上一代产品的两倍。它作为新一代Spectrum-X以太网平台的核心,与ConnectX-9 SuperNIC协同工作,旨在将整个AI工厂作为一个端到端计算系统来运行。首批部署该系统的客户包括CoreWeave、微软、Nebius、SpaceXAI和特斯拉。这些客户将利用Spectrum-6加速其AI工厂的运行。CoreWeave网络产品总监Min Jun表示,将Spectrum-6和液冷Spectrum-X基础设施引入其AI工厂,有助于为客户提供训练前沿模型和部署推理服务所需的带宽、弹性和效率。Nebius全球合作伙伴关系副总裁Laurelle Roseman则指出,在超大规模下,性能取决于协调,Spectrum-6正是为了确保网络在客户最严苛工作负载扩展时保持快速和弹性。
英伟达强调,在AI工厂中,峰值GPU性能已不再是预测整体性能的唯一因素。大规模训练和推理依赖于数千个加速器之间的持续数据交换,这种集体通信模式会产生巨大的东西向流量。传统以太网主要为企业和南北向流量设计,难以满足AI的同步、集体通信需求。Spectrum-X以太网则为此而生,它通过智能交换机、ConnectX-9 SuperNIC和全栈网络软件的协同设计,将以太网转变为高性能的横向扩展网络。
具体性能上,Spectrum-X以太网相比传统以太网可提供高达1.6倍的AI网络性能提升,在超过10万GPU的部署中能维持高达95%的网络效率。此外,硬件加速的Spectrum-X多平面拓扑可将数据中心所需的交换机数量减少1.7倍。结合Spectrum-X以太网光子学技术,还能实现5倍的能效提升和10倍的平均故障间隔时间改善。
Spectrum-6支持可插拔和共封装光学两种外形,并支持液冷,为整个AI工厂提供端到端的冷却方案。英伟达表示,其垂直整合、水平开放的方法意味着客户无需自行拼凑和优化组件,而是获得一个完整的AI工厂平台,旨在实现最快的训练时间和最低的每token成本。