在Hot Chips 2026大会上,NVIDIA展示了其Spectrum-X以太网多平面网络架构,旨在将AI工厂的GPU规模从数千个扩展至50万个。这一架构是NVIDIA对AI工厂网络的核心愿景,其关键创新在于将网络划分为多个平面,而非传统的专用轨道,从而在共享交换硬件的同时实现规模的大幅扩展。
NVIDIA在演讲中将AI工厂网络划分为五个专用网络:scale-across、scale-in、scale-out、scale-up和AI context scale。其中,scale-in是本次新提出的概念,NVIDIA强调,单一通用网络无法同时满足这些不同网络的需求,这是其架构设计的核心论点。
在性能方面,NVIDIA声称Spectrum-X相比现成以太网,在多租户AI工厂中可实现1.9倍的训练性能提升,这基于DeepSeek V3的多任务训练测试。在NCCL性能上,梯度全归约(gradient all-reduce)操作实现了14倍的提升,token分发(token dispatch)为3.5倍,而梯度reduce-scatter和并行矩阵乘法均为2倍。这些提升得益于低延迟通信和租户噪声隔离。
NVIDIA还强调了光通信在AI工厂中的重要性,指出其光通信成本占计算功耗的10%,远高于传统云数据中心。其共封装光学(co-packaged optics)芯片已投入生产,采用微环调制器和3D堆叠硅光子引擎(基于台积电Coupe工艺),并声称相比传统方案可减少4倍的激光器数量、降低功耗,并将平均故障间隔时间(MTBI)提高10倍。
在拓扑演进上,NVIDIA从传统的机架顶部(ToR)交换机拓扑出发,首先提出多轨道(multi-rail)方案,支持8k个Rubin GPU,每个GPU提供1.6T的scale-out带宽,通过100T交换机承载64个1.6T端口,并跨四个轨道分配流量。而新的多平面(multiplane)拓扑则进一步将规模扩展64倍,达到512k个Rubin GPU。
NVIDIA的演讲中还提到,其NVLink scale-up网络(NVL72机架)已实现72-GPU的scale-up域,并声称在每兆瓦token数方面领先。此外,NVIDIA还介绍了其co-packaged optics解决方案已进入生产阶段,并提及了Astra、scale-in和BlueField-4等组件。
值得注意的是,NVIDIA在演讲中多次展示同一张关于Agentic AI的幻灯片,并强调这是其构建AI工厂平台的原因。同时,NVIDIA在Broadcom展示Thor Ultra(采用100G SerDes)之后,直接表示“100G SerDes是去年的东西”,暗示其技术领先性。
总体而言,NVIDIA的多平面网络架构旨在解决AI工厂扩展中的网络瓶颈,通过专用网络和光通信优化,为大规模GPU集群提供高性能、低延迟的互联方案。这一架构的推出,可能对网络设备、光模块等产业链上下游产生深远影响。