輝達宣佈其新一代Spectrum-6乙太網路交換機系統已開始向全球領先的AI基礎設施提供商交付。這款交換機是輝達Vera Rubin平台的關鍵元件,專為超大規模AI工廠設計,標誌著網路技術在AI時代邁出重要一步。
Spectrum-6是一款102.4 Tbps的乙太網路交換機系統,吞吐能力是上一代產品的兩倍。它作為新一代Spectrum-X乙太網路平台的核心,與ConnectX-9 SuperNIC協同工作,旨在將整個AI工廠作為一個端到端計算系統來執行。首批部署該系統的客戶包括CoreWeave、微軟、Nebius、SpaceXAI和特斯拉。這些客戶將利用Spectrum-6加速其AI工廠的執行。CoreWeave網路產品總監Min Jun表示,將Spectrum-6和液冷Spectrum-X基礎設施引入其AI工廠,有助於為客戶提供訓練前沿模型和部署推理服務所需的頻寬、彈性和效率。Nebius全球合作伙伴關係副總裁Laurelle Roseman則指出,在超大規模下,效能取決於協調,Spectrum-6正是為了確保網路在客戶最嚴苛工作負載擴充套件時保持快速和彈性。
輝達強調,在AI工廠中,峰值GPU效能已不再是預測整體效能的唯一因素。大規模訓練和推理依賴於數千個加速器之間的持續資料交換,這種集體通訊模式會產生巨大的東西向流量。傳統乙太網路主要為企業和南北向流量設計,難以滿足AI的同步、集體通訊需求。Spectrum-X乙太網路則為此而生,它通過智慧交換機、ConnectX-9 SuperNIC和全棧網路軟體的協同設計,將乙太網路轉變為高效能的橫向擴充套件網路。
具體效能上,Spectrum-X乙太網路相比傳統乙太網路可提供高達1.6倍的AI網路效能提升,在超過10萬GPU的部署中能維持高達95%的網路效率。此外,硬體加速的Spectrum-X多平面拓撲可將資料中心所需的交換機數量減少1.7倍。結合Spectrum-X乙太網路光子學技術,還能實現5倍的能效提升和10倍的平均故障間隔時間改善。
Spectrum-6支援可插拔和共封裝光學兩種外形,並支援液冷,為整個AI工廠提供端到端的冷卻方案。輝達表示,其垂直整合、水平開放的方法意味著客戶無需自行拼湊和最佳化元件,而是獲得一個完整的AI工廠平台,旨在實現最快的訓練時間和最低的每token成本。