輝達(NVIDIA)新一代機架級 AI 超級計算機 Vera Rubin NVL72 已進入全面量產階段,多家頭部雲廠商的機架已投入執行。據輝達官方資訊,CoreWeave、Google Cloud、Microsoft Azure 和 Oracle Cloud Infrastructure 等合作伙伴的 Vera Rubin 機架均已部署。這一平台從晶片到電網進行了全棧協同設計,旨在提供最高的每瓦效能與最低的 Token 成本,其供應鏈已覆蓋 30 個國家的 350 多家工廠,成為輝達迄今規模最大、最成熟的機架級供應體系。
在效能方面,CoreWeave 首次公佈了基於實際執行硬體的基準測試結果:在 DeepSeek-R1 負載下,Vera Rubin NVL72 的每兆瓦 Token 吞吐量較上一代 Grace Blackwell NVL72 提升了 10 倍。這一指標直接回應了電力受限的 AI 工廠最關心的核心問題——在同等電力預算下,每兆瓦產出的 Token 越多,意味著能產出更多智慧算力,或在顯著降低功耗的情況下處理相同負載。
Vera Rubin 平台的核心突破在於七款晶片與五種機架托盤的極致協同設計,而非通用產品的簡單拼湊。五種機架系統包括 Vera Rubin NVL72、Vera CPU 機架、Groq 3 LPX、Spectrum-6 SPX 和 Vera BlueField-4 STX。其中,NVIDIA Vera CPU 專為智慧體時代設計,其定製 Olympus 核心相較競品的芯粒方案,單執行緒效能提升 2 倍、核間頻寬提升 3 倍、記憶體延遲降低 40%,成為面向關鍵智慧體負載時最高效的單執行緒 CPU。
在網路層面,第六代 NVLink 縱向擴充套件技術在處理複雜工作負載時,相比通用乙太網路,吞吐量提升超過 2 倍、延遲降低 1/3、資料包處理速率提升 10 倍。橫向擴充套件方面,Spectrum-X 乙太網路整合 102.4T 的 Spectrum-6 交換機系統、1.6T 的 ConnectX-9 SuperNIC、自適應路由、高階擁塞控制、遙測技術及開放作業系統支援,其 RDMA 頻寬比通用乙太網路高出 1.6 倍。
輝達還推出了全球首款量產的光電一體化封裝(CPO)交換機,用於橫向擴充套件,相比傳統可插拔收發器,能效提升 5 倍,平均無故障間隔時間(MTBI)提升 10 倍。CoreWeave、Lambda 和 OCI 率先採用該技術。此外,Spectrum-XGS 乙太網路將跨站點吞吐量提升 1.9 倍,滿足十億瓦級 AI 工廠跨建築部署的需求。NVLink Fusion 則向第三方 XPU 開放了輝達基礎設施平台,幫助合作伙伴藉助成熟的 NVLink 縱向擴充套件堆疊快速上市。
經過三代機架級協同設計的迭代,Vera Rubin NVL72 實現了托盤內無電纜、無風扇、無液冷軟管的極簡設計,計算托盤組裝時間從數小時縮短至 1 分鐘。其 45 攝氏度液冷進水溫度設計使系統無需冷水機組,僅靠乾式冷卻器即可執行,對新建 AI 工廠而言,每兆瓦每年可節省數百萬加侖水。
Vera Rubin 也是微軟與 Mistral 新一輪合作的基石。該合作將開放的歐洲模型與雲環境及客戶管理環境結合,使政府和重點監管行業能按需採用 AI。Mistral 正通過引入數千個最新 Vera Rubin GPU 擴充算力,為訓練、推理和大規模部署提供共享平台。
在雲服務商部署方面,CoreWeave 成為首家完成 Vera Rubin NVL72 部署與驗證的 AI 雲服務商,其基準測試顯示每兆瓦 Token 吞吐量較上代提升 10 倍。Google Cloud 的首個 A5X 例項基於 Vera Rubin NVL72 構建,已由倫敦初創公司 Ineffable Intelligence 率先採用,該例項每 Token 推理成本降至上一代的 1/10,每兆瓦 Token 吞吐量提升 10 倍。
雲平台 DeepInfra 的獨立基準測試顯示,NVIDIA Vera CPU 的執行速度是其他 CPU 的 2 倍以上,在保持相同服務質量的前提下,支援的併發 AI 智慧體數量多出高達 1.6 倍,編排速度快 2.2 倍。DeepInfra 每週處理近 5 萬億 Token,其中約 30% 由智慧體系統驅動。
Vera Rubin 的量產標誌著輝達在機架級 AI 基礎設施上的又一次躍進,其全棧協同設計與供應鏈佈局,正深刻影響 AI 算力的供給效率與成本結構,對依賴大規模推理和智慧體負載的雲廠商、模型公司及下游應用企業都將產生直接牽動。