輝達Vera Rubin平台的釋出，正在將下一代AI基礎設施的競爭焦點從“誰擁有更快的GPU”推向“誰能建成效率更高的Token工廠”。這一轉變的核心在於，隨著AI工作負載從單次大規模訓練擴充套件到智慧體系統的持續執行，衡量標準已從單晶片峰值算力，轉向在固定電力、機房空間和資本投入下，系統能夠持續生成多少Token、每百萬Token成本幾何，以及數萬加速器能否長期穩定執行。

Vera Rubin NVL72是這套新架構的計算引擎。它集成了72顆Rubin GPU和36顆Vera CPU，通過第六代NVLink銅質主幹互聯，可作為一個統一的大型加速器執行。單顆Rubin GPU提供288 GB HBM4視訊記憶體和22 TB/s視訊記憶體頻寬，NVFP4推理效能達50 PFLOPS，訓練效能達35 PFLOPS。整個NVL72機架擁有20.7 TB HBM4視訊記憶體，NVLink 6為每顆GPU提供3.6 TB/s全互聯頻寬，使72顆GPU在非阻塞互聯結構中協同工作。與Blackwell平台相比，Vera Rubin NVL72僅需四分之一數量的GPU即可訓練大型混合專家模型，每瓦特推理吞吐量最高提升10倍，每Token成本降至十分之一。

在智慧體場景中，CPU的角色正從傳統的資料載入和任務排程，擴充套件為承擔編譯、執行、環境模擬和結果驗證等控制密集型任務。Vera CPU採用88個輝達自研Olympus Arm核心，通過空間多執行緒提供176個硬體執行緒，支援最高1.5 TB LPDDR5X記憶體和1.2 TB/s記憶體頻寬，並通過1.8 TB/s NVLink-C2C與Rubin GPU建立一致性連線。官方資料顯示，其任務完成速度比傳統x86 CPU快1.8倍，智慧體沙盒效能最高快50%。一個液冷Vera CPU機架最多容納256顆CPU，可同時承載超過2.25萬個強化學習或智慧體沙盒環境。這意味著GPU繼續負責高度並行的模型計算，而CPU則承擔越來越多序列和分支密集型任務，以縮短智慧體迴圈、減少GPU等待。

推理工作負載的預填充和解碼兩階段對硬體需求截然不同。為此，輝達將Groq 3 LPU納入Vera Rubin平台，推出NVIDIA Groq 3 LPX機架，與NVL72組成異構推理系統。Rubin GPU負責預填充、長上下文處理和解碼階段的注意力計算，LPU則負責對時延敏感的前饋網路和MoE專家計算。一個LPX機架包含256顆Groq 3 LPU，提供128 GB片上SRAM、40 PB/s SRAM總頻寬和315 PFLOPS FP8推理效能。輝達稱，Vera Rubin NVL72與LPX組合後，在萬億引數模型上每兆瓦推理吞吐量最高可達Blackwell平台的35倍，並帶來最高10倍的收入機會。

網路已成為輝達增長最快的業務之一。IDC資料顯示，2026年第一季度，輝達憑藉Spectrum-X首次成為全球資料中心乙太網路交換機市場營收第一名，季度收入達21億美元，佔市場份額的21.5%，同比增長192.7%。這一市場此前長期由Cisco、Arista及博通生態廠商主導，輝達的進入反映出AI計算與網路採購正在加速繫結。Spectrum-X通過交換機、網絡卡、GPU、通訊庫和應用軟體的端到端協同設計，在自適應負載均衡、低尾時延和擁塞控制方面形成系統級優勢，相較通用乙太網路可將部分AI工作負載的網路效能提高1.6倍。而引入CPO的Spectrum-X Ethernet Photonics平台，光互聯功率效率最高提升5倍，持續執行時間提升5倍，系統韌性最高提升10倍，旨在讓AI工廠在固定功率預算下連線更多GPU。

隨著上下文長度和併發會話數量增加，KV Cache規模線性增長，成為與模型權重同樣需要單獨規劃的基礎設施資源。輝達通過BlueField-4 STX和CMX上下文記憶體儲存平台，在本地SSD與傳統共享儲存之間加入G3.5儲存層，採用乙太網路連線的快閃記憶體為一個GPU POD提供PB級共享容量，專門儲存對時延敏感的KV Cache。BlueField-4承擔KV資料通路和NVMe-oF協議解除安裝，Dynamo與NIXL管理快取分層和節點間遷移，Spectrum-X提供低時延RDMA網路。輝達表示，CMX在長上下文和智慧體推理中可帶來最高5倍持續Token吞吐量，並比傳統儲存方案提高最高5倍能效。

從Vera Rubin NVL72、Vera CPU、Groq 3 LPX，到Spectrum-X、CPO、BlueField-4 STX和CMX，輝達正在重新劃分AI基礎設施的職責邊界。這套架構揭示出下一階段AI工廠的核心邏輯：CPU、網路、儲存或軟體任何一個環節，都可能成為限制整條Token生產線的瓶頸。輝達藉此重構AI工廠的評價標準，將競爭從單純比拼GPU算力，升級為系統級Token產能、單位能耗產出和萬卡級長期穩定性的綜合較量。