輝達正式釋出新一代計算平台Vera Rubin,將其定位為智慧體AI時代後訓練工作負載的算力基石。該平台的核心設計目標是最大化“每美元智慧”(intelligence per dollar),即衡量在模型智慧構建環節每一美元投入所能產出的智慧增量。

智慧體AI的工作模式與生成式模型截然不同。模型不再是被動回答單次提示,而是被賦予一個目標後,需要在動態環境中持續規劃、呼叫不同工具、並從執行中遇到的錯誤中恢復。這意味著模型的後訓練不再是模型出廠前的一次性收尾步驟,而變成了一個永不停歇的迴圈——每當生產環境出現新的邊界案例、工具版本更新或部署場景變化,後訓練流程就會被重新觸發。

輝達將這一計算模式轉變視為後訓練成為智慧體時代中心工作負載的根本原因。在預訓練階段,模型學會預測下一個token,獲得語言流暢性;而後訓練階段才是模型學會編寫程式碼、規劃多步驟任務、使用搜索工具以及在出錯時自我糾正的關鍵環節。這一過程依賴強化學習技術:模型針對給定任務生成嘗試(前向傳播),嘗試結果被評分,學習訊號再反向更新模型權重(反向傳播)。數百萬次這樣的迴圈累積出模型的智慧。

Vera Rubin平台正是為這種高頻、大規模的後訓練迴圈而設計。輝達稱,該平台從端到端進行了協同設計,訓練最大規模模型所需的GPU數量僅為Blackwell一代的四分之一。其目標是在單次執行中生成更多rollout、同時維持更多並行環境,並支撐永不中斷的後訓練週期。

在具體工作流驗證方面,Prime Intellect在其持續後訓練前沿開源模型的業務中,已在使用輝達Blackwell平台和Dynamo推理編排工具。該公司計劃藉助Vera Rubin擴充套件強化學習環境規模、增加每次執行的rollout數量,並加速從訓練到推理的迭代迴圈。Prime Intellect還將其沙盒基礎設施與Vera CPU整合,以實現低延遲、高能效的強化學習。在實際的強化學習沙盒負載對比測試中,Vera CPU相較x86架構實現了平均30%的吞吐量提升。

輝達同時公佈了開源權重模型Nemotron 3 Ultra的後訓練成果。該模型擁有5500億引數,採用混合專家架構,在SWE-bench verified基準測試中得分71.7%,意味著它能為開源專案約七成的真實軟體缺陷生成可工作的修復方案。其完整的後訓練配方在NeMo RL上執行並完全公開。

從產業邏輯看,輝達此次提出的“每美元智慧”概念,將推理環節的“每token成本”與模型構建環節的投資回報率巢狀在一起。推理是模型的營收引擎,而後訓練是價值倍增器——模型能力越強,其服務的每個token價值就越高。降低每token成本的基礎設施,同時也降低了構建模型每一分智慧的成本。這一框架為AI基礎設施投資提供了更貼近商業本質的評估維度。

Perplexity等公司也在其非同步強化學習後訓練棧中大規模使用輝達GPU,並構建了基於RDMA的權重傳輸引擎來同步萬億引數級模型。Vera Rubin的推出,意味著支撐這類超大規模持續後訓練的基礎設施將迎來代際效率躍升。