輝達正將其下一代Vera Rubin平台的核心價值主張從推理成本延伸至模型訓練效率,以“每美元智慧”這一新指標,押注智慧體AI時代持續後訓練將成為最核心的算力需求。

輝達在官方部落格中闡述,隨著智慧體AI的興起,模型後訓練已從一次性的收尾步驟演變為持續迴圈的核心工作負載。與傳統生成式模型不同,智慧體模型需要規劃、呼叫工具並在執行中自主糾錯,其所處環境每週都可能發生變化,這使得後訓練的算力需求持續累積。輝達表示,Vera Rubin平台專為這一工作負載協同設計,可在訓練最大規模模型時僅需上一代Blackwell平台四分之一的GPU數量

這一表述直接關係到輝達的算力銷售邏輯:後訓練迴圈永不停止,意味著客戶對GPU叢集的需求將從專案制轉向常態化,潛在市場規模隨之擴大。Prime IntellectPerplexityTogether AI等已在輝達平台上執行後訓練工作負載的企業,均已表態計劃遷移或擴充套件至Vera Rubin平台。

輝達在部落格中對後訓練的戰略地位作出系統性闡述。預訓練階段賦予模型語言流暢性,而真正的“智慧”——包括編寫程式碼、規劃多步驟任務、使用搜索工具及從錯誤中恢復——則在後訓練階段形成。後訓練採用強化學習技術:模型針對給定任務生成嘗試(前向傳播),該嘗試被評分後更新模型權重(反向傳播),經過數百萬次迭代,模型能力逐步提升。輝達指出,這一過程的算力消耗極為密集,需要數千個環境並行生成rollout,同時保持加速器滿負荷運轉。

輝達將“每美元智慧”定位為高於“每token成本”的上層指標:前者衡量推理工廠的運營效率,後者則衡量構建並持續維護一個值得部署的模型所需的投入是否合算。兩者相互巢狀——降低每token成本同樣降低了模型智慧的構建成本,而更高的模型智慧則提升了每個token的服務價值。

為支撐上述主張,輝達披露了旗下開放權重模型Nemotron 3 Ultra的後訓練細節。該模型引數量達5500億,採用混合專家架構,後訓練流程完整運行於NeMo RL框架之上。在SWE-bench Verified這一真實世界程式設計基準測試中,Nemotron 3 Ultra得分71.7%,即在來自開源專案的真實軟體缺陷中,約十個中有七個能夠生成可通過專案自有測試的有效修復方案。輝達表示,該基準測試結果可供驗證,後訓練方案亦完整公開。

輝達同時指出,Blackwell平台已通過降低單次執行成本,使智慧體時代所需的高頻後訓練在經濟上具備可行性,而Vera Rubin平台將進一步延伸這一軌跡——支援更多rollout、更多並行環境以及永不停止的後訓練週期。

多家已在輝達平台上執行後訓練工作負載的企業披露了具體技術細節,並表達了向Vera Rubin遷移的意向。Prime Intellect持續在Blackwell平台上對前沿開放模型進行後訓練,並使用NVIDIA Dynamo進行推理編排。該公司已將沙箱基礎設施與NVIDIA Vera CPU整合,在與x86架構的對比測試中,Vera CPU在真實RL沙箱工作負載下平均吞吐量高出30%。Prime Intellect計劃藉助Vera Rubin擴充套件強化學習環境規模,並加速訓練到推理的迭代迴圈。

Perplexity的RL後訓練棧跨數百塊輝達GPU非同步執行,其基於RDMA的權重傳輸引擎可在兩秒內完成萬億引數模型在訓練節點與推理節點之間的同步。經後訓練的Qwen3 235B模型隨後部署於NVIDIA GB200 NVL72系統之上。Together AI則以服務形式提供後訓練能力,涵蓋監督微調、強化學習及直接偏好最佳化,通過API和SDK交付,目前運行於輝達平台,並表示正尋求接入Vera Rubin平台。