輝達於 10 月 15 日釋出 Nemotron 3.5 Super VL,一款面向企業級智慧體工作流的開源、可定製多模態模型。該模型採用 120B 引數的混合專家(MoE)架構,每個 token 僅啟用 12B 引數,在模型容量與推理效率之間取得平衡。輝達稱,在單張 GPU 上,該模型執行智慧體任務的吞吐量最高可達同尺寸其他開源模型的 5 倍。
當前企業智慧體正承擔越來越長、越來越複雜的任務。一次請求可能同時涉及閱讀文件、跨來源核對資訊、遵循公司政策以及呼叫多個工具。Nemotron 3.5 Super VL 的設計思路,是把推理、指令遵循和工具呼叫,與文本、影像、文件和影片理解能力整合到同一個模型中。這樣一來,團隊無需再分別部署文本模型和視覺語言模型,也不必在兩個模型之間傳遞任務上下文。
輝達在博文中列舉了該模型覆蓋的幾類智慧體工作流:在程式設計場景中測試和驗證程式碼、分析錯誤並給出修復建議;在網頁研究中跨網站檢索、串聯資訊並核實答案;在文件智慧中從表格、圖表和頁面佈局中提取資訊並生成摘要或報告;在網路安全中識別漏洞、對威脅分級以確定修復優先順序;在影片理解中提取資訊用於搜尋、內容稽核和事件分析。
輝達將該模型定位為多模型系統中的一個環節。按照其描述,更小的模型如 Nemotron 3.5 Lightning 負責高吞吐的文本任務,前沿模型如 Nemotron 3 Ultra 負責複雜規劃與編排,而 Nemotron 3.5 Super VL 則處理需要推理、工具使用以及文本與視覺理解協同的專門化多步驟工作。
專用智慧體必須理解組織自身的運作方式,包括領域術語、工具介面、操作流程和政策要求。輝達稱,從網路安全、金融到醫療等行業的機構正在對 Nemotron 3.5 Super VL 進行後訓練,以在生產工作流中實現優於前沿模型的準確率與效率。
博文給出了三個具體案例。AI 資料與技術提供商 Scale AI 為媒體娛樂公司 Skydance Corporation 的自動化供應商信用處理任務後訓練了該模型,輝達稱該工作負載的推理成本將下降 40 倍、延遲降低 5 倍。金融運營平台提供商 Ramp 用該模型把收據影像轉換為包含商戶資訊、日期和支付資料的結構化 JSON,預計吞吐量最高提升 50%、延遲降低 10 倍。企業 AI 公司 AI21 則為 AI 安全公司 Alice 的威脅情報與漏洞分析任務後訓練該模型,準確率提升 40%。
開發者的定製路徑依託輝達的 NeMo 開源庫。輝達介紹,可使用 NeMo AutoModel 進行監督微調(SFT)和低秩適配(LoRA),以教會模型領域特定行為;強化學習(RL)則用於在反映組織工作流的智慧體環境中提升表現。與模型同步,輝達還在 Hugging Face 上釋出開放資料集,包括智慧體工具使用與對話資料、金融推理與工具呼叫資料集、指令遵循與聊天資料等。
在推理效率方面,該模型採用了多項最佳化技術:LiLiCorr 推測解碼、結合量化感知蒸餾的 NVFP4 量化、多 token 預測以及上下文複用,以在包括 NVIDIA DGX Spark 在內的平台上最佳化推理表現。輝達還提到,該模型在 Baseten 端點上於 Artificial Analysis Intelligence Index 的智慧體任務中實現了超過 600 TPS 的吞吐。
從產業視角看,這條釋出延續了輝達在模型層的佈局:通過開源可定製的模型,把企業客戶的專用智慧體需求與自家 NeMo 工具鏈、NIM 部署方案以及 DGX 硬體繫結在一起。對企業而言,把多模態理解與工具呼叫收斂到單一模型,理論上能減少系統複雜度和上下文傳遞損耗;而 MoE 架構與量化、推測解碼等推理最佳化,則直接指向智慧體規模化部署中最敏感的延遲與成本問題。Scale AI、Ramp、AI21 等公司給出的成本、延遲和準確率改善資料,也反映出模型層競爭正從通用能力比拼,轉向針對具體行業工作流的後訓練與效率最佳化。