英伟达于 10 月 15 日发布 Nemotron 3.5 Super VL,一款面向企业级智能体工作流的开源、可定制多模态模型。该模型采用 120B 参数的混合专家(MoE)架构,每个 token 仅激活 12B 参数,在模型容量与推理效率之间取得平衡。英伟达称,在单张 GPU 上,该模型运行智能体任务的吞吐量最高可达同尺寸其他开源模型的 5 倍。
当前企业智能体正承担越来越长、越来越复杂的任务。一次请求可能同时涉及阅读文档、跨来源核对信息、遵循公司政策以及调用多个工具。Nemotron 3.5 Super VL 的设计思路,是把推理、指令遵循和工具调用,与文本、图像、文档和视频理解能力整合到同一个模型中。这样一来,团队无需再分别部署文本模型和视觉语言模型,也不必在两个模型之间传递任务上下文。
英伟达在博文中列举了该模型覆盖的几类智能体工作流:在编程场景中测试和验证代码、分析错误并给出修复建议;在网页研究中跨网站检索、串联信息并核实答案;在文档智能中从表格、图表和页面布局中提取信息并生成摘要或报告;在网络安全中识别漏洞、对威胁分级以确定修复优先级;在视频理解中提取信息用于搜索、内容审核和事件分析。
英伟达将该模型定位为多模型系统中的一个环节。按照其描述,更小的模型如 Nemotron 3.5 Lightning 负责高吞吐的文本任务,前沿模型如 Nemotron 3 Ultra 负责复杂规划与编排,而 Nemotron 3.5 Super VL 则处理需要推理、工具使用以及文本与视觉理解协同的专门化多步骤工作。
专用智能体必须理解组织自身的运作方式,包括领域术语、工具接口、操作流程和政策要求。英伟达称,从网络安全、金融到医疗等行业的机构正在对 Nemotron 3.5 Super VL 进行后训练,以在生产工作流中实现优于前沿模型的准确率与效率。
博文给出了三个具体案例。AI 数据与技术提供商 Scale AI 为媒体娱乐公司 Skydance Corporation 的自动化供应商信用处理任务后训练了该模型,英伟达称该工作负载的推理成本将下降 40 倍、延迟降低 5 倍。金融运营平台提供商 Ramp 用该模型把收据图像转换为包含商户信息、日期和支付数据的结构化 JSON,预计吞吐量最高提升 50%、延迟降低 10 倍。企业 AI 公司 AI21 则为 AI 安全公司 Alice 的威胁情报与漏洞分析任务后训练该模型,准确率提升 40%。
开发者的定制路径依托英伟达的 NeMo 开源库。英伟达介绍,可使用 NeMo AutoModel 进行监督微调(SFT)和低秩适配(LoRA),以教会模型领域特定行为;强化学习(RL)则用于在反映组织工作流的智能体环境中提升表现。与模型同步,英伟达还在 Hugging Face 上发布开放数据集,包括智能体工具使用与对话数据、金融推理与工具调用数据集、指令遵循与聊天数据等。
在推理效率方面,该模型采用了多项优化技术:LiLiCorr 推测解码、结合量化感知蒸馏的 NVFP4 量化、多 token 预测以及上下文复用,以在包括 NVIDIA DGX Spark 在内的平台上优化推理表现。英伟达还提到,该模型在 Baseten 端点上于 Artificial Analysis Intelligence Index 的智能体任务中实现了超过 600 TPS 的吞吐。
从产业视角看,这条发布延续了英伟达在模型层的布局:通过开源可定制的模型,把企业客户的专用智能体需求与自家 NeMo 工具链、NIM 部署方案以及 DGX 硬件绑定在一起。对企业而言,把多模态理解与工具调用收敛到单一模型,理论上能减少系统复杂度和上下文传递损耗;而 MoE 架构与量化、推测解码等推理优化,则直接指向智能体规模化部署中最敏感的延迟与成本问题。Scale AI、Ramp、AI21 等公司给出的成本、延迟和准确率改善数据,也反映出模型层竞争正从通用能力比拼,转向针对具体行业工作流的后训练与效率优化。