蚂蚁百灵(inclusionAI)近日在 Hugging Face 平台发布了新一代原生混合推理模型 Ling-3.1-flash,模型总参数规模为 560B,每个 token 激活 25B 参数,并支持高达 100 万 token 的上下文窗口。该模型是 Ling-3.0-flash 的升级版本,在架构和真实任务表现上均有改进,目前已上线 Hugging Face、ModelScope 和 OpenRouter 三个平台,采用 MIT 许可证。

从架构看,Ling-3.1-flash 采用混合线性 MoE(Hybrid-linear MoE)设计,包含 63 层 KDA 与 9 层 Gated MLA(比例 7:1),另有 4 个稠密层。路由专家数量为 512 个,共享专家 1 个,每个 token 激活 8 个专家。注意力头数为 64,隐藏维度 4096,专家中间层维度 1280,稠密中间层维度 10240,词表大小 157184。这一配置在保持较大总参数量的同时,通过稀疏激活控制推理成本。

评测方面,官方称 Ling-3.1-flash 在多个权威基准上表现强劲,覆盖编码与智能体任务,包括 Terminal-Bench 4.0、SWE-bench Pro、FrontierSWE、GDPVal-AA V2.1、Automationbench、MCP-Atlas 和 SkillsBench 等。在实际使用中,该模型在 Claude Code、Kilo Code、Qwen Code、Hermes Agent、OpenClaw 等框架下提供较好的用户体验。除智能体任务外,模型在 STEM、医疗健康和金融等真实场景任务中也有提升,例如在 HealthBench Professional 等基准上有所体现。

为配合长程编码任务,蚂蚁百灵还推出了 LingCode,这是一个基于开源编码智能体 Pi 构建的 harness,针对持续数小时、涉及数百轮工具调用、需要反复压缩上下文的复杂任务进行了增强。官方表示 LingCode 在某些编码智能体任务上带来显著性能提升,并正在考虑未来将其开源。

部署方面,Ling-3.1-flash 支持 SGLang 和 vLLM 两种推理框架。SGLang 提供了 day-0 镜像,包含对 Ling-3.1-flash 的支持、MTP(NEXTN)投机解码以及 Hopper 解码优化。官方给出的示例配置为 8 张 H200(TP8 + EP8),也可在 4 张 GB300 上以 TP4 + EP4 运行。Hopper 解码优化可选用环境变量开启,官方称批量大小为 1 时解码速度约提升 10%。vLLM 方面则提供了环境准备和启动命令,推荐采样参数为 temperature=1.0、top_p=0.95、top_k=20,并建议开启 enable_thinking 以获得更好表现。

此次发布进一步丰富了国产开源大模型在混合推理方向的选择。560B 总参数、25B 激活的配置,加上 100 万 token 上下文,使 Ling-3.1-flash 能够处理长文档、复杂智能体工作流等场景,而 MIT 许可证和多个平台的部署支持则降低了企业试用和集成的门槛。对于关注 AI 产业的投资者而言,蚂蚁百灵在模型架构上的探索以及 LingCode 等配套工具的推出,反映了国内厂商在提升模型真实任务能力、构建开发者生态方面的持续投入,后续其在开源社区的实际采用情况和基准表现值得跟踪。