蚂蚁百灵(inclusionAI)发布新一代原生混合推理模型 Ling-3.1-flash,定位为面向复杂真实世界任务的升级版本。该模型总参数规模为 560B,每个 token 激活 25B 参数,并支持 1M token 的上下文窗口,是在 Ling-3.0-flash 基础上的迭代,官方称其在架构与真实场景能力上均有改进。

从架构看,Ling-3.1-flash 采用混合线性 MoE 结构:共 63 层 KDA 与 9 层 Gated MLA(比例 7:1),另有 4 层稠密层;路由专家数为 512,共享专家 1 个,每 token 激活 8 个专家;注意力头 64 个,隐藏维度 4096,专家中间维度 1280,稠密中间维度 10240,词表规模 157184。这种「大总量、小激活」的设计,目标是在保留模型容量的同时压低单次推理的计算开销。

能力方面,官方称 Ling-3.1-flash 在通用智能体、搜索、办公生产力与软件工程等真实任务上均有提升,并在多个基准上展示表现,包括 GDPVal-AA V2.1、HealthBench Professional、FrontierSWE 与 Terminal-Bench 4.0,覆盖办公、医疗、软件工程与终端工具调用等场景。评测还涉及 Terminal-Bench 4.0、SWE-bench Pro、FrontierSWE、Automationbench、MCP-Atlas、SkillsBench 等编程与智能体基准。官方同时表示,模型在金融、材料科学等专业领域也有改善。

在实际使用层面,官方称 Ling-3.1-flash 在 Claude Code、Kilo Code、Qwen Code、Hermes Agent、OpenClaw 等框架下提供了较好的用户体验。此外,团队还介绍了 LingCode——一个基于开源编程智能体 Pi 构建的 harness,针对需要运行数小时、涉及数百轮工具调用、并需反复压缩上下文的复杂长周期编程任务做了增强,官方称其在部分编程智能体任务上带来明显性能提升,并表示未来考虑将其开源。

部署侧,Ling-3.1-flash 在发布首日即获得 SGLang 支持,镜像中包含 MTP(NEXTN)投机解码与 Hopper 解码优化。官方给出的示例配置为 8 张 H200(TP8 + EP8),在 4 张 GB300 上则改用 TP4 + EP4;启用 Hopper 解码优化后,batch-1 解码约可提速 10%。vLLM 侧也提供了部署方案,建议使用 temperature=1.0、top_p=0.95、top_k=20 的采样参数,并开启 enable_thinking 以获得更好表现。模型已在 Hugging Face、ModelScope 与 OpenRouter 上线,采用 MIT 许可。

对关注 AI 产业的读者而言,这条发布的意义在于开源模型继续向「超大参数 + 稀疏激活 + 超长上下文」方向推进:一方面,1M 上下文与智能体、编程基准的强化,直接对应企业级长文档处理与自动化编程等落地场景;另一方面,560B 总量、25B 激活的配置,意味着推理侧对显存与并行部署仍有较高要求,H200、GB300 等硬件的适配方案也因此成为发布内容的一部分。开源权重与 MIT 许可,则可能进一步压低下游厂商自建模型能力的门槛,并加剧开源与闭源模型在智能体任务上的竞争。