蚂蚁百灵(inclusionAI)在 Hugging Face 上线了 Ling-3.1-flash,这是一款原生混合推理模型,总参数 560B、每个 token 激活 25B,上下文窗口达到 100 万 token。模型在 Ling-3.0-flash 基础上改进了架构与真实任务表现,采用 MIT 许可证,并同步在 ModelScope 和 OpenRouter 提供访问。
从架构看,Ling-3.1-flash 采用混合线性 MoE 设计,共 63 层 KDA 加 9 层 Gated MLA(比例 7:1),另有 4 个稠密层;路由专家 512 个、共享专家 1 个,每个 token 激活 8 个专家;注意力头 64 个,隐藏维度 4096,词表规模 157184。这种稀疏激活结构意在用较大的总参数承载知识,同时把单次推理的计算量控制在 25B 量级,以平衡能力与成本。
官方评估覆盖了 Terminal-Bench 4.0、SWE-bench Pro、FrontierSWE、GDPVal-AA V2.1、Automationbench、MCP-Atlas 和 SkillsBench 等基准,并称模型在通用智能体、搜索、办公生产力、软件工程以及金融、材料科学等专业领域均有提升。实际使用层面,模型在 Claude Code、Kilo Code、Qwen Code、Hermes Agent、OpenClaw 等框架中表现良好。
配套工具方面,蚂蚁百灵还推出了 LingCode,这是一个基于开源编码智能体 Pi 构建的 harness,针对持续数小时、涉及数百轮工具调用并需要反复压缩上下文的复杂长程编码任务做了增强,官方表示其在部分编码智能体任务上有明显性能增益,并考虑未来开源。
部署侧,SGLang 提供了 day-0 镜像,包含对 Ling-3.1-flash 的支持、MTP(NEXTN)投机解码以及 Hopper 解码优化。官方给出的参考配置为 8 张 H200(TP8 + EP8),在 4 张 GB300 上则改用 TP4 + EP4;开启 Hopper 解码优化后,batch-1 解码约可提速 10%。vLLM 方案则需从指定分支源码安装,并启用专家并行、Mamba 缓存对齐、工具调用与推理解析器等参数。官方建议采样参数为 temperature=1.0、top_p=0.95、top_k=20,并开启 enable_thinking 以获得更好效果。
从产业视角看,Ling-3.1-flash 把总参数推高到 560B 而激活参数压在 25B,叠加 1M 上下文,意味着推理侧对显存容量与吞吐效率的要求进一步上升,H200、GB300 等高端算力仍是这类模型落地的现实基础。同时,模型发布即附带 SGLang 与 vLLM 的完整部署配方,降低了开发者的接入门槛,也反映出开源模型竞争正从单一 benchmark 分数转向“模型+工具链+部署体验”的综合较量。对关注 AI 产业链的读者而言,这类高参数稀疏模型的迭代节奏,是观察算力需求与模型应用成本变化的一个窗口。