螞蟻百靈(inclusionAI)釋出新一代原生混合推理模型 Ling-3.1-flash,定位為面向複雜真實世界任務的升級版本。該模型總引數規模為 560B,每個 token 啟用 25B 引數,並支援 1M token 的上下文視窗,是在 Ling-3.0-flash 基礎上的迭代,官方稱其在架構與真實場景能力上均有改進。
從架構看,Ling-3.1-flash 採用混合線性 MoE 結構:共 63 層 KDA 與 9 層 Gated MLA(比例 7:1),另有 4 層稠密層;路由專家數為 512,共享專家 1 個,每 token 啟用 8 個專家;注意力頭 64 個,隱藏維度 4096,專家中間維度 1280,稠密中間維度 10240,詞表規模 157184。這種「大總量、小啟用」的設計,目標是在保留模型容量的同時壓低單次推理的計算開銷。
能力方面,官方稱 Ling-3.1-flash 在通用智慧體、搜尋、辦公生產力與軟體工程等真實任務上均有提升,並在多個基準上展示表現,包括 GDPVal-AA V2.1、HealthBench Professional、FrontierSWE 與 Terminal-Bench 4.0,覆蓋辦公、醫療、軟體工程與終端工具呼叫等場景。評測還涉及 Terminal-Bench 4.0、SWE-bench Pro、FrontierSWE、Automationbench、MCP-Atlas、SkillsBench 等程式設計與智慧體基準。官方同時表示,模型在金融、材料科學等專業領域也有改善。
在實際使用層面,官方稱 Ling-3.1-flash 在 Claude Code、Kilo Code、Qwen Code、Hermes Agent、OpenClaw 等框架下提供了較好的使用者體驗。此外,團隊還介紹了 LingCode——一個基於開源程式設計智慧體 Pi 構建的 harness,針對需要執行數小時、涉及數百輪工具呼叫、並需反覆壓縮上下文的複雜長週期程式設計任務做了增強,官方稱其在部分程式設計智慧體任務上帶來明顯效能提升,並表示未來考慮將其開源。
部署側,Ling-3.1-flash 在釋出首日即獲得 SGLang 支援,映象中包含 MTP(NEXTN)投機解碼與 Hopper 解碼最佳化。官方給出的示例配置為 8 張 H200(TP8 + EP8),在 4 張 GB300 上則改用 TP4 + EP4;啟用 Hopper 解碼最佳化後,batch-1 解碼約可提速 10%。vLLM 側也提供了部署方案,建議使用 temperature=1.0、top_p=0.95、top_k=20 的取樣引數,並開啟 enable_thinking 以獲得更好表現。模型已在 Hugging Face、ModelScope 與 OpenRouter 上線,採用 MIT 許可。
對關注 AI 產業的讀者而言,這條釋出的意義在於開源模型繼續向「超大引數 + 稀疏啟用 + 超長上下文」方向推進:一方面,1M 上下文與智慧體、程式設計基準的強化,直接對應企業級長文件處理與自動化程式設計等落地場景;另一方面,560B 總量、25B 啟用的配置,意味著推理側對視訊記憶體與並行部署仍有較高要求,H200、GB300 等硬體的適配方案也因此成為釋出內容的一部分。開源權重與 MIT 許可,則可能進一步壓低下游廠商自建模型能力的門檻,並加劇開源與閉源模型在智慧體任務上的競爭。