月之暗面(Moonshot AI)於近日在Hugging Face上釋出了其最新模型Kimi K3,這是一款2.8萬億引數的開源原生多模態智慧體模型,官方稱其為“全球首個開放3T級引數模型”。該模型基於Kimi Delta Attention(KDA)與Attention Residuals(AttnRes)架構,並採用Stable LatentMoE框架,啟用16個專家(共896個),相比前代Kimi K2,整體擴充套件效率提升約2.5倍。
Kimi K3支援1百萬token的上下文視窗,原生理解文本、影像與影片,具備視覺能力。模型總引數2.8T,啟用引數104B,包含93層,其中69層KDA與24層Gated MLA注意力層,隱藏維度7168,注意力頭數96,專家維度3584,每個專家隱藏維度3072,詞彙量160K。量化方面採用MXFP4權重與MXFP8啟用,並經過量化感知訓練。視覺編碼器為MoonViT-V2,引數401M。
在評測中,Kimi K3在多項基準上表現出色。例如,在GPQA Diamond上得分93.5,HLE-Full(無工具/有工具)為43.5/56.0,SWE-Marathon為42.0,MCPMark-Verified為94.5,OSWorld-Verified為84.8,MMVU為82.1,MMMU-Pro(無/有Python)為81.6/83.4。與Claude Fable 5、GPT-5.6 Sol、Claude Opus 4.8、GPT-5.5、GLM-5.2等模型對比,Kimi K3在部分任務上領先,如SWE-Marathon、MCPMark-Verified、MMVU等。
Kimi K3的釋出標誌著開源模型在規模上邁入新階段。此前,開源模型多為百億至千億級引數,而Kimi K3直接衝擊3T級,且採用MoE架構控制啟用引數,兼顧效能與推理成本。其原生多模態與百萬級上下文能力,使其在長程編碼、智慧體知識工作等場景具備競爭力。官方強調,模型權重以Kimi K3 License開放,允許研究、部署與二次創新,這有望吸引開發者社群構建基於Kimi K3的應用。
從產業角度看,Kimi K3的開放權重策略可能加劇開源與閉源模型的競爭。一方面,它為中小團隊提供了接近前沿的模型能力,降低AI應用開發門檻;另一方面,其龐大的引數規模對推理基礎設施提出更高要求,可能帶動對高效推理方案的需求。此外,Kimi K3在編碼、智慧體等任務上的表現,或對開發者工具、自動化工作流等領域產生積極影響。
值得注意的是,評測資料部分引用自Artificial Analysis(截至2026年7月23日),部分基準如DeepSWE、Terminal-Bench等,Kimi K3使用Kimi Code harness評估,而其他模型可能採用不同harness,對比時需注意方法差異。總體而言,Kimi K3的釋出是開源AI領域的重要事件,其實際表現與生態發展值得持續關注。