月之暗面(Moonshot AI)于近日在Hugging Face上发布了其最新模型Kimi K3,这是一款2.8万亿参数的开源原生多模态智能体模型,官方称其为“全球首个开放3T级参数模型”。该模型基于Kimi Delta Attention(KDA)与Attention Residuals(AttnRes)架构,并采用Stable LatentMoE框架,激活16个专家(共896个),相比前代Kimi K2,整体扩展效率提升约2.5倍。
Kimi K3支持1百万token的上下文窗口,原生理解文本、图像与视频,具备视觉能力。模型总参数2.8T,激活参数104B,包含93层,其中69层KDA与24层Gated MLA注意力层,隐藏维度7168,注意力头数96,专家维度3584,每个专家隐藏维度3072,词汇量160K。量化方面采用MXFP4权重与MXFP8激活,并经过量化感知训练。视觉编码器为MoonViT-V2,参数401M。
在评测中,Kimi K3在多项基准上表现出色。例如,在GPQA Diamond上得分93.5,HLE-Full(无工具/有工具)为43.5/56.0,SWE-Marathon为42.0,MCPMark-Verified为94.5,OSWorld-Verified为84.8,MMVU为82.1,MMMU-Pro(无/有Python)为81.6/83.4。与Claude Fable 5、GPT-5.6 Sol、Claude Opus 4.8、GPT-5.5、GLM-5.2等模型对比,Kimi K3在部分任务上领先,如SWE-Marathon、MCPMark-Verified、MMVU等。
Kimi K3的发布标志着开源模型在规模上迈入新阶段。此前,开源模型多为百亿至千亿级参数,而Kimi K3直接冲击3T级,且采用MoE架构控制激活参数,兼顾性能与推理成本。其原生多模态与百万级上下文能力,使其在长程编码、智能体知识工作等场景具备竞争力。官方强调,模型权重以Kimi K3 License开放,允许研究、部署与二次创新,这有望吸引开发者社区构建基于Kimi K3的应用。
从产业角度看,Kimi K3的开放权重策略可能加剧开源与闭源模型的竞争。一方面,它为中小团队提供了接近前沿的模型能力,降低AI应用开发门槛;另一方面,其庞大的参数规模对推理基础设施提出更高要求,可能带动对高效推理方案的需求。此外,Kimi K3在编码、智能体等任务上的表现,或对开发者工具、自动化工作流等领域产生积极影响。
值得注意的是,评测数据部分引用自Artificial Analysis(截至2026年7月23日),部分基准如DeepSWE、Terminal-Bench等,Kimi K3使用Kimi Code harness评估,而其他模型可能采用不同harness,对比时需注意方法差异。总体而言,Kimi K3的发布是开源AI领域的重要事件,其实际表现与生态发展值得持续关注。