月之暗面(Moonshot AI)在 Hugging Face 上线 Kimi K3,这是一款总参数 2.8 万亿、激活参数 104B 的开源原生多模态模型,官方称其为「全球首个开源的 3T 级模型」,并同步公开完整模型权重。模型支持 100 万 token 上下文窗口,可同时理解文本、图像与视频,定位是面向长程编程、知识工作与推理的前沿智能。

架构层面,Kimi K3 建立在 Kimi Delta Attention(KDA) 与 Attention Residuals(AttnRes) 之上,并用 Stable LatentMoE 框架把 MoE 稀疏度进一步拉大:896 个专家中每个 token 激活 16 个,另有 2 个共享专家。官方称其整体扩展效率较 Kimi K2 提升约 2.5 倍。模型共 93 层,注意力层由 69 层 KDA 与 24 层 Gated MLA 组成,隐藏维度 7168,词表 16 万,视觉编码器为 MoonViT-V2(4.01 亿参数),权重采用 MXFP4、激活采用 MXFP8 的量化感知训练。

能力上,Kimi K3 强调「长程」与「智能体」两个关键词。官方描述其可在极少人工干预下维持长时间工程会话、在大型代码库中导航并调度终端工具,覆盖 GPU 内核优化、编译器开发、视觉在环的游戏开发、CAD 乃至芯片设计;在知识工作侧,则能产出带交互可视化、组件与仪表盘的深度研究,并支持动效设计与视频剪辑。

评测数据提供了更具体的参照。在推理知识类基准上,Kimi K3 的 GPQA Diamond 为 93.5,与 GPT-5.6 Sol 的 94.1、GPT-5.5 的 93.5 处于同一区间,略高于 Claude Fable 5 的 92.6;AA-LCR 为 74.7,高于 Claude Fable 5 的 70.0 与 GPT-5.6 Sol 的 73.7。编程侧则互有胜负:Terminal-Bench 2.1 为 88.3,略低于 GPT-5.6 Sol 的 88.8,高于 Claude Fable 5 的 88.0;FrontierSWE 为 81.2,高于 Claude Fable 5 的 86.6 之外的多款对比模型;SWE-Marathon 为 42.0,高于 Claude Fable 5 的 35.0 与 GPT-5.6 Sol 的 39.0。智能体与工具使用方面,BrowseComp 为 91.2,高于 Claude Fable 5 的 88.0 与 GPT-5.6 Sol 的 90.4;MCPMark-Verified 为 94.5,明显高于 Claude Fable 5 的 87.4。视觉侧,OmniDocBench 为 91.1,高于 Claude Fable 5 的 89.8 与 GPT-5.6 Sol 的 85.8;Video-MME(含字幕) 为 90.0,略高于 GPT-5.6 Sol 的 89.5。

需要说明的是,上述对比中部分数据来自 Artificial Analysis 等第三方来源或各模型官方发布,测试框架与推理配置并不完全一致,例如 Kimi K3 的编程成绩使用 Kimi Code harness,而部分对比模型取的是跨 harness 的最佳成绩,横向比较时应保留这一口径差异。

从产业视角看,Kimi K3 的意义不止于参数规模。2.8 万亿总参数、104B 激活的稀疏设计,把「前沿能力」与「推理成本」之间的张力摆上台面:总参数决定能力上限,激活参数决定单次推理的算力开销,二者比值越大,单位算力能换到的能力越多。若这一路线在真实负载中成立,开源模型与闭源前沿模型之间的能力差距可能进一步收窄,闭源厂商靠模型能力维持溢价的难度随之上升。

另一条线索是开源权重本身。Kimi K3 以自定义的 Kimi K3 License 发布完整权重,允许研究、部署与再创新,这与近年开源模型逐步逼近前沿的趋势一致。对下游而言,可自托管的 3T 级多模态模型意味着数据敏感行业有了闭源 API 之外的选项;对上游而言,长上下文与多模态推理会推高单次调用的算力消耗,对高带宽内存与推理集群形成持续需求。模型卡同时标注了新版本 moonshotai/Kimi-K3.1-Pro,显示迭代节奏仍在加快。

当然,评测分数只是能力的一个切面。长程编程与智能体任务在真实生产环境中的稳定性、工具调用的可靠性、以及 100 万 token 上下文下的有效注意力,仍需实际部署来检验。开源权重降低了获取门槛,但也把部署、调优与安全治理的责任转移给了使用方,这将是评估其产业影响时不可忽略的一面。