月之暗面(Moonshot AI)於7月23日在Hugging Face平台正式釋出並開源了其最新旗艦模型 Kimi K3。這是該公司迄今為止最強大的模型,也是全球首個開放的3T級(萬億引數級別)模型,標誌著開源大模型在規模與能力上邁入新階段。
Kimi K3是一個原生多模態智慧體模型,總引數量達 2.8萬億,但通過混合專家架構(MoE),每次推理僅啟用約 1040億引數,在保持強大效能的同時控制了計算成本。模型採用了多項創新架構,包括 Kimi Delta Attention(KDA) 和 Attention Residuals(AttnRes),並引入 Stable LatentMoE 框架,將專家數量擴充套件至 896個,每次啟用其中16個,相比前代Kimi K2實現了約 2.5倍 的整體擴充套件效率提升。
在能力方面,Kimi K3支援原生視覺理解,可同時處理文本、影像和影片,並擁有高達 100萬token 的超長上下文視窗。這使其能夠勝任長時間程式設計會話、大型程式碼庫導航、終端工具編排等複雜任務,應用場景覆蓋從GPU核心最佳化、編譯器開發到遊戲設計甚至晶片設計。月之暗面表示,該模型在長程程式設計、知識工作與深度推理等前沿智慧任務上表現出色。
從公佈的基準測試結果看,Kimi K3在多項評測中與業界頂尖模型(如Claude Fable 5、GPT-5.6 Sol等)處於同一梯隊。例如,在推理知識基準 GPQA Diamond 上獲得 93.5分,在程式設計基準 ProgramBench 上取得 77.8分,在智慧體任務 BrowseComp 中達到 91.2分。在視覺基準 OmniDocBench 上得分 91.1,Video-MME 達 90.0,顯示出強勁的多模態理解能力。
月之暗面此次以開放權重形式釋出Kimi K3,採用名為 Kimi K3 License 的特定許可協議,允許研究、部署和進一步創新。這一舉措延續了公司此前開源Kimi K2的策略,旨在推動前沿AI技術的開放生態發展。對於AI產業而言,Kimi K3的出現不僅提升了開源模型的能力上限,也為開發者社群提供了一個可本地部署、可微調的強大多模態基座模型,可能對依賴閉源API的應用開發模式產生深遠影響。
值得注意的是,Kimi K3的釋出恰逢全球AI模型競賽白熱化階段,各大廠商紛紛推出更大、更強的模型。月之暗面通過開源策略,試圖在學術社群和開發者群體中建立影響力,同時也為自身在模型層競爭中贏得差異化定位。