月之暗面在沉寂數月後,於7月27日K3開放日上正式開源了其最新大模型K3。該模型擁有2.8萬億引數,採用混合專家(MoE)架構,內部包含896個專家子網路,每次推理僅啟用其中16個。在多項國際權威評測中,K3綜合能力衝至全球第三,前端程式設計單項一度登頂世界第一。馬斯克也在相關評測下留言稱“令人印象深刻”,並透露其公司xAI正在訓練一款2萬億引數的新模型與之競爭。
儘管K3的完整模型權重已向全球免費開放下載,並允許大部分商用場景使用,但執行這一模型的門檻極高。月之暗面官方給出的正式部署建議是使用由64張以上加速卡組成的超節點。按同類硬體估算,僅採購成本就超過240萬美元(約合人民幣1700多萬元)。即便使用當前頂級的消費級遊戲顯示卡(32GB視訊記憶體),也無法裝下K3超過1400GB的權重檔案。更關鍵的是,64張此類顯示卡滿載執行時的功耗接近45千瓦,而普通家庭入戶電力容量通常只有8到12千瓦,這意味著即便硬體白送,普通家庭也無法供電。
這種“開源但執行昂貴”的特性,使得K3幾乎只能部署在資料中心或企業級機房中。相比之下,通過API呼叫K3的成本則低得多:每百萬輸出token定價為15美元,僅為能力相當的頂級閉源模型(如OpenAI的某些模型約50美元)的三分之一。這一定價策略體現了開源競爭帶來的成本優勢,也意味著對於大多數企業和個人開發者而言,直接呼叫API遠比自建部署更為經濟。
值得注意的是,輝達CEO黃仁勳在7月24日註冊X賬號後釋出的首條推文,正是分享了一封由輝達、微軟、Meta等二十多家科技企業和機構聯署的公開信,主題是“保護開源模型”。黃仁勳此前在採訪中表示,“免費AI對硬體是好事,對晶片是好事,對資料中心也是好事”。這一表態精準揭示了開源模型與硬體需求之間的共生關係:模型越免費,執行模型所需的GPU、資料中心和電力需求就越大,輝達等硬體供應商反而受益。OpenAI和谷歌最初未出現在聯署名單中,但後續已補上簽名;截至7月28日,另一家閉源AI巨頭Anthropic仍未簽署。
K3的開源也引發了美股市場的反應。此前K3釋出後的首個交易日,美股晶片股和AI板塊出現大幅震盪。這一現象表明,市場正在重新評估開源模型對現有AI產業格局的衝擊——它既壓低了閉源模型的定價空間,又為算力基礎設施帶來了更確定的需求增長。