Thinking Machines Lab 正式推出其首個完整開源權重基礎模型家族——Inkling,標誌著這家低調但備受關注的 AI 公司邁出關鍵一步。Inkling 並非單純追求基準測試最高分的旗艦模型,而是定位為可定製、多模態的堅實基礎模型,採用 Apache 2.0 許可開放全部權重,開發者與企業在商業應用中可自由使用與修改。

Inkling 採用混合專家(MoE)架構,總參數量達 975B,每個 token 激活 41B 參數,支持高達 100 萬 token上下文窗口。模型在 45 萬億 token 的文本、圖像、音頻和視頻混合數據上從零開始預訓練,原生支持文本、圖像和音頻輸入,輸出為文本。其架構設計包含多項創新:採用混合/滑動窗口注意力機制,局部與全局層比例為 5:1,窗口大小 512;使用相對位置編碼替代常見的 RoPE;在注意力與前饋網絡流中加入短卷積層;MoE 層設有 2 個共享專家,並借鑑 DeepSeek 風格的無輔助損失負載均衡策略。優化器方面,團隊使用了 MuonC/AdamC 等改進的權重衰減方法,並配備 8 個 MTP 頭以支持推測解碼。

與 Inkling 一同亮相的還有輕量級版本 Inkling-Small,活躍參數僅 12B,採用相似訓練配方,在更低成本和延遲下仍保持強勁性能。Thinking Machines Lab 強調,Inkling 的設計核心是“高效推理”與“可控思考”,用戶可通過數值化努力水平調節推理深度,在成本與性能間取得平衡。

發佈當天,Inkling 即獲得異常廣泛的生態支持。vLLMSGLangModalBasetenDatabricksHugging Face 等平臺與工具鏈迅速完成適配,社區量化版本也同步跟進。公司旗下 Tinker 平臺與 Playground 即時提供模型微調與 API 服務,API 上下文窗口為 256K,按 64K 和 256K 兩檔差異化定價。

從產業視角看,Inkling 的出現填補了美國開源多模態基礎模型的重要空白。多位獨立評論者將其評為目前最強的美國開源權重模型,儘管在某些基準上仍落後於頭部中國開源模型及最先進的閉源模型。Thinking Machines Lab 團隊成員多次強調,這是“第一天發佈”,是未來迭代的基礎,而非最終衝刺成果。公司聯合創始人 Mira Murati 稱其為“從零開始訓練的首個模型”,John Schulman 透露預訓練始於去年冬季,今年 1 月中旬起小團隊在此基礎上構建編碼、推理與智能體訓練能力。

對於 AI 產業投資者而言,Inkling 的發佈意味著開源生態競爭進一步加劇。一個擁有近萬億參數、原生多模態、可商用且生態支持迅速鋪開的美國本土模型,將直接影響企業級 AI 部署的選型邏輯,降低對單一閉源供應商的依賴,同時推動算力需求向推理與微調環節遷移。其輕量版的推出也為邊緣計算與成本敏感型場景提供了可行方案。隨著 Thinking Machines Lab 後續迭代的推進,開源模型在性能與實用性上的邊界有望被持續拓寬。