Thinking Machines Lab 正式推出其首个完整开源权重基础模型家族——Inkling,标志着这家低调但备受关注的 AI 公司迈出关键一步。Inkling 并非单纯追求基准测试最高分的旗舰模型,而是定位为可定制、多模态的坚实基础模型,采用 Apache 2.0 许可开放全部权重,开发者与企业在商业应用中可自由使用与修改。
Inkling 采用混合专家(MoE)架构,总参数量达 975B,每个 token 激活 41B 参数,支持高达 100 万 token 的上下文窗口。模型在 45 万亿 token 的文本、图像、音频和视频混合数据上从零开始预训练,原生支持文本、图像和音频输入,输出为文本。其架构设计包含多项创新:采用混合/滑动窗口注意力机制,局部与全局层比例为 5:1,窗口大小 512;使用相对位置编码替代常见的 RoPE;在注意力与前馈网络流中加入短卷积层;MoE 层设有 2 个共享专家,并借鉴 DeepSeek 风格的无辅助损失负载均衡策略。优化器方面,团队使用了 MuonC/AdamC 等改进的权重衰减方法,并配备 8 个 MTP 头以支持推测解码。
与 Inkling 一同亮相的还有轻量级版本 Inkling-Small,活跃参数仅 12B,采用相似训练配方,在更低成本和延迟下仍保持强劲性能。Thinking Machines Lab 强调,Inkling 的设计核心是“高效推理”与“可控思考”,用户可通过数值化努力水平调节推理深度,在成本与性能间取得平衡。
发布当天,Inkling 即获得异常广泛的生态支持。vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等平台与工具链迅速完成适配,社区量化版本也同步跟进。公司旗下 Tinker 平台与 Playground 即时提供模型微调与 API 服务,API 上下文窗口为 256K,按 64K 和 256K 两档差异化定价。
从产业视角看,Inkling 的出现填补了美国开源多模态基础模型的重要空白。多位独立评论者将其评为目前最强的美国开源权重模型,尽管在某些基准上仍落后于头部中国开源模型及最先进的闭源模型。Thinking Machines Lab 团队成员多次强调,这是“第一天发布”,是未来迭代的基础,而非最终冲刺成果。公司联合创始人 Mira Murati 称其为“从零开始训练的首个模型”,John Schulman 透露预训练始于去年冬季,今年 1 月中旬起小团队在此基础上构建编码、推理与智能体训练能力。
对于 AI 产业投资者而言,Inkling 的发布意味着开源生态竞争进一步加剧。一个拥有近万亿参数、原生多模态、可商用且生态支持迅速铺开的美国本土模型,将直接影响企业级 AI 部署的选型逻辑,降低对单一闭源供应商的依赖,同时推动算力需求向推理与微调环节迁移。其轻量版的推出也为边缘计算与成本敏感型场景提供了可行方案。随着 Thinking Machines Lab 后续迭代的推进,开源模型在性能与实用性上的边界有望被持续拓宽。