据 The Information 援引知情人士消息,OpenAI 员工预计公司将在今年年底前发布「一到两款新模型」,但正在推进的「重大升级版旗舰模型」是否在列尚不确定。该旗舰模型仍需完成对齐工作,使其目标与研究人员和客户的预期一致,同时公司还要加固围绕该模型的测试基础设施,之后才能继续推进。
安全评估与政府审查是另一道门槛。在领导层对安全评估满意之后,OpenAI 还需履行此前同意的安排:根据一项针对先进 AI 系统评估的行政令,公司要向美国政府提供新模型的访问权限,时间点早于向外部合作伙伴开放最多 30 天,早于公开发布的时间则更长。
循环 Transformer 是 Astra 与新一代旗舰的共同底座。据一位知情人士透露,新旗舰同样采用循环 Transformer 技术,OpenAI 已在生产环境中运行这一方法,内部称其为「Recurrent Depth」,也是其当前顶级模型 Astra 的核心机制。与把 token 一次性穿过 Transformer 层不同,该模型会让 token 在同一批层中循环多次,再输出下一个词。这样做能提升数学与编程任务的表现并压低成本,因为较小的模型也能发挥超出其体量的能力。
代价是安全监控变难。循环会把模型的一部分「思考」从可读文本转移到人类审阅者无法检查的内部数值表示中,从而削弱思维链监控——安全研究人员正是通过追踪模型的推理过程来发现异常行为。The Information 报道称,OpenAI 刻意限制了 Astra 的循环次数,以保持其思维链可读。
安全投入的规模也被披露。据一位了解相关数字的人士称,在 Hugging Face 事件之后,OpenAI 将约 10% 的总算力转向对齐与安全。The Information 报道称,这相当于数百兆瓦的数据中心容量,不过此前分配给安全的算力有多少、当前的具体比例如何,仍不清楚。按市场价计算,OpenAI 转移的这部分算力若对外租用,每年成本将达数十亿美元。AI 研究员 Noam Brown 在 9 月中旬的一档播客中表示,他团队中约 10% 的人也从事安全相关工作。
微软的一次意外泄露,让这套循环推理的运作方式浮出水面。作为 OpenAI 的主要投资方,微软可以接触其知识产权,却在一篇关于 GPT-6.1 Sol 的技术文章中意外公开了细节。GPT-6.1 Sol 是 OpenAI 本月早些时候推出的 Astra 廉价替代方案。在一个已被删除的段落中,微软将 GPT-6.1 Sol 描述为采用「looping inference(循环推理)」,即模型在给出答案前,会对同一问题做多次「pass(遍历)」。The Information 援引该页面缓存副本称,GPT-6.1 Sol「使用与 GPT-6 Sol 相同的基础模型权重,但推理遍历为两次而非三次」。一位直接知情人士确认,该文章内容与 OpenAI 私下告知微软的信息一致。微软在意识到这部分内容本不应公开后将其撤下。
The Information 报道称,循环 Transformer 在训练与推理两个环节,都是 OpenAI 模型开发中较为敏感的部分。OpenAI 首席科学家 Jakub Pachocki 此前已承认,思维链监控正变得「脆弱」,且「不幸地朝着负面方向发展」。他还警告业界不要一味竞速,去追求没有可读推理过程的模型。
对关注 AI 产业的读者而言,这条消息牵动两条线索:一是 OpenAI 的模型迭代节奏可能被对齐与安全评估拉长,进而影响其合作伙伴与下游应用的更新预期;二是「可读推理」与「性能/成本」之间的取舍,正在成为前沿模型开发中一个公开化的结构性矛盾——循环架构能换来更强的数学与编程能力,却让外部审计与安全验证变得更依赖内部机制而非文本痕迹。