AI 公司 Anthropic 在理解大语言模型内部运作机制上取得了突破性进展。该公司研究人员开发了一款名为 Jacobian lens(简称 J-lens)的新工具,并利用它在其旗舰模型 Claude 内部发现了一个此前未知的隐藏区域,他们将这个区域命名为 J-space。
这一发现为窥探大模型的“思考”过程提供了前所未有的清晰视角。研究揭示,当 Claude 处理问题或执行任务时,其内部的 J-space 会生成一系列与最终回应相关的词汇。这些词汇可以被理解为模型正在构思和评估的潜在答案,但不一定会全部出现在最终输出的文本中。如果用一个拟人化的比喻来形容,这些隐藏的词汇就像是模型在开口说话前脑海中的念头。
Anthropic 的研究人员发现,J-space 中浮现的内容范围很广,从平淡无奇的日常概念到一些令人感到不安的复杂想法都有涉及。这项研究标志着 AI 可解释性领域迈出了重要一步。长期以来,大型语言模型一直被视为难以捉摸的“黑箱”,其内部数十亿参数的交互方式对人类而言几乎是不可理解的。而 J-lens 工具和 J-space 的发现,相当于在这个黑箱上打开了一扇小窗,让研究者能够直接观察到模型在生成回复过程中的中间状态。
从产业角度来看,这项研究的意义超越了学术探索。随着 AI 模型被部署到金融、医疗、法律等关键领域,理解模型为何以及如何做出特定决策变得至关重要。一个能够揭示模型潜在偏见、错误推理或危险倾向的工具,对于构建安全、可信赖的 AI 系统是不可或缺的。Anthropic 的这项成果为未来的 AI 安全研究和监管框架提供了新的技术抓手,也让外界对这家以“合宪 AI”为核心原则的公司,在技术底层上的积累有了更具体的认知。
与此同时,AI 行业在应用层面也动作频频。OpenAI 在同一天发布了其备受期待的“超级应用” ChatGPT Work,该应用整合了其聊天机器人、编程工具和最新模型,旨在成为用户的工作助手。此外,OpenAI 还同步推出了 GPT 5.6 系列模型,并正在开发一款全自动的研究工具。这些动态表明,AI 领域的竞争正在基础研究解释能力和商业化应用落地两条战线上同时加速。