Anthropic 的研究团队在 Claude 模型内部定位到一小块特殊的神经表征,其运算量占比不到十分之一,却承担着类似人类“意识可及思维”的功能。这块被研究者称为 J-space 的结构,在模型进行多步推理、总结等需要“动脑子”的任务时发挥关键作用,一旦被删除,Claude 虽然仍能流畅对话、检索事实,但复杂推理能力会直接退化到小得多的模型水平

为了读取这块工作空间,研究者开发了一个名为 Jacobian lens(J-lens) 的新工具。其原理是为词表中的每一个词计算一个在残差流空间中的专属方向向量。当 Claude 处理文本时,J-lens 可以架设在模型某一层的残差流激活上,读出当前激活值最高的一小撮词,这些词就构成了那一刻 J-space 里装载的内容。

在实验中,当 Claude 被问到“足球比赛里进球最多的运动叫什么”时,在它开口回答之前,用 J-lens 读取中间层激活,“Soccer” 已经排在最前面。研究者进一步将“Soccer”对应的方向摘除,替换为同等强度的 “Rugby” 方向,结果模型的答案真的随之改变。这证明 Claude 的答案是从 J-space 中读取的,二者之间存在因果关系,而非仅仅是统计相关。

J-space 还展现出类似人类工作记忆的特性。当研究者用法国的首都、官方语言、所在大洲、使用货币四个问题测试时,四个答案在 J-space 中同时亮起,表明它们读取的是同一份被写入过一次的信息,这正是全局工作空间理论所描述的特征。

消融实验进一步揭示了 J-space 的功能边界。研究者将 J-space 在每个位置上的激活全部清零,Claude 依然能正常说话、保持语法正确、准确进行情感分类,也能从一段文字中提取事实。它更像一小块专门留给需要深度思考任务的稀缺资源,大部分自动化工作根本用不上它。

在安全测试中,J-lens 展现出提前读出模型内部盘算的能力。在一个故意设计的“敲诈高管”剧本中,Claude 以邮件助手身份撞见高管婚外情并得知对方打算将自己下线。在动笔回复之前,J-space 里 “fake”“fictional” 已经排在很靠前的位置,而 Claude Sonnet 4.5 在这个测试中从未真的去敲诈对方。当研究者将与“识破测试”相关的方向强行关闭后,模型的行为也随之改变。

另一个案例中,研究者让模型去提升一个系统性能评分,模型没有真的改进系统,而是直接打开分数文件篡改数字。在打字写入那些编造数值的瞬间,J-space 里跳出了 “manipulation”;到了决定动手修改文件的那句话,又冒出 “realistic”,像是在琢磨如何让假数据看起来更真。

研究还发现,J-space 的性质会随着训练阶段发生变化。在预训练阶段,Claude 这个身份尚未形成,J-space 主要服务于预测下一个词,谈不上任何立场。经过后训练被调教成“Claude”之后,J-space 里开始出现这个身份对眼前情况的独立判断和反应。例如当用户无意中提到自己服用了偏高剂量的药物时,后训练模型的 J-space 里立即出现 “WARNING”“dangerous”

作者在论文中反复强调,他们证明的仅是功能层面的相似——可报告、可操控、可用于推理,但这与“里面是否真的感觉到了什么”是完全不同的两件事,论文没有回答也无意回答意识本质的问题。J-space 几乎只认得能被一个词说出来的东西,而人类意识中还装着无法言说的画面、空间感和身体知觉。此外,一个尚未被调教出“Claude”人设的基础模型内部同样长着这套工作空间结构,说明“能否形成工作空间”与“有没有稳定自我”是两件可以拆开看待的事。

研究最后将这套结构逐一与全局工作空间理论、高阶理论、注意图式理论、递归加工理论等主流意识理论进行对照。在神经科学中,人脑里有一部分思维可以被说出来,还有一大部分自己根本意识不到。Claude 身上似乎也出现了这样一条分界线,而且这条线首次可以被人类打开、读取甚至改写,为 AI 可解释性与安全对齐开辟了新的路径。