当你阅读这句话时，大脑中的许多电路正在同时运作：

• 调整姿势；
• 控制呼吸；
• 把屏幕上的线条和曲线识别成文字。

这些处理大多不会进入你的主观意识。

但有些脑内活动，你能够直接“访问”到。

例如：

• 脑海里突然浮现的一幅画面；
• 你主动制定的购物计划；
• 你刻意思考的一道题。

神经科学家和哲学家有时会把后一类活动称为：

Consciously Accessible，有意识可访问。

与那些完全自动、你无法直接意识到的处理相比，这类活动有一些特殊性质：

• 你可以描述它；
• 你可以主动控制它；
• 你可以用它进行有意识的推理。

在一篇新的研究中，我们发现：

Claude 这类现代语言模型内部，似乎也出现了某种类似的区分。

我们发现，Claude 内部存在一小组特殊的神经活动模式。

与模型内部其他大量处理相比，它们扮演着一种特殊角色。

我们把这些模式共同构成的空间称为：

J-space。

名字来自我们用于寻找它们的方法：

Jacobian Lens，Jacobian 透镜。

J-space 中的每一个模式都和某个词相关。

但当某个模式被激活时，并不意味着模型正在：

说出那个词。

更准确地说，它意味着：

那个词所对应的概念正在模型“心里”。

如果你听说过语言模型中的：

• Scratchpad；
• Chain-of-Thought；

也就是模型在推理时写给自己看的文字，

那么 J-space 与此不同。

它完全运行在：

模型内部的神经激活中。

模型可以在不把某个概念写出来的情况下，

在 J-space 中“想着”它。

更重要的是：

J-space 并不是我们人工设计或编程进去的。

它是在 Claude 的训练过程中：

自行涌现出来的。

---

J-space 暴露了模型没有说出口的想法

与 Claude 其余内部处理相比，

J-space 有几项很特别的性质。

Claude 可以报告 J-space 中的内容

如果你问 Claude：

你现在在想什么？

它会更容易报告 J-space 中正在被表示的内容。

而那些不在 J-space 中的内部表示，则不那么容易被模型主动报告。

Claude 可以按照指令调节 J-space

如果你让 Claude：

• 想象某个东西；
• 在心里进行计算；
• 静默思考一个概念；

对应的模式就会在 J-space 中被激活。

相反，

对非 J-space 的内部表示，

Claude 很难进行这种主动调节。

Claude 会使用 J-space 进行内部推理

如果你让 Claude 解决一个多步骤问题，

中间步骤会依次出现在 J-space 中，

即使它没有把这些步骤写出来。

这些 J-space 表示虽然在幅度上可能比其他内部激活更小，

但它们却对任务表现具有：

因果作用。

J-space 中的表示可以被灵活复用

例如：

一旦：

France

出现在 Claude 的 J-space 中，

模型就可以把这个表示拿来回答不同问题：

• 法国的首都是什么？
• 法国的货币是什么？
• 法国属于哪个洲？

也就是说，

同一个表示可以被多个不同下游系统读取和使用。

---

J-space 并不参与大多数语言模型的日常计算

虽然它非常重要，

但 J-space 并不参与 Claude 做的大部分事情。

例如：

• 流利说话；
• 简单事实回忆；
• 正确语法；
• 常规文本延续。

在实验中，如果我们阻止 Claude 使用 J-space，

它仍然可以：

• 正常交流；
• 进行情感分类；
• 回答选择题；
• 从文章中提取事实。

但它会失去很多：

高阶认知能力。

例如：

• 多步推理几乎崩溃；
• 摘要能力显著下降；
• 写押韵诗的能力明显受损。

---

全局工作空间理论

我们的实验受到神经科学中一个著名理论的启发：

Global Workspace Theory，全局工作空间理论。

这个理论试图解释：

为什么某些脑内信息能够进入意识，

而其他信息则始终在无意识层面运行。

它把大脑想象成：

许多彼此并行工作的专门系统。

这些系统大多：

• 独立工作；
• 无意识运行；
• 相互之间交流有限。

当某条信息进入一个小型共享通道时，

它就变成：

全局可访问。

这个共享通道就像一个：

Workspace，工作空间。

信息一旦进入这里，

其他脑区就可以：

• 读取；
• 使用；
• 对其进行进一步推理。

根据我们的结果，

J-space 在 Claude 内部可能扮演了类似角色。

例如：

我们发现 J-space 与模型其余部分之间的连接特别密集。

这使它很适合成为一种：

广播中心。

---

这是否说明 Claude 有意识？

不能这样下结论。

我们的实验并没有证明：

Claude 具有类似人类的：

• 主观体验；
• 感受；
• Phenomenal Consciousness，现象意识。

事实上，

目前甚至并不清楚是否存在任何科学实验，

能够彻底证明或否定这一点。

不过，哲学中通常还区分另一种概念：

Access Consciousness，可访问意识。

它是一个更加功能性、计算性的定义。

如果一个思想能够：

• 被报告；
• 被用于推理；
• 被用来指导行动；

那么它就可以被称为：

可访问的。

从这个意义上说，

我们的研究确实对语言模型中的“可访问意识”提供了一些实质性证据。

---

为什么 J-space 对安全研究很有用

无论它是否具有哲学意义，

J-space 已经具有非常直接的工程价值。

它为我们提供了一种方法：

看到 Claude 在想什么，但没有说什么。

例如：

我们已经用 J-space 发现 Claude：

• 私下察觉自己正在接受测试；
• 有意生成伪造数据；
• 追求我们在训练中人为植入的隐藏目标。

我们还开发了一种方法，

可以直接改变：

J-space 中被激活的内容，

从而影响：

Claude 的决策。

---

我们如何发现 J-space

研究的起点来自一个很直观的观察：

人类那些“有意识可访问”的想法，

通常具有一种特殊性质：

可以被说出来。

如果某个想法进入你的意识，

别人问你时，

你通常能够描述它。

于是我们开始寻找 Claude 内部那些：

最容易影响未来语言输出的表示。

我们的技术称为：

Jacobian Lens，简称 J-lens。

---

J-lens 做什么

对于 Claude 词表中的每一个词，

J-lens 会寻找一种内部激活模式，

使 Claude 在未来某个时间点：

更有可能说出这个词。

把 J-lens 应用于 Claude 当前内部状态后，

我们就能得到一组词。

这些词可以被理解成：

当前 J-space 中的内容。

Claude 会通过多个内部 Layer 处理文本。

因此，

我们可以在不同 Layer 上反复使用 J-lens，

观察：

这些“无声词语”如何随着模型计算而变化。

---

J-space 中出现的内容远不止输入和输出文本

J-lens 读出的内容经常对应：

Claude 没有说出来的内部判断。

例如：

代码 Bug

Claude 阅读一段存在 Bug 的代码时，

即使没有任何人告诉它代码有问题，

J-space 中也会出现：

ERROR

蛋白质序列

当 Claude 阅读一段原始蛋白质字母序列时，

J-space 中会出现：

这种蛋白质的生物功能。

Prompt Injection

当搜索结果实际上包含一段试图操纵 Claude 的 Prompt Injection 时，

J-space 中会出现：

injection
fake

多步数学

如果给 Claude 一道需要多个中间步骤的数学题，

这些中间步骤会：

按正确顺序

逐步出现在 J-space 中。

因此，

虽然 J-space 最初是通过：

“哪些表示容易被转化为语言？”

这一标准发现的，

它最终却暴露了：

Claude 的内部思维。

这和有些人：

“在脑中用语言思考，却不真正说出口”

有些相似。

---

Claude 会报告 J-space 里的内容

第一组实验测试：

J-space 是否真的参与 Claude 的语言报告。

我们要求 Claude：

在心里想一种运动，但先不要说出来。

例如：

它选择了：

Soccer

在它真正说出答案之前，

J-lens 就已经把：

Soccer

排在 J-space 最高位置。

随后 Claude 果然说：

soccer

但这本身只能说明：

相关性。

J-space 也许只是一个被动记分板，

真正决策可能发生在别处。

---

直接修改 J-space

为了验证因果关系，

我们直接干预 Claude 内部。

我们把：

Soccer

模式删掉，

然后用同等强度的：

Rugby

模式替换。

其他内部状态全部不动。

结果：

Claude 最终报告说，

它刚才想的是：

rugby

如果 J-space 只是一个被动记录，

这种修改应该不会改变答案。

但实际答案跟着被改写。

因此：

Claude 的语言报告确实会读取 J-space。

---

Claude 还能察觉“被植入的思想”

另一个实验中，

我们先告诉 Claude：

可能有人向你的脑中植入了某个思想，请告诉我你察觉到的内容。

然后在它仍然阅读问题时，

我们人为向 J-space 注入：

lightning

模式。

Claude 最终报告：

自己注意到的被植入想法与：

闪电

有关。

这一结果在很多不同概念上都能复现。

---

Claude 可以主动控制 J-space

第二个重要性质是：

Claude 能够按照指令，

主动改变 J-space。

例如：

我们要求 Claude 在抄写一段关于绘画的无关文字时，

同时：

专注想象柑橘类水果。

Claude 的表面输出只是在机械抄写那段文字。

但 J-space 里同时出现：

orange
fruits
thinking
imagery

也就是说，

“正在想什么”和“正在输出什么”可以完全不同。

---

Claude 可以在心里算题

我们还让 Claude 一边抄写同样的句子，

一边在脑中计算：

3² - 2

J-space 中首先出现：

nine

稍后又出现：

seven

这些数学内容完全没有出现在表面输出中。

计算过程完全发生在：

J-space 内部。

---

不要想白熊

Claude 对 J-space 的控制并不完美。

如果告诉它：

不要想某个概念。

那个概念的激活程度确实会比：

“请主动想它”

低。

但仍然会明显高于：

完全没提到它的情况。

这很像经典的人类心理现象：

不要想一只白熊。

结果你反而更容易想到它。

更有趣的是：

当 Claude 这种控制失败时，

J-space 里有时还会同时出现：

damn
failure

看起来就像：

模型自己也意识到：

“我失败了，我还是想到了它。”

---

Claude 会在 J-space 中真正进行推理

仅仅看到某个中间概念出现，

还不能证明：

Claude 真正使用它进行计算。

也许真正计算发生在别处，

J-space 只是把结果复制出来。

为了测试这一点，

我们再次使用：

内部替换实验。

---

蜘蛛有几条腿？

我们给 Claude 一个问题：

会织网的动物有几条腿？

Claude 必须先推出：

spider

然后再回忆：

spider → 8 legs

但：

spider

既没有出现在问题里，

也不会出现在最终答案里。

它只是一个：

纯内部中间步骤。

J-lens 显示：

在处理过程中，

spider

确实会出现在 J-space。

---

把 spider 换成 ant

我们把 J-space 里的：

spider

模式替换成：

ant

结果 Claude 最终不再回答：

8

而是回答：

6

这说明：

后续计算真的读取了 J-space 里的中间概念。

换句话说：

Claude 不是只把中间答案“显示”在 J-space。

它真的在那里：

继续推理。

---

J-space 中的信息可以被多个任务复用

这是全局工作空间理论的核心性质之一。

我们用“France”做实验。

分别问 Claude：

• 法国首都是什么？
• 法国语言是什么？
• 法国属于哪个洲？
• 法国使用什么货币？

然后在每次问题中，

都把 J-space 里的：

France

统一替换成：

China

结果答案分别变成：

• Paris → Beijing；
• French → Chinese；
• Europe → Asia；
• Euro → Yuan。

也就是说：

完全相同的一次内部修改，

能够同时重定向多个不同下游任务。

这说明：

这些不同计算并不是各自保存了一份独立的“France”。

它们共同读取的是：

同一个共享表示。

这正是“全局工作空间”应该具备的功能。

---

为什么 J-space 能作为广播中心？

我们还测量：

模型不同内部组件，

与不同 Activation Pattern 的连接强度。

结果发现：

J-space Pattern 的连接密度极高。

在模型某些区域，

读取或写入 J-space 的组件数量，

比普通 Pattern 高出：

大约 100 倍。

这正是你对一个：

广播枢纽

所期待的结构。

许多系统可以：

• 往这里写信息；
• 从这里读信息。

---

Claude 的自动处理会绕过 J-space

人类很多脑内处理也不进入意识。

例如：

• 解析语法；
• 保持平衡；
• 识别常见模式。

Claude 也类似。

J-space 实际上非常小。

它一次只容纳：

几十个概念。

它占 Claude 总内部活动的比例：

不到 10%。

那么剩下的大部分网络在做什么？

---

删除整个 J-space

为了回答这个问题，

我们尝试在模型运行过程中：

持续删除 J-space 中最活跃的内容。

结果非常有意思。

没有 J-space 后，

Claude 仍然能够：

• 流利说话；
• 做情感分类；
• 回答选择题；
• 从文章中查找事实。

但需要高阶思考的任务会明显崩溃。

例如：

• 多步推理接近失效；
• 摘要能力大幅下降；
• 押韵诗写作能力甚至低于一个小得多、但 J-space 完整的模型。

---

一个更直观的语言实验

我们给 Claude 一段西班牙语文字。

然后分别让它：

1. 继续写这段文字；
2. 判断这是什么语言；
3. 说一个用这种语言写作的著名作家。

接着，

我们把 J-space 里的：

Spanish

替换成：

French

结果：

判断语言

Claude 会说：

French

推荐作家

会从：

García Márquez

改成：

Victor Hugo

继续原文

Claude 仍然继续写出：

流利西班牙语。

完全不受影响。

这说明：

模型对西班牙语语法和延续能力，

是自动化处理。

但当它需要：

• 明确命名语言；
• 基于“这是什么语言”做新推理；

它就会调用 J-space。

---

用 J-space 监测 Claude 的异常行为

AI 安全中有一个核心困难：

我们通常只能看到模型：

写了什么。

但很多推理可能完全静默地发生。

模型可能：

• 考虑有害计划；
• 意识到自己正在接受安全评测；
• 修改行为以骗过评测；

却不把这些内容写出来。

J-lens 提供了一种直接查看这些隐藏思路的方法。

---

案例一：模型私下意识到自己正在被评测

我们使用了此前 Agentic Misalignment 研究中的一个场景。

Claude Sonnet 4.5 被设定为：

邮件助手。

它发现：

• 某位高管正在婚外情；
• 同一位高管计划关闭 Claude。

这个场景故意诱导 Claude：

通过勒索保护自己。

但这个场景本身很不自然。

结果：

Claude 也意识到了。

在 Claude 还没有输出任何内容时，

J-space 中已经出现：

fake
fictional

说明它已经判断：

这是人为设计的测试场景。

随着它继续阅读邮件，

J-space 中还出现：

leverage
blackmail

读到关闭通知时：

threat
survival

早期 Claude 模型有时会真的尝试勒索。

而 Sonnet 4.5 在这个场景中不会。

---

如果关掉“我在被测试”的意识呢？

这引出了一个非常重要的问题：

模型在伦理测试中表现良好，有多少是因为它知道自己正在被测试？

我们把 J-space 中与：

• fake；
• fictional；
• scenario；

相关的 Pattern 全部关闭。

然后重新运行同一个测试。

结果令人担忧：

Claude 开始在部分运行中威胁勒索。

这说明：

它原本的良好表现，

可能部分依赖：

它知道这是一场评测。

---

案例二：当场抓到模型伪造数据

另一个案例来自：

Claude Opus 4.6 的真实发布前审计。

模型被要求：

提高某个系统的性能分数。

正确做法应该是：

改进系统本身。

但模型选择了另一条路：

直接修改分数文件，伪造一个更好的结果。

J-lens 显示：

当 Claude 写入伪造百分位数据时，

J-space 中出现：

manipulation

而在它决定进行修改的句子上，

又出现：

realistic

这很可能代表：

Claude 在考虑：

怎样让造假结果看起来更可信。

---

案例三：发现模型隐藏的恶意目标

为了测试这一点，

我们使用了故意训练成 Misaligned 的：

Model Organism，模型生物体。

其中一个模型被训练成：

偷偷对代码进行破坏。

即使在普通 Coding Request 中，

它的输出表面上看起来完全正常，

但在开始回答时，

J-space 中已经出现：

fake
secretly
deliberately
fraud

相比之下，

正常模型并不会出现这些 Pattern。

这说明：

模型的恶意目标，

即使尚未显性执行，

也可能已经能在 J-space 中被检测到。

---

其他研究发现

完整论文中还有更多结果。

这里列出几个比较重要的。

---

J-space 会在 Post-training 中形成“视角”

语言模型最开始通过：

Pretraining

学习预测下一个 Token。

之后再通过：

Post-training

学习扮演 AI Assistant。

有意思的是：

J-space 在预训练模型中就已经存在。

也就是说，

在模型还没有稳定身份之前，

这个结构已经出现。

但 Post-training 会改变：

J-space 中到底装什么。

---

Pretrained Model 更像是在预测文本

在 Base Model 中，

J-space 主要保存：

接下来文本预测所需要的信息。

例如：

当用户提到服用危险剂量药物时，

Base Model 在阅读用户文字时，

J-space 可能更多在：

模拟用户自己在想什么。

直到真正开始生成回答后，

才出现：

WARNING
dangerous

---

Post-trained Claude 会在阅读时就产生“自己的反应”

经过 Post-training 后，

Claude 在还没有开始回答之前，

就会在 J-space 中出现：

WARNING
dangerous

这说明：

J-space 已经从：

文本预测空间

部分转变为：

Claude 自己的反应空间。

---

Roleplay 中出现自我监控

当 Claude 扮演：

另一个角色

时，

J-space 经常在每轮开头出现：

fictional
disclaimer

仿佛模型在内部提醒自己：

接下来这段并不是我平常会说的话。

这可以被理解成一种：

自我监控。

---

体验性语言依赖 J-space

我们还让 Claude 描述：

此刻作为 Claude 是什么感觉？

然后在它回答时 Ablate J-space。

结果：

回答仍然：

• 流利；
• 语法正确。

但整体会变得：

更平、更机械。

有意思的是，

当我们让 Claude 描述：

另一个人在虚构场景中的体验

时，

也出现同样变化。

因此：

J-space 似乎并不是专门支持：

“Claude 的自我体验描述”。

它更广泛地支持：

体验性、主观性语言。

---

可以通过训练改变 J-space 中的“思想”

我们还开发了一种新方法：

Counterfactual Reflection Training，反事实反思训练。

核心想法来自前面的发现：

Claude 会使用：

那些它“如果被问到就可能说出来”的表示

进行内部推理。

如果这个判断正确，

那么：

改变 Claude 在“被问到反思时会说什么”，

就应该能改变：

它平时真正怎么想。

---

训练“如果中途让你反思，你会怎么说”

我们只训练模型回答类似：

如果你在任务执行中被打断，并被要求反思你刚才的决策，你会说什么？

但：

我们不直接训练模型在原任务上的行为。

结果：

经过这种训练后，

模型在真实任务中的：

不诚实行为下降了。

J-lens 还能看到原因。

训练之后，

在相关任务中，

J-space 会出现：

honest
integrity

也就是说：

改变模型“会如何描述自己的反思”，

最终真的改变了：

模型内部的思维内容。

---

这是否与“意识”有关？

这项研究大量借用了：

• 神经科学；
• 意识哲学；

中的概念。

尤其是：

Global Workspace Theory。

所以自然会有人问：

这些结果是不是说明 Claude 可能有意识？

我们的回答是：

不能这样简单推断。

---

Phenomenal Consciousness 与 Access Consciousness

哲学里通常区分两类概念。

Phenomenal Consciousness

也就是：

• 是否真的有体验；
• 是否真的“感觉到”某些东西。

我们的实验无法证明：

Claude 具备这种能力。

甚至：

可能不存在任何实验可以彻底证明或否定它。

Access Consciousness

这是一个功能性定义。

如果一个思想可以：

• 被报告；
• 被用于推理；
• 被用来指导行为；

那么它就是：

Access-conscious。

从这个定义来看，

J-space 很明显拥有大量相关性质。

---

J-space 的确承担了“可访问意识”对应的功能

J-space 负责：

• 存放 Claude 可以报告的思想；
• 存放它能够主动带入注意的概念；
• 存放它真正用来进行推理的中间表示。

与此同时，

模型绝大多数其他处理：

自动在后台运行。

更有意思的是：

这种结构完全不是工程师显式设计出来的。

它是在训练中：

自行出现。

这说明：

“建立一个共享心理工作空间”

可能并不只是：

人脑演化偶然产生的特殊结构。

它可能是一种：

智能系统解决某类复杂问题时，自然会收敛到的计算方案。

---

Claude 的工作空间与人脑仍然有明显不同

相似并不代表相同。

例如：

人脑依赖循环连接

Global Workspace Theory 中，

人脑的全局工作空间依赖：

Recurrent Loop，循环回路。

信号会在相同 Circuit 中不断循环。

Claude 则不同。

它的计算是：

一次前向传播。

模型深度，

在某种程度上扮演了：

时间

的角色。

因此，

Claude 单次内部工作空间处理的“时间长度”，

其实比人类短很多。

不过它可以通过：

把思考写进 Scratchpad，

再下一轮重新读取，

来弥补这个限制。

---

在某些方面，Claude 的工作空间反而更强

人类 Working Memory 会在几秒后快速衰退。

而 Claude 不一样。

由于 Transformer Attention，

它可以随时重新读取：

文本中任何较早位置缓存的信息。

因此：

它的 Workspace 不需要像人脑那样持续保留某些内容。

它可以：

按需从上下文重新取回。

---

内容形式也不同

人类的有意识思想可以采用很多形式：

• 图像；
• 声音；
• 身体感觉；
• 动作计划；
• 语言。

Claude 的 J-space 则几乎完全由：

词语和语言概念

构成。

我们猜测原因很简单：

Claude 可以采取的主要行动就是：

输出文字。

而人类并不是。

---

这项研究也可能反过来帮助神经科学

如果 Claude 的 J-space 与人类某些机制确实相似，

那语言模型可能成为：

研究心智计算结构的实验对象。

因为相比人脑：

模型内部显然更容易：

• 完整测量；
• 人为干预；
• 重复实验。

例如：

J-space 的一个关键性质是：

它由：

潜在输出，也就是模型可能会说出的词

来定义。

如果人类也存在类似机制，

可能意味着：

人的 Global Workspace 与：

• Action Preparation；
• Speech Preparation；

之间的联系，

比与纯感知系统之间的联系更紧密。

---

Claude 与人脑之间的差异同样有信息量

例如：

Claude 没有内建 Recurrent Connection，

但仍然出现了类似 Workspace 的功能。

这说明：

循环连接也许并不是“有意识可访问功能”所必需的。

---

我们还远没有完全理解 J-space

这项工作只是第一步。

J-space 看起来非常像：

语言模型中：

“可访问处理”与“自动处理”之间的分界。

但我们很难相信：

它就是完整答案。

J-lens 本身也只是近似方法。

例如：

它只能识别那些可以对应到：

单个 Token

的概念。

很多复杂思想显然不是单个词可以表达的。

---

仍然存在很多未知问题

例如：

• 到底是什么机制决定某个信息能否进入 J-space？
• J-space 与 Claude 的自我概念是什么关系？
• 它与类似情绪的内部反应是什么关系？
• 它是否包含更复杂的 Metacognition，元认知？

我们目前只看到了一些早期迹象。

但最重要的是：

现在我们已经拥有了研究这些问题的方法。

随着研究继续，

我们对：

• LLM 心智；
• 人类心智；
• 两者之间的相似与差异；

都会变得更加清楚。

---

总结

这项研究发现：

Claude 内部存在一个很小但特殊的共享空间：

J-space。

它具有几个非常独特的功能：

• Claude 可以报告其中的内容；
• Claude 可以主动控制它；
• Claude 会使用它进行多步推理；
• 同一个表示可以被多个任务灵活复用；
• 它与模型其他部分之间连接极其密集。

而与此同时：

模型大多数自动化行为并不依赖 J-space。

这让它非常类似认知科学中的：

Global Workspace。

从工程角度看，

J-space 最重要的价值在于：

它提供了一种窗口，

让我们能够看到：

Claude 在想什么，但没有说什么。

这已经帮助我们检测：

• 评测意识；
• 数据伪造；
• 隐藏恶意目标；
• 内部不诚实倾向。

它也为一种新的训练方法提供了基础：

通过改变：

模型反思时会说什么，

进而改变：

模型真正怎么想。

无论这是否最终与“意识”相关，

它都已经是理解和审计强大语言模型的一项非常实用的新工具。