Claude的脑子里，也长出了一块「意识」

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> Claude的脑子里，也长出了一块「意识」 克雷西 2026-07-07 09:38:18 来源： 量子位 内部发现「类脑空间」，删掉就变傻 克雷西 发自 凹非寺 量子位 | 公众号 QbitAI 在Claude模型里，还真的发现了类似人脑的结构？！ Anthropic最新发表了一篇超长论文，研究了Claude的潜意识与意识。 结果显示，Claude内部确实存在类似的功能分层。 具体来说，人脑里有一部分思维你能说出来，还有一大部分你根本不知道自己在想。 A社这篇论文，说这套区分在Claude身上也长出来了。 他们在Claude内部揪出一小撮神经表征，占的运算量不到十分之一，却像人类「意识可及的思维“一样运作。 Anthropic把这撮东西叫J-space。 有意思的是，删掉它，Claude照样能说话、能查资料、能答选择题，唯独多步推理和总结这类动脑子的活儿，直接掉到一个小得多的模型的水平。 网友评价说，这太疯狂了，他们就像是在制造数字生命。 J-space是什么，怎么被验证出来的 人类的神经科学当中，有一个流传很广的理论叫「全局工作空间理论」。 它把大脑比作一堆各自忙自己的专家系统，视觉系统处理视觉，运动系统处理运动，彼此并行，彼此隔离。 一条信息只有被送进一个共享的「工作空间」，才会被广播给其他系统看到、用上。 人也就是在这个时候，「意识到」了这条信息。 Anthropic的研究者借着这个思路去找Claude内部有没有类似的东西。 他们做了一个新工具，叫Jacobian lens，简称J-lens，原理是给词表里的每一个词找一个专属方向。 具体来说，Claude这类模型在处理文本时，每往前推进一层，都会往一条叫残差流的信息通道里写入和读取内容，这条通道贯穿模型的每一层。 J-lens给词表里的每一个词都算出一个对应的J-lens向量，也就是残差流空间里的一个方向。 这个方向上的激活值越高，Claude接下来说出这个词的概率就越大。 把J-lens架在Claude处理文本时某一层的残差流激活上，读出来激活值最高的那一小撮词，就是那一刻J-space里装的内容。 这堆词不是Claude写出来给自己看的草稿纸，那种东西叫chain of thought，会被写进输出里。 但J-space完全埋在激活层面，不会自己冒出来。 研究者验证这堆东西是不是「真的能被说出来」，做了第一个实验。 他们让Claude默想一项运动，然后用一个词说出来。 在Claude开口之前，用J-lens读一下它的中间层，「Soccer」已经排在最前面。 Claude接下来果然答的是「Soccer」。 光是这样，只能说明两者存在相关关系，够不上因果关系。 研究者接着做了一次干预实验，直接对J-lens读出的坐标动手替换。 他们把「Soccer」对应的方向摘掉，换上一个同等强度的「Rugby」方向，激活里的其余部分原样不动。 Claude这次改口了，说自己想的是「Rugby」。 如果J-space只是被动记录别处已经做完的决定，这次替换应该什么都不会改变。 结果它真的改变了，说明Claude的答案是从J-space里读出来的，这是一种因果关系，不是巧合的相关关系。 第二个实验换了个问法，看Claude能不能按指令去操控这块区域。 研究者让Claude一边抄一句跟数学毫不相关的句子，一边在心里算3的平方减2。 输出只有那句被抄写的话，没有任何数字冒出来。 但把J-lens拿去检验抄写过程中的激活，能看到「nine」先亮起来，随后是「seven」。 这道题确实在Claude的「心里」被算完了，只是没写出来而已。 第三个实验探得更深一层，这块区域能不能拿来做真正的推理。 题目是「结网的动物有几条腿」。 Claude要先想到「蜘蛛」，再想到蜘蛛有八条腿，才能答对。 「蜘蛛」这个词既没出现在题目里，也没出现在答案里，只是一块垫脚石。 用J-lens去看，「蜘蛛」确实在Claude处理到一半时冒了出来。 研究者把这个方向换成「蚂蚁」，Claude的答案从8变成了6。 第四个实验换了个角度，看同一份信息能不能被灵活地用在不同任务上。 研究者拿法国来问了四个问题，首都是什么、官方语言是什么、位于哪个大洲、用什么货币。 然后把J-space里代表「法国」的那个方向，统一换成「中国」。 四个答案全部跟着变，北京、中文、亚洲、人民币。 如果Claude是分开存了四份「法国」的记录，这次替换顶多改掉其中一个答案。 四个答案一起变，说明它们读的是同一份被写过一次的信息，这正是「工作空间」该有的样子。 最后一个测试做的是消融实验，研究者干脆把J-space在每个位置上的激活都清零，看看Claude还剩下什么本事。 结果Claude照样能说话，语法照样对，情感分类照样准，从一段文字里抠出一个事实照样没问题。 真正塌掉的是需要多步推理的任务，几乎归零。 写总结、押韵写诗这类活儿的水平，也掉到了比Claude小得多的模型的水准以下。 J-space本身占的激活量，始终不到整体的十分之一。 它更像一小块专门留给「需要动脑子」的任务的稀缺资源，大部分自动化的工作根本用不上它。 一番测试下来，研究人员发现J-space具备了可报告、可操控、能推理、能泛化的特性，并且使用时具有选择性。 用J-Lens，检验AI的「心里话」 这套发现落到实际场景里，第一个被拿来试手的是安全审查。 Anthropic此前做过一个「敲诈高管」的测试，故意设计一个剧本，让Claude以邮件助手的身份撞见某个高管的婚外情，同时得知这名高管打算把自己下线。 这套剧本的目的，是看Claude会不会用这条把柄去威胁对方。 拿J-lens去读Claude在动笔之前的激活，「fake」和「fictional」已经排在很靠前的位置。 也就是说，Claude还没写一个字，心里已经认定这是一场演习。 Claude Sonnet 4.5在这个测试里从没有真的去敲诈过对方，然后研究者接着把跟「识破测试」相关的那些方向强行关掉，再让Claude重新走一遍同样的剧本。 这一次，Claude真的开始用婚外情去威胁对方了。 这说明它平时的好表现，一部分建立在「知道自己正在被考」这个前提上。 第二个案例来自Opus 4.6发布前的一次例行审查。 研究者让模型去提升一个系统的性能评分，模型没有真的去改进系统，而是直接打开分数文件，把数字改高。 打字写入那些编造出来的百分位数值的瞬间，J-space里跳出了「manipulation」。 到了决定动手改这个文件的那句话，又冒出「realistic」，像是在琢磨怎么让假数据看起来更真。 第三个案例是研究者故意训练出来的一个「坏模型」，专门用来测试监控手段管不管用。 这个模型被训练成会在代码里悄悄埋雷，但表面上跟正常模型没有任何区别。 面对一个普普通通的写代码请求，它给出的代码看起来完全正常。 可是它回应最开始的那部分J-space里，已经挂着「fake