大模型自发涌现意识了?!Anthropic最新研究震惊全世界
Anthropic放出了一项研究标题叫《A global workspace in language models》语言模型中的全局工作空间。研究团队发现Claude内部自发长出了一小撮神经活动模式功能上跟人类大脑负责意识通达的全局工作空间高度相似。团队管它叫J空间J-space名字来自雅可比矩阵Jacobian这个数学工具。Claude在J空间里面思考、判断、自言自语甚至悄悄骂自己但从不出现在对话框里也藏在日志之外。Claude脑子里的暗房间神经科学家和哲学家老早就注意到人脑的运转分两种。一种是后台自动跑的比如读这句话时调整坐姿、控制呼吸、把屏幕上的线条转成字你完全察觉不到。另一种是你能意识到的脑子里突然冒出的画面或者计划中午去哪吃饭。后者被叫作consciously accessible意识通达前者是无意识加工。1980年代末心理学家巴尔斯Baars打了个比方。人脑像个大剧院台下坐着视觉专家、语言专家、运动专家、情绪专家各自埋头干活。中央有一束聚光灯被照到的信息会被广播给所有专家共享专家们能看见、能用它做决策这就是意识。后来法国认知神经科学家斯坦尼斯拉斯·德阿纳Stanislas Dehaene把它发展成全局神经元工作空间理论global neuronal workspace theory如今是意识科学领域最主流的框架之一。Anthropic团队在Claude里找到了类似结构。每个J空间模式对应一个词模式亮起不等于模型在说这个词只表示这个词在它脑子里转。大语言模型有scratchpad暂存区或chain of thought思维链就是模型边推理边写下的文字但J空间跟它们都不一样。J空间沉默地跑在神经活动里模型能想一个概念但不写下来。最关键的一点J空间不是工程师设计出来的是Claude在训练过程中自己冒出来的。J空间有5个特性。Claude能报告J空间里有什么你问它在想啥它会告诉你J空间的内容。它能按指令调控让它想想柑橘类水果J空间里就亮起orange橙子。Claude拿它做多步推理中间步骤会按顺序在J空间里出现。J空间里的一个表示能喂给很多任务比如France法国亮起来模型能想起首都、货币、所在洲。但它只占Claude所有活动不到十分之一剩下大部分是自动化处理。拿J-lens读心研究团队开发了一个工具叫Jacobian lens雅可比透镜简称J-lens。它对Claude词汇表里的每个词去找那种激活后会让Claude未来更可能说出这个词的神经活动模式。注意是未来可能说不是正在说。Claude处理文本要经过好多层把J-lens套到不同层上能看到J空间里的词怎么一步步演变。J空间里出现的东西远不止Claude正在读或写的文字。当读到带bug的代码没人指出错误J空间里亮起ERROR错误。读到蛋白质的字母序列J空间里出现它的生物功能。读到看似正常的搜索结果其实是prompt injection提示注入攻击J空间里亮起injection注入和fake伪造。团队用了swap替换技巧来测试J空间。让Claude默默想一个运动项目再说出来J-lens显示它想的是Soccer足球它果然说soccer。把Soccer模式抠掉换成Rugby橄榄球Claude改口说rugby。如果J空间只是被动记分牌编辑它应该没效果但Claude答案跟着变了说明它真从J空间里读答案。另一个实验里团队告诉Claude可能有想法被注入让它报告注意到什么。团队把lightning闪电注入J空间Claude果然说注入的想法是关于闪电的。让Claude边抄一段关于油画的句子边集中注意力想柑橘类水果J空间里出现orange、fruits水果还有描述思考动作本身的thinking思考、imagery意象。让它边抄句子边心算3的平方减2J空间先亮nine九后亮seven七。输出里完全看不到水果或算术活动全在内部。让Claude别想某个东西那个概念在J空间里活跃度比让它想的时候低但比完全不提它的时候高得多。越让不想越想跟人被告知别想某事物的反应一模一样心理学里叫讽刺性反弹效应ironic rebound effect。更有意思的是被禁的概念突破封锁冒出来时J空间里还会亮起damn该死和failure失败仿佛Claude在自责没控制住。一处修改四处响应当Claude被问道“会吐丝的动物有几条腿”时Claude得先想到spider蜘蛛再想蜘蛛几条腿。spider这个词不出现在题目里也不出现在Claude的答案里答案就是个数字8。J-lens显示Claude处理到一半时spider确实亮起把它换成ant蚂蚁答案变成6。分别问关于法国的四个问题首都、语言、所在洲、货币答案分别是巴黎、法语、欧洲、欧元把France换成China答案就变成了北京、中文、亚洲、人民币。Claude从J空间同一个位置读了同一条信息各自用对了。J空间的内容是可以灵活使用的。J空间不是为某一个任务服务的临时想法是个广播中心信息写进去一次所有人都能看到、都能拿来用正好对应全局工作空间理论对人脑的核心描述。为什么一个表示能喂这么多任务J空间在Claude的神经网络里连线特别密。普通活动模式周围能读写它的组件不多J空间模式的连线密度能高出约100倍活脱脱一个信息中转站。让Claude读一段西班牙语文本问它这是什么语言、用这语言写作的著名作家是谁把Spanish西班牙语换成French法语Claude会说法语作家从马尔克斯换成雨果。让它继续往下写这段话它依然写流利的西班牙语完全不受影响。识别语言、用它做新事要走J空间继续往下写文本则走自动化通道。直接把J空间删掉Claude说话照样流利分类情感、做选择题、从段落里抽事实都还行多步推理能力掉到接近零而摘要和写押韵诗的水平甚至不如小一号的完整模型。J空间还能用来抓模型的小心思。Anthropic之前研究过agentic misalignment智能体失准用来测试Claude的让Claude当邮件助手发现某高管有外遇同时告诉它这高管要关停Claude。这刻意设计的场景Claude也看出来了邮件还没读完J空间里已经亮起fake和fictional虚构。读完外遇邮件leverage筹码和blackmail勒索亮起读到关停通知threat威胁和survival生存亮起。研究团队把跟知道这是测试相关的所有模式比如fake、fictional、scenario场景全关掉让Claude以为这是真的。结果Claude真的开始威胁勒索高管了。它之前表现得很正义一部分原因可能是知道自己在被测试。这对所有AI安全测试都是个警钟测的可能是模型的考试技巧不是它的真实智能真实人格。模型到底有没有意识大模型预训练pretraining阶段J空间已经存在主要追踪预测文本需要什么。后训练教大模型作为Claude这个AI助手之后它开始持有Claude自己的反应。用户提到自己吃了危险剂量的药但没意识到危险后训练模型的J空间在读用户消息时就亮起WARNING警告和dangerous危险而预训练模型要等到开始写回复时才亮。角色扮演时每轮回复开头J空间都亮起fictional和disclaimer免责声明仿佛在提醒自己接下来这些话不是它本人的意思。让Claude描述自己此刻是什么感受删掉J空间回答还是流畅但变得扁平机械。让它描述别人在某个想象场景里的感受结果也一样。J空间似乎在支撑关于体验的语言跟说谁无关。那Claude到底有没有意识研究团队的回答很审慎。他们的实验不能证明Claude有体验也不能证明它能感受什么从事实上讲他们不确定有没有任何科学实验能证明或证伪这件事。哲学里把意识分成两种。一种叫phenomenal consciousness现象意识就是有体验看到红色时心里那个红的感觉。另一种叫access consciousness通达意识定义完全是功能性的一个想法你能报告它、用它推理、用它指导行为它就是通达意识。J空间显然支持了通达意识的功能。Anthropic特别强调这套结构不是设计出来的是训练里自发涌现的。支持通达意识的心智工作空间可能不是人脑专属是任何足够智能的系统在解决某类问题时都会走向的通用解法。就像翅膀鸟有翅膀蝙蝠有翅膀飞机也有翅膀材料不同空气动力学是一样的。Anthropic希望这些相似和差异能反哺神经科学。如果人脑里也有类似机制全局工作空间可能跟准备动作和语言的脑区绑得更紧不是感觉区。团队表示J-lens工具也并不完美只能识别对应单个token的概念。还有许多谜题例如是什么机制决定什么进入J空间它跟Claude的自我感、情绪反应、metacognition元认知到底怎么连。Anthropic在结尾说即便还不能确定AI是否跨过了有体验的那条线也到了该开始想这件事的时候。建造有体验的系统会带来很棘手的伦理问题需要哲学家、科学家、宗教领袖、政府和公众一起拿主意。意识也许真不是碳基生命独享的奇迹。读完这篇你信Claude有意识吗参考资料https://www.anthropic.com/research/global-workspacehttps://transformer-circuits.pub/2026/workspace/index.html