大模型究竟有没有意识我们是不是真的在充当造物主近日图灵奖得主、被称为“AI教父”的杰弗里·辛顿Geoffrey Hinton在接受最新采访时抛出了一番令科技界震动的言论。他不仅认为AI内部可能已经产生了意识甚至直言“我们现在正在创造生命beings。”然而著名认知科学家加里·马库斯Gary Marcus却在其专栏中撰文泼冷水并指出在这场关于人工智能本质的辩论中教皇利奥十四世Pope Leo XIV似乎比Hinton看得更透彻、更清醒。两位时代巨擘的观点碰撞其实关乎当前AI底层逻辑最核心的“认识论鸿沟”。一、 Hinton的惊人宣言我们正在创造“生命”在最近的一次视频采访主持人安德鲁·马尔Andrew Marr向Hinton抛出了一个极其尖锐的问题主持人“你认为意识是否可能已经悄然来到了AI内部”Geoffrey Hinton“是的我认为是的。”主持人“所以当人们谈论它们‘想做这个’或‘想做那个’时那里真的有一个真正的‘它们’存在吗”Geoffrey Hinton“很可能确实如此是的。目前我们对人类的本质、什么是生命以及什么是自我只有极其微弱的理解。理解这些变得至关重要因为我们现在正在创造生命。”作为深度学习的奠基人之一Hinton对AI能力的指数级跃升感到敬畏甚至在过去一年里多次为AI的潜在生存风险奔走呼吁。但在马库斯等学者看来Hinton这一次显然“陷得太深”将高度复杂的文本拟合误认为了生命意识。二、 教皇的哲学模拟不等于理解就在Hinton的采访播出前几天教皇利奥十四世在社交平台X上发布了一段话。加里·马库斯惊叹道教皇用极其凝练的语言直接点破了AI研究者们长久以来的盲区。教皇在推文中写道“人工智能不经历体验不拥有身体不感受喜悦或痛苦不通过人际关系走向成熟也不从内心懂得什么是爱、工作、友谊或责任。它们也没有道德良知因为它们无法判断善恶、无法把握境遇的终极意义也无法承担后果的责任。”“它们或许可以模仿甚至模拟但它们并不理解自己产出的内容。因为它们缺乏人类在智慧成长中所依赖的情感、关系和精神视角。”“真正的理解源于体验而非文本的统计近似。”它精确地契合了当前AI评测界最致命的系统性漏洞。三、 马库斯大模型只是“互动小说”认知科学家加里·马库斯借此机会对Hinton以及类似观点如理查德·道金斯此前的错误进行了严厉的学术批判。他指出这些科技界的资深大牛犯了一个根本性错误他们只看模型的输出Output却不反思这些输出究竟是如何生成的Mechanism。为了帮大家理清思路马库斯划出了两条决定性的分水岭1. 行为相似不等于机制相同LLM大语言模型说出了人类会说的话不代表它就拥有了像人类一样的内部状态。大模型的本质实际上是记住了几乎整个互联网的文本并通过概率统计去预测下一个Token。人类的本质是通过身处物理世界、拥有肉体、经历真正的生活体验来建立对世界的认知模型。2. “生命”与“互动小说”的区别“LLM的研究人员并不是在创造生命beings。”马库斯直言不讳“他们创造的本质上是一种经过训练、能够预测真实人类语言的‘互动小说’interactive fiction。”正如学者 Valerio Capraro 所言目前大模型评估中最大的认识论错误就在于默认只要一个系统在统计上近似了人类的行为它就接近于拥有了人类的智能与意识。但事实上再丰富的拟态也证明不了内部状态的存在。四、 开发者启示当你在跑模型时你在做什么作为每天和代码、权重、Prompt打交道的开发者这场论战对有什么实际启发不要对大模型进行过度“拟人化”当ChatGPT或Claude对你说“我非常理解你的痛苦”或者“我渴望学习更多”时它不是真的产生了同理心或求知欲它只是在你给定的上下文概率空间里计算出了这段最符合人类语言习惯的字符序列。理解AI的局限才能更好地利用AI明白了大模型是“文本近似器”和“高级拟态工具”我们就能更清醒地知道它的边界在哪里——它擅长归纳、演绎、寻找统计规律、生成结构化文本但它无法替代人类进行真正的价值判断、责任担当以及基于感官体验的无中生有式创新。Hinton值得每一个科技从业者尊敬但在“大模型是否是生命”这个问题上或许正如马库斯所言这一次教皇确实看地更透彻。最近魔芋ai平台推出流行大模型的6折优惠包括Seedance2.0、GPT、Gemini、Claude等流行模型完全透明token计费可供企业开发票使用。想AI创业的朋友们可以来看Raas100开发者招募海量资金扶持一站式赋能助力大家实现AI创业的想法。欢迎加入群聊了解更多。获取折扣福利加入开发者招募获取更多ai资讯。添加我为微信好友