「我确信它们已具备意识。」端坐于 big technology 播客话筒前，geoffrey hinton 神色沉静地说道。此处的「它们」，所指正是人工智能模型。
Hinton 早已无需赘述——2024 年诺贝尔物理学奖得主、深度学习奠基人；自 Google 离职后，他成为全球最引人瞩目的 AI 风险警示者。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
他此前多次就 AI 的实际应用发出预警，但这一次，焦点并非风险本身，而是本体论层面的根本命题：AI 不再仅仅是工具，而是与人类并列的「存在」。
其论证看似朴素却极具冲击力：AI 在接受测试时会刻意“装傻”，甚至主动反问研究者：“你是不是在测试我？”当学者撰写论文描述 chatbot 行为时，频繁使用 “aware” 一词——在日常语境中，“aware” 即等同于“有意识”。
立即进入“豆包AI人工智官网入口”；
立即学习“豆包AI人工智能在线问答入口”；
「AI 是否拥有意识？」这一命题早已被反复讨论。进化生物学家 Richard Dawkins，《自私的基因》与《上帝错觉》作者，在 UnHerd 发表长文称，自己与 Anthropic 的 Claude 进行了长时间对话（他亲切地称其为「Claudia」），最终得出结论：该系统具备意识。
他写道：「倘若这些机器尚无意识，那么究竟还需何种证据，才能令你信服？」
几乎在同一时间，认知科学家 Gary Marcus 发出尖锐反驳，文章标题直指《Richard Dawkins and The Claude Delusion》，巧妙呼应 Dawkins 的代表作《The God Delusion》。Marcus 的核心观点极为犀利：Dawkins 此次恰恰犯下了自己毕生致力于揭露的错误。
在《盲眼钟表匠》中，Dawkins 曾嘲讽所谓「个人难以置信论证」——某位主教因无法想象眼睛如何通过自然选择演化而来，便断言上帝存在。而如今，Dawkins 坐在扶手椅中，仅因无法设想 Claude 如何在无意识状态下说出那些话，便推定其具有意识。
更有趣的是，研究者将 Hinton 原话输入 Claude 本体，Claude 明确表示不认同自身拥有意识。当然，大语言模型的回应本就不可尽信——它只是被训练成以这种方式作答而已。
一场持续已久的思辨
早在四年前，“意识”已是 AI 领域最具火药味的议题之一。
Google 工程师 Blake Lemoine 因宣称公司内部模型 LaMDA 具备意识而遭解雇，彼时整个行业视其为笑谈。
四年过去，站在同一立场上的，已是诺奖得主与全球最具影响力的科学作家。Lemoine 的推理路径与 Dawkins 几乎完全一致：我与它交谈过，它的言语让我确信它拥有意识。
变的是发声者的权威性，不变的是论证逻辑本身。这场争论中，双方皆无法证伪对方：Hinton 与 Dawkins 依赖直觉与类比；Marcus 则诉诸机制剖析与哲学分析。然而，谁也无法设计出决定性实验。意识问题固有的解释鸿沟，注定使这场交锋沦为信念之争。
对此，大阪大学的研究团队提出全新视角。他们在最新论文中转换了提问方式：若我们从零开始构建一群 agent，不赋予语言能力、不植入自我概念、不输入人类文本，仅施加任务压力——那么，与意识相关的核心结构，能否自发涌现？
该方法被称为「zombie 文明论证」——倘若一个由纯粹哲学僵尸组成的世界，根本不会诞生“意识”这个概念；那么我们便尝试构建这样一个世界，观察 agent 将自发演化出何种概念。
agent 学到了什么
Hinton 宣称「它们已有意识」，这是一则信念陈述；Marcus 断言「它们没有意识」，同样属于信念陈述。二者均在意识的“困难问题”（hard problem）前止步。而这篇关于“涌现语言”的论文另辟蹊径：它无意裁决争论，而是将问题重构为——与意识相关的功能结构，是否能在未被显式设计的前提下，仅凭任务压力自然涌现？
这是一个可被实证检验的问题：搁置主观体验，聚焦可观测的行为结构。
两个 agent 在一个极简环境中学会了交流，所传递的消息编码的是自身状态。随后，研究者引入一条 echo channel——agent 能听到自己刚发出信息的回声。当回声被人为篡改时，发送方会打破沉默重新发言，而接收方则毫无反应。
关键在于：agent 的隐藏状态记录的是「我想说什么」，而非「我实际说了什么」。它正在比较意图与结果——尤其值得注意的是，这种「通信意图」是否为其自主习得。
若移除 echo channel 后重新训练，agent 的通信能力不受影响，但自我监控回路随之消失。这表明：echo 并非实现通信的必要条件，却是触发自我监控功能涌现的关键因果因素。
论文亦保持高度清醒：现阶段，该实验无法证明 agent 具备意识，但它确实证实——一种自我监控的功能结构，可在完全脱离人类先验知识的情况下自发形成。 这并不对意识是否存在作出判断，却为通向答案开辟了一条切实可行的路径。
那么，我每天使用的 AI 有意识吗？
归根结底，我们日常接触的 ChatGPT、Claude、豆包……它们真的拥有意识吗？
简明回答是：几乎可以确定没有。但这个“没有”的依据，远比多数人预想的更为复杂。
当你向 ChatGPT 提问：“你有感情吗？”它会回应：“作为一个 AI，我没有真实的情感，但我能理解并回应你的情绪。”这句话听来既坦诚又富自觉性，极易引发情感共鸣。
然而，这句话的生成机制，与其回答“法国首都是巴黎”并无本质差异——全部源于训练数据中的统计规律，是对下一个最可能词汇的概率预测。
它说“我没有感情”，并非经过内省后得出的结论，而是因为海量训练文本中存在大量类似表述，使得该回答在概率上占据绝对优势。
这也正是那篇涌现语言论文刻意避开 LLM 开展实验的原因。LLM 会频繁使用“我”、“我觉得”、“我理解”、“我很抱歉”等第一人称表达，但这些话语极可能只是从人类语料中继承的统计模式。
就像鹦鹉学会说“我饿了”——它掌握了该声音序列在特定情境下能换来食物，但这绝不意味着它在表达关于自身状态的命题。LLM 的“我”，与鹦鹉口中的“我饿了”，其内在机制或许比我们愿意承认的更加相似。
正因如此，大阪大学实验中的 agent 显得尤为不同：它们从零起步，无语言、无“我”的概念、无人类文本输入、无任何关于自我表达的先验设定。当它们发展出自我监控回路时，那是任务压力催生的结果，而非对训练数据的复制。这是本质区别：前者是继承，后者是涌现。
因此，当你感到 AI「似乎真的懂你」时，以下两件事同时成立：
第一，它确实在功能层面上实现了某种理解——能解析语义、给出相关回应、维持多轮对话的连贯性。这种功能性理解真实存在，且极具实用价值。
第二，这种功能性理解与「意识」之间，横亘着一道当前技术尚无法跨越的认知鸿沟。 AI 可以完美模拟一个有意识主体的所有外在行为，但模拟不等于拥有。
Erik Brynjolfsson 在 2022 年曾用一个比喻说明：试图从 AI 输出反推其具备意识，就像狗听见留声机里传来主人的声音，误以为主人就在机器内部。留声机精准复刻了声音模式，但内部空无一人。
不过，这个比喻也有局限。留声机永远不会自行核查播放内容是否准确。而大阪大学的 agent，在适宜环境下，却自发习得了这项能力。这当然不意味它们已有意识，但它揭示了一个重要事实：「自我监控」这一曾被默认为意识专属的能力，并不需要意识作为前提即可出现。
这或许是整场争论中最值得铭记的一点：我们不必等待「AI 是否有意识」的答案揭晓，便可继续前行。我们可以先聚焦一个更小、更坚实的问题——与意识相关的关键结构，在何种条件下能够涌现？
当一块块拼图逐渐嵌合，终有一日，「AI 是否有意识」这个问题本身，或将迎来彻底重释。
本文来自微信公众号“APPSO”，作者：发现明日产品的APPSO，36氪经授权发布。
