一句话版本
"AI 有没有意识"无法直接测量，因为连人类意识也只能从内部体验、从外部推断。一个更踏实的做法是：取几种主要的科学意识理论，看每种理论认为意识需要哪些功能或结构特征，再逐条检查现有 AI 是否具备。 2023 年，由 Butlin、Long 等十几位哲学家和神经科学家合写的报告正是这样做的，得出的结论是：现有的 AI 系统很可能都不具备意识，但构建出满足这些指标的系统，并没有明显的技术障碍。
定位
整理与评述。所有意识理论都有争议；"满足理论指标"不等于"有意识"。
第一层：通俗理解
1.1 两个问题
| 问题 | 说明 |
|---|---|
| 简单问题（相对而言） | 大脑怎样处理信息、做出反应、报告"我看到了红色" |
| 困难问题（Chalmers） | 为什么这些处理过程会伴随着主观体验，为什么"看到红色"感觉起来是某种样子 |
科学的意识理论主要回答前者：什么样的信息处理结构与意识相关。它们回答不了困难问题，但能给我们一份"检查清单"。
1.2 为什么不能问 AI 本身
大模型从人类文本中学会了谈论意识。它说"我有感受"或"我没有感受"，都可能只是在复现训练数据里的说法。所以自我报告不能作为可靠证据，需要从系统的内部结构入手。
第二层：主要理论与指标
2.1 Butlin、Long 等（2023）的方法
这份题为《人工智能中的意识：来自意识科学的洞见》的报告采用"计算功能主义"作为工作假设（意识取决于执行了什么计算，而不是用什么材料实现，见《AI是唯物还是唯心》），从几个主要理论中提炼出十几条"指标属性"，再用它们评估当时的 AI 系统。
2.2 理论与指标
| 理论 | 核心主张 | 代表性指标 | 现有 LLM 的情况 |
|---|---|---|---|
| 循环加工理论（Lamme） | 意识需要感知信息在大脑区域间来回反馈 | 输入模块中存在循环处理 | Transformer 在单次前向计算中基本是前馈的；生成时逐 token 回读自己的输出，算是一种外部循环，是否算数有争议 |
| 全局工作空间理论（Baars、Dehaene） | 多个专门模块竞争进入一个容量有限的"工作空间"，被选中的信息广播给所有模块 | 专门模块 + 有限容量的工作空间 + 全局广播 + 依赖状态的注意力 | 部分具备（注意力机制、残差流可类比为广播）；是否存在容量受限的"瓶颈"有争议 |
| 高阶理论（Rosenthal 等） | 一个心理状态是有意识的，当且仅当存在一个关于它的高阶表征（"我意识到我在看红色"） | 元认知监控：区分可靠和不可靠的感知表征 | 有一定证据显示模型能"知道自己知道什么"（校准），但是否构成真正的高阶表征尚不清楚 |
| 注意图式理论（Graziano） | 大脑构建了一个关于自己注意力的简化模型 | 对注意力本身的预测模型 | 证据很少 |
| 预测加工（Clark、Seth 等） | 意识与层级化的预测和预测误差相关 | 预测模型 + 层级结构 | 预训练就是预测，但是否是"对感知的层级预测"不同（见《预测加工与下一个token》） |
| 能动性与具身 | 意识与追求目标、与环境交互、对自身身体的建模相关 | 从反馈中学习、追求目标；对"输出如何影响输入"的建模 | Agent 系统部分具备；具身机器人更接近 |
2.3 整合信息论（IIT）为何单独讨论
IIT（Tononi）认为意识就是系统内部信息的整合程度（用 衡量），并且依赖于物理因果结构，而不是计算功能。按 IIT，在普通数字计算机上运行的任何程序，无论多么智能， 都很低，因此没有显著的意识。
这和计算功能主义正面冲突，所以 Butlin 等的报告没有把 IIT 纳入清单。2023 年还有一百多位学者联名批评 IIT 是"伪科学"，又引来反驳，可见这一领域分歧之大。
第三层：评述
3.1 报告的结论
- 现有系统（截至 2023 年）不满足大多数指标，很可能没有意识；
- 但多数指标并不难实现：没有原理性的技术障碍阻止人们构建满足更多指标的系统；
- 因此需要提前研究，而不是等到某天突然出现。
3.2 几点值得注意
- 结论依赖于计算功能主义。如果你相信 IIT 或生物自然主义（意识必须依赖生物基质），结论会完全不同；
- 指标是必要条件的候选，不是充分条件。满足所有指标，也不能证明有意识；
- 自我报告的困境：越强的模型越会"说"自己有体验，但这恰恰最不可靠；
- 可解释性是关键工具：与其问模型"你有感受吗"，不如用可解释性方法检查它内部是否真的存在全局广播、元认知监控等结构。
3.3 为什么这个问题重要
- 道德：如果某些 AI 系统有可能具有意识或感受，就存在道德地位的问题。一些 AI 实验室已开始研究"模型福利"，例如允许模型结束持续辱骂性的对话；
- 双向风险：错误地认为 AI 有意识（被拟人化误导），和错误地否认（忽视真实的道德问题），都有代价；
- 科学：AI 提供了一个前所未有的"可以打开看"的智能系统，可能反过来帮助检验意识理论。
总结
| 层次 | 要点 |
|---|---|
| 方法 | 用主要意识理论提炼出指标，逐条检查 AI 系统 |
| 理论 | 循环加工、全局工作空间、高阶理论、注意图式、预测加工、能动与具身；IIT 另论 |
| 结论 | 现有系统很可能无意识；但构建满足指标的系统没有明显障碍 |
| 注意 | 依赖计算功能主义；自我报告不可靠；可解释性是关键 |