一句话版本
科学家区分相关和因果的办法是做实验：主动改变一个变量，看别的变量怎么变。大模型目前几乎只从"观察"数据（别人写下的文字）中学习，从没有亲手做过实验。 本文的构想是：把"提出假设 → 设计干预 → 执行 → 根据结果更新信念"这个科学循环，变成大模型训练的一部分。奖励不是"答对了"，而是"你的实验有没有让你对因果结构更确定"。
定位
研究构想。区分已有证据、合理推测和待验证假设。
第一层：通俗理解
1.1 冰淇淋和溺水
夏天冰淇淋销量和溺水人数一起上升。只看数据，你可能以为吃冰淇淋导致溺水。
科学家会想：如果我强制让一个城市停售冰淇淋，溺水会减少吗？不会，因为两者都是"天气热"造成的。
这个"强制改变"就是干预。文本里充满了"冰淇淋和溺水"式的相关性，模型从中学到的因果知识，很大程度上取决于有没有人恰好把正确的因果关系写下来。
1.2 构想：模型当科学家
| 步骤 | 模型做什么 |
|---|---|
| 观察 | 读一批数据或一个系统的描述 |
| 假设 | 提出可能的因果图（谁影响谁） |
| 设计实验 | 选择最能区分不同假设的干预 |
| 执行 | 在模拟器、代码沙箱或真实实验环境中执行 |
| 更新 | 根据结果修正因果图 |
训练的目标是让模型越来越擅长用最少的实验，搞清楚因果结构。
第二层：已有证据
| 方向 | 代表工作 |
|---|---|
| 因果发现算法 | PC 算法（基于条件独立性检验）、NOTEARS（2018，把有向无环图约束变成连续优化）；有了干预数据，可识别的因果结构会多得多 |
| 最优实验设计 / 主动学习 | 贝叶斯最优实验设计：选择使"信息增益"最大的实验 |
| LLM 的因果短板 | CLadder 等基准显示 LLM 在干预、反事实问题上明显弱于关联问题（见《世界模型后训练》） |
| LLM 作为科研 Agent | 自动设计和执行实验的"AI 科学家"类系统已经出现：在化学自动化实验室中自主规划合成实验的 Coscientist（2023），以及能自动提出假设、写代码跑实验、写论文的系统 |
| 儿童是天生的实验者 | 发展心理学研究（如 Gopnik 等）表明，幼儿会通过有选择的"玩"来检验因果假设，行为接近贝叶斯最优实验设计 |
第三层：构想的具体形态
3.1 奖励：信息增益
假设模型对因果结构的信念是一个分布 （ 是可能的因果图）。执行实验 、观察到结果 后，信念更新为 。奖励设为信息增益：
是熵。一个好的实验，让模型对"世界的因果结构是什么"更加确定。
这个奖励不需要标准答案：不需要人告诉模型正确的因果图，只需要模型的信念变得更集中、且之后的预测更准（防止"自以为更确定"的作弊，需要用后续预测准确度做校验）。
3.2 环境从易到难（合理推测）
| 阶段 | 环境 | 例子 |
|---|---|---|
| 1 | 合成因果系统 | 随机生成的小型因果图，模型可以对任意变量做干预 |
| 2 | 代码沙箱 | 一个陌生程序：改变输入、配置，推断内部逻辑 |
| 3 | 物理模拟 | 积木、斜面、电路 |
| 4 | 科学模拟 | 化学反应、基因调控网络模拟器 |
| 5 | 真实实验室 | 自动化湿实验平台（成本高，数据最真实） |
3.3 为什么值得做
- 数据效率：主动选择的实验，比被动观察的数据信息量大得多；
- 可迁移的能力："怎样设计实验"是一种通用技能，可能比"记住一万个因果事实"更有价值；
- 减少幻觉：一个习惯于"先检验再相信"的模型，可能更少把相关当成因果。
3.4 待验证的假设
- 在合成因果系统中学到的"实验策略"，能否迁移到自然语言描述的现实问题？
- 信息增益奖励会不会被投机（比如模型故意先变得很不确定，再"获得"大量信息增益）？需要怎样的约束？
- LLM 的语言先验会帮忙（提供合理的初始假设）还是添乱（顽固地坚持文本里的错误相关）？
- 计算成本：每一步都要维护和更新因果信念，能否用模型自身的隐状态来近似？
3.5 风险
真实实验室中的自主实验 Agent 涉及安全问题（危险化学品、生物实验），必须有严格的权限和人工审批（见《Agent权限设计》）。
总结
| 层次 | 要点 |
|---|---|
| 问题 | 模型只"看"过世界，没"动"过世界 |
| 构想 | 训练模型提出假设、设计干预、根据结果更新 |
| 奖励 | 对因果结构的信息增益，配合后续预测准确度校验 |
| 依据 | 因果发现、最优实验设计、AI 科学家系统、儿童的实验式学习 |