一句话版本
现在的推理模型"思考"时，要把每一步都写成文字（思维链）。但文字是一个很窄的通道：每一步只能从几万个词里选一个，模型内部丰富的连续表征被迫"压缩"成离散的符号。 潜空间推理让模型在内部的连续隐状态里多走几步再输出，就像人在心里琢磨、不必每个念头都说出口。它可能更高效、能同时保留多种可能性，但代价是更难被人检查，这对安全和可解释性是一个真实的挑战。
定位
已有初步研究，但远未成熟。区分已有证据与推测。
第一层：通俗理解
1.1 边说边想 vs 想好再说
解一道难题时，有两种方式：
- 边说边想：每个念头都大声说出来，说出口就定下来了，想改要重新说；
- 在心里琢磨：脑子里同时考虑几种思路，翻来覆去，最后才说出结论。
思维链是第一种。潜空间推理是第二种。
1.2 文字为什么是"窄通道"
模型内部每一步的隐状态是一个几千维的连续向量，信息量很大。把它变成一个词，相当于从中挑出一个最可能的离散选择，其余信息（比如"我还在考虑另外两种可能"）就丢了。
第二层：已有证据
| 工作 | 内容 |
|---|---|
| Coconut（Meta，2024，"连续思维链"） | 把模型最后一层的隐状态直接作为下一步的输入，不经过"选词"。在需要搜索和回溯的逻辑推理任务上，用更少的步数达到更好的效果；分析发现隐状态里同时编码了多个候选路径，类似广度优先搜索 |
| 循环深度 / 隐式推理（2025 年多项工作） | 让同一组层反复运行多次，在测试时"想得更深"，而不需要输出更多 token |
| Large Concept Model（Meta，2024） | 在"句子级概念"的表征空间里做预测，而不是逐个 token |
| 思维链不忠实 | 多项研究（包括 Anthropic、OpenAI 的工作）发现，模型写出来的思维链不一定反映它真实的推理过程，它可能已经在内部决定了答案再"补写"理由 |
| 可解释性 | 机制可解释性研究显示模型内部存在多步"隐式推理"，比如在回答两跳问题时，中间结论出现在内部表征里却没有写出来 |
最后两点说明：模型已经在潜空间里推理了一部分，只是我们没有显式地训练和利用它。
第三层：构想与权衡
3.1 潜在的好处（合理推测）
| 好处 | 原因 |
|---|---|
| 更高效 | 不用为每个思考步骤生成和处理 token |
| 能保留多种可能 | 连续向量可以表示"60% 思路 A，40% 思路 B"，而文字一次只能写一条 |
| 不受语言限制 | 有些推理（空间、数量、直觉）本来就不是语言式的 |
| 更接近人类 | 人类大量思考是非语言的（见《预测加工与下一个token》） |
3.2 真正的代价：可监督性
思维链目前是 AI 安全的一个重要工具：我们可以读模型在想什么，发现它是否在打算作弊、欺骗或做危险的事。多家实验室的研究者曾联合呼吁"保护思维链的可监控性"。
潜空间推理会让这条通道消失：
| 文字思维链 | 潜空间推理 | |
|---|---|---|
| 人能读吗 | 能（虽然不一定忠实） | 不能直接读 |
| 监控手段 | 读文本、用模型检查文本 | 需要可解释性工具解码隐状态 |
| 风险 | 思维链不忠实 | 推理完全不可见 |
3.3 一个折中构想
- 混合推理：日常步骤在潜空间里完成，关键决策点必须用文字写出来（比如"我决定调用这个工具，理由是……"），供监控；
- 可解码的潜空间：训练时加一个"解码器"约束，要求隐状态能被翻译回大致的文字描述，保证可审查；
- 用可解释性工具实时监控：用稀疏自编码器一类的方法，把潜在思考映射到人类可读的特征上。
3.4 待验证的假设
- 潜空间推理在开放领域的复杂推理上，是否仍然优于文字思维链？目前的优势主要在结构化的逻辑和搜索任务上。
- 混合推理中的"关键决策点"能否被可靠地识别？模型会不会把关键推理藏进潜空间？
- 可解码约束会不会把潜空间重新"压窄"，抵消掉好处？
总结
| 层次 | 要点 |
|---|---|
| 直觉 | 边说边想 vs 在心里琢磨 |
| 证据 | Coconut 的连续思维链、循环深度、思维链不忠实、内部隐式推理 |
| 好处 | 高效、保留多种可能、不受语言限制 |
| 代价 | 推理不可见，削弱安全监控；需要混合推理或可解码约束 |