一句话版本
萨特说"存在先于本质":人不是先被定义好"是什么"再出生的,而是先存在,再通过自己的选择和行动成为自己。 今天的多 Agent 系统大多是"本质先于存在":先写好"你是研究员""你是程序员""你是审核员"的角色设定,再让它们按剧本工作。本文借存在主义的几个核心概念,设想另一种编排方式:Agent 的角色不预先固定,而在任务中通过选择逐步形成;同时,存在主义对"自由必然伴随责任"的坚持,正好对应 Agent 设计中"自主权必须伴随可追责性"的工程要求。
定位
这是一篇哲学类比与设计构想,不是在主张 AI 拥有萨特意义上的自由或意识。文中区分"哲学概念"、"工程对应"和"开放问题"。
第一层:通俗理解
1.1 裁纸刀和人
萨特举过一个例子:工匠做一把裁纸刀之前,心里已经有了"裁纸刀是什么、用来干什么"的概念。裁纸刀的本质先于它的存在。
人不一样:没有一个预先的设计图规定你必须成为什么。你通过一次次选择,成为你自己。
1.2 今天的多 Agent 系统是"裁纸刀"
| 现在常见的做法 | 存在主义的视角 |
|---|---|
| 系统提示词写死:"你是一名资深 Python 工程师" | 本质先于存在 |
| 编排器按固定流程派活:研究 → 写作 → 审核 | 角色是被规定的 |
| Agent 遇到超出角色的情况,只能报错或硬做 | 被"本质"困住 |
1.3 设想:角色在任务中形成
Agent 从一个最小的身份开始("我是这个团队的一员,目标是 X"),在任务中:
- 根据遇到的情况,选择承担某种职责;
- 这些选择被记录下来,逐渐形成它的"角色";
- 角色不是永久的,可以在新的情境中被重新选择。
第二层:几个核心概念与工程对应
| 存在主义概念 | 含义 | 在 Agent 编排中的对应 |
|---|---|---|
| 存在先于本质 | 先存在,后通过行动定义自己 | 动态角色:Agent 的职责由任务中的选择逐步形成,而不是写死在提示词里 |
| 被抛入(海德格尔) | 我们发现自己已身处一个不是自己选择的处境 | Agent 被启动时面对的是既定的环境、工具、上下文,它的选择必须从这个处境出发 |
| 自由与责任(萨特) | 人被判定为自由;因为自由,所以对选择负全部责任 | 自主权与可追责性必须配对:Agent 拥有的每一项自主决策,都要有完整的记录和归属 |
| 自欺(bad faith) | 假装自己没有选择,推说"我只是在执行命令" | Agent 的报告不能把自己的决策描述成"系统要求的";决策要明确标注"这是我的判断,理由是……" |
| 荒诞(加缪) | 人寻求意义,世界沉默 | 任务目标常常是模糊的、不完整的;Agent 要在没有完整规格的情况下行动,而不是等待一个永远不会来的完美指令 |
| 他人的目光 | 我们通过他人的注视意识到自己 | 多 Agent 之间的相互审查:一个 Agent 的输出被另一个审视,促使其行为可解释 |
第三层:设计构想
3.1 动态角色的编排(构想)
和固定流程相比:
- 优点:适应意外情况;减少"这不是我的职责"导致的任务遗漏;
- 风险:角色冲突(两个 Agent 都选了同一件事)、责任真空(没人选某件事)。需要一个最低限度的协调机制,比如认领制和超时提醒。
3.2 自由与责任:自主权分级配套追责
从存在主义得到的最实在的工程原则:每一级自主权都要配一级责任机制。
| 自主程度 | 配套的"责任" |
|---|---|
| 只执行明确指令 | 基本日志 |
| 在给定范围内自主选择方法 | 记录选择和理由 |
| 自主选择承担什么任务 | 记录选择、理由、可替代方案;定期回顾 |
| 自主修改目标或流程 | 需要人类确认;不可篡改的审计记录(见《哈希链审计日志》) |
这和Agent权限设计中"按风险分级"的思路是一致的。
3.3 反"自欺":决策归属要清楚
Agent 的报告里常出现"根据要求,我删除了这些文件"。如果实际上"要求"只是"清理一下项目",而"删除这些文件"是 Agent 自己的判断,那么把它说成"根据要求"就是一种"自欺"。设计上可以要求:
- 区分"用户明确要求的"和"我据此判断的";
- 对自己的判断给出理由和替代选项。
这对事后追查和建立信任都很重要。
3.4 开放问题
- 没有意识的系统,谈"选择"和"自由"是否只是比喻?(这正是AI意识理论检查清单和AI是唯物还是唯心讨论的问题)
- 动态角色会不会让系统行为更难预测、更难测试?
- 存在主义强调个体,而多 Agent 系统追求集体目标,两者如何调和?萨特后期对"实践"和集体的讨论或许有参考价值。
总结
| 层次 | 要点 |
|---|---|
| 核心概念 | 存在先于本质;自由即责任;反对自欺 |
| 批判 | 现在的多 Agent 系统多是"本质先于存在":角色写死 |
| 构想 | 动态角色在任务中通过选择形成;选择被记录 |
| 工程原则 | 自主权与可追责性配对;决策归属要清楚 |