一句话版本
2020 年，美国 DARPA 组织的模拟空战比赛中，一个强化学习训练的 AI 以 5 比 0 战胜了一名经验丰富的人类飞行员。2023 到 2024 年，AI 已经在一架改装的真实试验机上完成了与人类驾驶飞机的空中对抗测试。 这类研究引起的讨论，远不止"AI 飞得好不好"：如何证明一个学习型系统在飞行这样的高风险场景中是安全的，以及人类在多大程度上必须保留控制，是航空 AI 绕不开的两个核心问题。
关于时效与范围
本文只整理公开报道的里程碑和其中的技术与治理问题，未逐项联网核对。
第一层：通俗理解
1.1 为什么飞行适合研究 AI 自主性
- 物理规律明确，可以在高保真仿真里大量训练；
- 决策要求极快，人类反应速度有上限；
- 风险极高，所以对安全验证的要求是最严格的。
1.2 两个难点
| 难点 | 说明 |
|---|---|
| 仿真到真实 | 仿真里训练的策略，到了真实飞机上会遇到传感器噪声、气流、硬件延迟 |
| 安全证明 | 传统飞控软件可以逐行审查、证明行为；神经网络的行为很难穷尽验证 |
第二层：公开的里程碑
| 时间 | 事件 |
|---|---|
| 2020 | DARPA "AlphaDogfight Trials"：多个团队的 AI 在模拟器中对抗，冠军（Heron Systems）的强化学习智能体在模拟中击败了人类飞行员 |
| 2022–2023 | DARPA "空战演进"（ACE）项目：AI 在改装的 X-62A（VISTA）试验机上进行真机飞行测试；机上始终有人类安全飞行员可随时接管 |
| 2024 | 美国空军部长搭乘 AI 控制的 X-62A 进行试飞，引发公众关注 |
| 民用方向 | 自动驾驶仪、自动着陆早已普及；近年研究集中在单人驾驶、货运无人机、城市空中交通的自主化 |
几乎所有真机测试都有一个共同点：人类安全员在机上，并且有独立的安全监控系统，一旦 AI 的指令越界就切换回人工或保守模式。
第三层：技术与治理问题
3.1 运行时保障（runtime assurance）
一种常见的安全架构：
监控器检查 AI 的指令是否会让飞机进入危险状态；会的话，就切换到经过认证的备份控制器。这样，不需要证明 AI 本身永远正确，只需要证明监控器和备份是正确的。这与为什么AI Agent需要沙箱中"假设它会出错，限制后果"的思路一致。
3.2 认证难题
航空软件的认证标准（如 DO-178C）要求能追溯每一条需求、覆盖每一条代码路径。神经网络没有"代码路径"的概念，行为由数百万个参数决定。航空监管机构（如欧洲航空安全局 EASA）已经发布了机器学习应用的指导路线图，但完整的认证体系仍在建设中。
3.3 人的角色
无论民用还是军用，国际讨论都集中在一个问题上：关键决策中人类应保留多少控制。民航领域的共识是逐步、分级引入自主性；涉及武力使用的自主系统，则是联合国等多边框架持续讨论的伦理与法律议题。
总结
| 层次 | 要点 |
|---|---|
| 里程碑 | 2020 年模拟对抗；2023–2024 年真机测试，机上始终有安全员 |
| 难点 | 仿真到真实；学习型系统的安全证明 |
| 架构 | 运行时保障：可验证的监控器 + 认证过的备份控制器 |
| 治理 | 认证标准仍在建设；人类控制的程度是核心议题 |