CNN爆出惊险一幕

文｜陆弃

北京时间9月19日凌晨，CNN披露了一起发生在今年春季伊朗战争期间的事件：一份在美国军方内部流传的情报报告声称，一艘在中东航行的中国船只正在运输与核武器计划有关的零部件。CNN援引4名知情人士称，美军随后准备拦截这艘船，武装人员准备登船，军用飞机也已经升空。直到行动即将开始前，美方官员进一步核查报告，才发现其中关键判断来自一名分析人员使用的AI聊天机器人，而且AI错误识别了船上货物。需要强调的是，这目前主要来自CNN对知情人士的报道，美国军方和官方尚未公开确认完整经过，涉事船只身份及实际货物也未披露。

这件事真正值得关注的，并不是简单的“AI犯错”，而是一个错误判断为什么能够一路进入军事决策链条。普通工作中的AI错误，可能意味着一份报告写错；进入军事体系后，它却可能从错误信息变成正式情报，再变成作战判断，最终转化为武装行动。中间任何一道人工审核失效，错误的代价都会被迅速放大。

据CNN报道，涉事分析人员使用聊天机器人处理有关船舶的信息，AI将公开信息与美国政府掌握的内部情报结合分析后，对船上货物作出了错误判断，分析人员随后又利用AI整理成标准情报报告并传播。如果这一经过最终得到进一步证实，那么问题就不只是“机器说错了一句话”，而是错误信息经过专业化包装后，获得了本不应拥有的可信度。

这恰恰是军事AI最危险的地方。现阶段的AI本来就可能产生事实错误、错误关联以及貌似合理却没有依据的结论，因此真正需要解决的从来不是“AI会不会犯错”，而是“人类能不能阻止错误进入高风险决策”。如果AI只是辅助分析、提供线索，再由独立情报源和专业人员复核，错误可能止步于分析阶段；如果分析人员把AI判断直接加工成正式报告，而后续人员又因为报告格式和专业术语默认其可信，机器的错误就会被组织体系放大。

据CNN报道，美国军方和情报系统正在快速扩大AI应用，从情报分析、目标筛选到后勤和供应链管理，都在推进相关工具。美国国防部长赫格塞思今年1月公布“人工智能加速战略”，要求加快军方AI实验和应用。但CNN援引熟悉相关系统的人士称，美国不同部门使用的模型和安全标准并不完全统一。这里真正值得警惕的是，技术应用正在加速，而安全规则未必同步成熟。

战争尤其容易放大这种矛盾。AI最大的优势是速度，而战争同样强调速度。它可以在极短时间内处理海量信息、寻找关联、筛选目标，可速度与可靠性从来不是一回事。错误情报如果也被高速处理，得到的就可能不是更快的正确决策，而是更快的错误决策。

更重要的是，军事错误往往无法重来。商业决策错了，可以暂停、退款、修正；军舰拦截、武装登船甚至开火一旦发生，事后再解释“原来是AI判断错误”，已经没有意义。如果对象是一艘中国船只，那么一次误判就可能从技术事故迅速演变成国家间危机。

但把所有责任推给AI同样不完整。没有AI的时候，人类也曾犯下严重的情报错误。2003年伊拉克战争前，美国对伊拉克大规模杀伤性武器的判断，就是美国情报史上最著名的误判之一。情报错误背后往往还有组织惯性、信息偏差、验证不足以及决策者对既有判断的过度信任。

AI带来的新问题，在于它可能让这些传统错误传播得更快，并制造一种“机器权威感”。人工写出的错误判断可能很快被质疑，而一份结构完整、语言流畅、能够整合大量信息的AI辅助报告，却更容易给人一种经过严格验证的感觉。技术越强，审核就越不能弱。

因此，军事AI真正需要的不能只是形式上的“人在回路中”，而是实质性的人工否决权。关键情报有没有独立来源验证？分析人员有没有时间和权限推翻机器结论？涉及核武器、外国船只和重大军事行动时，是否应该设置更高等级的复核门槛？如果AI给出高度确定、却无法独立验证的判断，系统究竟应该继续行动，还是默认暂停？

9月17日，中美安全领域专家提出建立类似核武器领域的AI安全护栏，包括限制AI参与核系统、确保重大军事网络行动保持有效人工控制，并建立相关危机沟通机制。需要说明的是，这些仍属于专家建议，并不代表两国政府已经正式采纳。但这一讨论说明，当AI进入军事体系之后，传统的危机管控机制也必须面对新的风险。

这次事件最终是否会得到美国官方完整确认，还有待观察。但它至少提出了一个不能回避的问题：未来战争可能越来越依赖算法，却不能让算法替代人的责任。AI可以帮助军方更快处理信息，却无法承担误判之后的政治、军事和生命代价。在大国竞争时代，真正危险的未必只是蓄意发动的战争，也可能是一条未经验证的错误信息，被AI生成、被人类包装、被制度放大，最后快到没有人来得及停下来问一句：这件事，真的发生了吗？