银河号事件差点重演，美军准备拦截中国商船，才发现自己被AI骗了

近日，CNN爆出一则猛料。今年春季，阿拉伯海域险些上演一场大国冲突。

美军战斗机紧急升空，特种部队准备强行登船拦截一艘中国商船。

而下达拦截指令的依据，竟是AI聊天机器人凭空捏造的一份情报。

参与事件的美军知情人士后怕地表示：“这份报告完全是假的，但它差一点就引发了一场战争。”

所幸在行动即将展开的最后一刻，核查人员发现情报是AI“瞎编”的产物并紧急叫停。

这才避免了一场因算法失误引发的大国军事冲突。

这一幕很容易让人联想到33年前的中美“银河号”事件。

1993年7月，美国以“确凿情报”为由，指控中国货轮载有化学武器前体物资。

美军出动军舰和飞机在公海跟踪监视并强行拦截。

最终在沙特达曼港进行了长达数十天的联合检查，结果没有发现任何美方指控的化学品。

33年后，相似的剧本再次被推到悬崖边缘。

同样的中国商船，同样的中东目的地，同样的敏感物资指控，以及同样如临大敌的海空拦截行动。

但两次事件之间有一个本质不同。

33年前的“银河号”事件，是美方冷战思维下的人工情报失误和霸权施压。

而这场差点重演的危机，驱动美军行动的却是AI算法的幻觉。

一份毫无事实根据的虚假情报，究竟是如何突破层层审核、直达最高作战决策层的？

据CNN披露，事件起源于美军太平洋特种作战司令部驻夏威夷的一名情报分析师。

当时他正试图分析这艘中国商船的货物清单，但没有按传统规程比对原始数据。

而是直接将公开情报与内部秘密信号情报输入给一个AI聊天机器人进行查询。

这个模型在面对复杂碎片化的数据时，触发了常见的幻觉现象。

它自动将毫无关联的信息拼接在一起，得出了一个严重结论：这艘船上装载的是核武器项目部件。

更荒唐的是，这名分析师随后再次使用AI工具，将生成的臆造结果快速打包格式化。

一键生成了一份符合五角大楼标准规范的情报报告，直接分发到军方指挥系统中。

由于报告格式规范、语言专业，系统内各级指挥官深信不疑，作战指挥链条随即被激活。

当年轻的情报分析师习惯依赖大模型甚至盲目崇拜时，AI的瞎编就变成了通往战争的许可。

这次事件只是因为运气足够好才化险为夷。

但回顾美军近年来盲目推进AI军事化的轨迹，类似问题早就在战场上制造了多起严重惨剧。

今年2月28日，美以伊战争爆发首日，美军发射巡航导弹对伊朗南部米纳卜市一所小学发动打击。

造成至少175人死亡，其中绝大多数是儿童。

后来的调查证实，这起惨剧是过时情报加上AI算法误导共同作用的结果。

然而美军情报数据库严重滞后，依然将该建筑标记为武装基地。

在AI算法的快速演算下，这个已被改为学校的建筑被高优先级推送给指挥官。

人类审核人员在高速决策面前流于形式，最终按下了发射按钮。

早在2024年，美军在伊拉克的一次空袭中造成一名20岁青年死亡。

这也是美军首次公开承认因AI辅助目标识别系统失误导致平民伤亡。

该系统在天气晴朗能见度极佳的情况下，识别坦克的准确率也仅有约60%。

一旦遇到阴雨浓雾等恶劣天气，识别准确率会直接掉到30%。

尽管前线险象环生，五角大楼对AI军事化的热情却依然高涨。

今年1月，美国防长赫格塞斯高调发布了《人工智能加速战略》。

明确要求打破一切官僚壁垒，将全美最顶尖的AI大模型推送到300万美军人员手中。

五角大楼认为在未来大国竞争中，决策速度决定生死，决不能在应用速度上落后。

然而这种去中心化的狂热推广，带来的却是严重的安全混乱。

美军内部多名官员透露，目前各部门各军种使用的AI工具五花八门。

既没有统一的安全验证标准，也没有严格的情报核查规程。

特种部队用一套工具，海军用另一套，情报部门又在用商业大模型修改后的版本。

不同工具的准确性和稳定性天差地别，整个决策链条处于无序状态。

军事理论中一直存在“人在回路”原则，强调无论算法如何演算，下达杀伤指令的必须是人类。

但在现实中，当AI以秒级速度不断生成海量情报摘要和作战方案时，疲于奔命的指挥官往往会产生自动化偏见。

他们倾向于无条件信任机器给出的答案，“人在回路”慢慢沦为了一种形式主义。

这次美军在拦截中国商船的前一刻发现自己被AI骗了。

但下一次在战云密布的状态下，当算法再次产生幻觉生成虚假战报时，指挥官还能保持理智吗？

算法没有良知，也不会敬畏战争。

如果盲目追求所谓的决策速度，当下一次危机来临，恐怕就没有在最后一秒喊停的幸运了。