北京
一份情报报告说，一艘中国船在西亚海域载着核武器。美军战机升空，武装士兵准备登船。然后有人发现，这份报告是AI编的。
CNN的报道还原了这起发生在美国太平洋特种作战司令部的事件。一名分析人员用AI聊天机器人整理这艘中国船的货物信息，机器人凭空捏造了货物类型，把它标成了核武器。分析人员随后又用AI把这些假细节包装成一份标准的军事情报报告——那种会被高层用来做关键决策的格式。
报告出来后，军官们开始筹备拦截和扣押这艘船的行动。多名消息人士告诉CNN，美方飞机已经在空中，武装士兵正在为登船做准备，这时AI的幻觉才被发现。一位消息人士说，那份情报报告"完全是假的"，"几乎引发了一场战争"。
人机之间，谁在把关
这件事的核心问题不在于AI会不会出错，而在于出错之后，链条上没有人拦住它。分析人员用AI生成内容，又用AI把内容包装成正式报告，两次经手都是机器，中间没有独立的核实环节。而这份报告的终点，是准备动武的决策层。
报道没有说明涉事的是哪一款聊天机器人。也没有说明从报告生成到行动中止之间隔了多长时间。
一位军方消息人士对CNN说："AI用于目标锁定肯定在加速，但对于人在回路中如何防止平民伤亡或误伤友军，并没有真正的指导原则。"这句话指向的是一个更普遍的状态：工具已经用上了，规则还没跟上。
AI进五角大楼的速度
这起事件被曝光时，AI正在快速进入美国政府的各个角落，从交通监管到五角大楼，再到两者之间的每一个办公室。国防部长皮特·赫格塞思对在美军各层级推广"军事AI"态度积极。
这类工具已经被用于对伊朗的轰炸，以及仍在加勒比海进行的针对渔船的空中打击。报道的措辞是，随着赫格塞思的AI实验继续推进，未来几个月可能还会出现更多"险情和毁灭性情报失败"的故事。
把这几件事放在一起看，脉络是清楚的：AI生成内容进入情报流程，情报流程支撑军事行动，而验证环节的缺失是系统性的，不是某一个人的疏忽。一名分析人员偷懒用AI写报告，本身不构成新闻；构成新闻的是，这份报告一路走到了战机升空那一步。
正反两方，各自的说法
支持在军事领域加速部署AI的一方，逻辑是效率和规模。情报分析的工作量远超人力所能处理，AI可以快速整理和归纳信息，缩短从数据到判断的时间。赫格塞思推动的"军事AI"覆盖各层级，背后的驱动力正是这种效率诉求。
反对的一方，或者说提出警告的一方，指向的是这次事件暴露的具体漏洞。军方消息人士的说法很直接：人在回路中这件事，目前没有真正的指导原则来保证它能防止平民伤亡或误伤友军。也就是说，"有人在看着"这个假设，在实操中并没有配套的机制来支撑。
两边的分歧其实不在AI有没有用，而在验证责任落在谁头上。效率派默认人会核实，警告派指出人未必有能力或动力核实——这次事件里，分析人员不但没有核实，还用AI把未经核实的内容升级成了正式报告。
判断
这起事件最值得注意的地方，是它没有发生在实验室或演习里，而是发生在真实行动的准备阶段，涉及真实的舰船、真实的战机和真实的士兵。差一点引发的后果，报道用"几乎引发了一场战争"来描述。
从已有信息看，问题出在两个环节的叠加：AI幻觉生成了不存在的事实，而报告生成流程没有设置独立的核查关卡。前者是技术问题，后者是流程问题。技术问题可以靠模型迭代改善，流程问题只能靠制度解决，而报道中军方消息人士的话表明，制度这一环目前是空的。
赫格塞思的AI推广计划仍在推进，已投入使用的场景包括对伊朗的轰炸和加勒比海的空中打击。这次被曝光的险情，是这套推进过程中第一个被公开的、接近失控的案例。报道的预期是，类似的故事还会出现。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
