![]()
一份美军制式的情报报告,格式工整,措辞严谨。
上面写着:一艘正在正常航行的中国民用货船,船上搭载着核武器相关的核心零部件。
这份报告从基层情报岗一路传到指挥层,没有人回去翻原始数据。
前线的作战军机已经在任务空域待命,海陆兵力全部就位,离强制拦截这艘货船,只差最后一道执行命令。
最后关头,人工重新比对数据,发现报告里写的 "核部件运输",从头到尾是 AI 自己编的。
这件事是怎么走到这一步的,今天来聊下这件事。
事情出在今年春天,波斯湾那一片。
当时美伊两军离得很近,海面上情报杂、船多、航线密。
美军为了研判得快,把智能 AI 工具接到了情报分析的流程里。
就是这套工具,在一堆海上数据里自己跑出了一份研判:说那艘正常航行的中国民用货船,装着核相关的核心零件。
报告写得有模有样,格式、措辞,全是美军内部公文那一套。
![]()
基层情报岗的人看了,没复核,也没回去查原始数据,直接定稿往上交。
报告到了高层指挥班子手里,也没人觉出不对,整套采信。
海上拦截的方案定了,近距离登船核查的细则也定了,前线军机立刻升空,在任务空域等着,海陆兵力全部到位。
按这个节奏往下走,就差最后一道放行命令,那架军机就要抵近,那艘货船就要被拦下。
好在最后关头,军方临时起了一道紧急复核的流程。
专人把数据来源一条一条拉出来对,对着原始情报一笔一笔查。
这才查出来:所谓的核部件运输情报,根本没有任何真实数据撑着,是 AI 自己生造出来的结论,业内管这叫 AI 幻觉。
这事吓人的地方,不在 AI 会出错。再好的模型也有出错的时候。
吓人的是,AI 这么一个基础错误,从数据筛查、报告成文、兵力调度到军机升空,整条军事链路没有一个环节把它拦住。
![]()
报告一路绿灯,没人质疑,没人溯源,没人回头看一眼最原始的数据到底长什么样。
能把这次拦下,靠的也不是哪一道制度卡住了,就是最后那一下人工复核赶上了。
为什么这套工具敢这么往一线接。
它本身就有硬伤。这款工具分不清公开网络上的信息和军方手里的涉密信号情报,经常把两类数据揉到一块。
更关键的是,它压根不是专门为军队做的智能系统,就是市面上一个普通商用 AI 模型,简单改了改包装,没经过任何军事场景的专门测试,海上船舶怎么查、跨境货运怎么研判、高危目标怎么识别,一样都没针对性优化过,就这么接进了军方的情报系统。
现在美军基层情报岗在用的不少智能工具,走的都是这个路子。
工具是这么个来路,用工具的人也变了。
现在美军年轻的情报人员,习惯把活儿全交给 AI。
数据梳理、信息筛选、情报判断、报告起草,机器出完稿,人复制粘贴,排成制式公文就算完事。
![]()
时间一长,原来那套查原始数据、交叉比对、怀疑机器结论的本事,慢慢就生了。AI 给什么结论,就当什么结论报上去。
制度这一层也没跟上。全军到现在没有一套统一的军事 AI 准入标准,也没有统一的使用规范。
哪个军种、哪个战区司令部,自己去买工具,自己定怎么用。
AI 生成的情报,不要求标数据来源,不要求标生成路径,也不要求写清楚人工核了多少。
![]()
像海上拦截、跨境登船、目标打击这种高危行动,理论上应该层层人工复核,实际上凭一份 AI 出的结论,兵力就能调动起来。
其实美军情报界内部,这几年 AI 闹出的失真不是头一回。只不过以前那些错,都停在纸面上,没碰到真枪实弹的部队,也没对外曝出来,就这么一直被放着。直到这一次,差一点因为一个 AI 的幻觉,把一架军机和一艘外国货船顶到了枪口上。
要把这窟窿补上,方向其实就摆在那里。
1、准入。凡是进作战研判、涉密分析环节的军事 AI,必须过全场景的军用测试和风险验证,不许商用模型改个皮就上线。AI 出的每一条情报,都要标清数据从哪来,核心结论要多个来源交叉核对。
2、分工。AI 干的是整理数据、汇总信息、排格式这些辅助活。情报甄别、风险判断、军事决策,必须人来拍板,而且要固化成多层级的强制复核流程,不能让机器替人下作战命令。
3、能力。情报人员不能只练会按按钮出报告,查原始数据、判断风险、识别真伪这些老本事,得重新捡起来,让 "先怀疑一遍" 成为每一份 AI 报告出去之前的必经步骤。
我觉得,这次能在最后一刻把命令按住,算是运气好。
可情报这一行,靠运气兜底的日子长不了。
下一次 AI 再吐出一份格式漂亮、看起来没破绽的高危报告,要是复核环节正好空着,没人能保证还能这么凑巧。
![]()
对了,这起乌龙之后不久,美国国防部在一份内部简报里加了一条不起眼的附注:截至当年,美军各作战司令部自行采购、接入情报流程的各类商用 AI 工具,没有经过统一军事安全认证的,数量超过了150 个。
对此,你们有什么想法?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.