![]()
CNN前几天甩出来一条大新闻,看得我们后背直冒冷汗。美军差点因为一份AI瞎编的报告,去武装登临一艘中国商船。战机已经飞上了天,特战队员已经全副武装准备行动,就差最后一道命令。
要真按下这个按钮,中美两个核大国就要在海上撞个正着。而拉住这匹脱缰野马的,只是一位美军官员临时起意的一次核查。这种靠运气挡下来的和平,实在让人不敢恭维。
![]()
事情发生在今年春天,美伊那会儿还在交火。美军特种作战司令部有个情报分析师,用AI帮着写了份报告。报告写得斩钉截铁:一艘在中东海域活动的中国船,正给伊朗送核武器项目要用的零件。这份东西一进入美军系统就炸了锅,最高级别的作战预案马上启动。
拦截方案敲定,突击队员整装待发,作战飞机也已经起飞盘旋。所有人都以为这将是一次利落的海上抓捕。
![]()
命令快要下达的时候,一位美军官员心里犯了嘀咕。他决定把这份报告翻出来重新过一遍。这一翻,问题全露馅了。
所谓的"核武器零件"根本没有原始人工分析支撑,全是AI聊天机器人自己"脑补"出来的东西。CNN引用知情人士的原话,说这份情报"完全虚假",却"差点掀起一场战争"。
要是那位官员当时没多这一句嘴,武装登船就真发生了。中美之间的火药桶,可能就此点着。
![]()
那位分析师的操作流程,如今成了美军内部的反面案例;第一步,他把太平洋特种作战司令部拿到的船只货运清单,一股脑丢给了AI聊天机器人。这个工具同时处理公开信息和机密信号情报,全搅到一起;第二步,AI犯了"幻觉",把船上普通货物错认成核武器零部件。
第三步更让人无语,他又叫AI把这个错误结论加工成一份格式规范的标准情报报告,然后按流程发了出去。
![]()
这份东西为啥能一路绿灯?就因为它长得太像那么回事了。CNN报道里一位美军前高官说得挺损,说美军现在用的AI工具就是商业产品换了个包装,"涂了口红"而已。可就是这种被包装过的AI,产出的报告排版整齐、用词专业、逻辑通顺,跟老手写的没啥两样。
传阅链上没人多问一句信源,也没人回去查一遍原始数据。一层专业外壳,成了假货最好的通行证。
![]()
要说责任,那位分析师确实要背。他太懒也太信AI。但只处理他一个人,等于把真正的漏洞给盖住了。
今年1月9日,美国国防部长赫格塞思签发了《人工智能加速战略》,明确要把美军搞成一支"AI优先"的作战力量,通过七个"定调项目"把AI嵌进作战、情报、决策每一环。速度写得明明白白,配套的验证机制却几乎没有跟上。这才是真正的病根。
![]()
CNN报道里还提到一个要命的细节。美国政府和军方各个部门用的AI模型压根不是一套。陆海空各选各的,情报口和作战口自己搞自己的。这种"各自为政"的推进方式,意味着严谨性和安全性没有统一标尺。
一个部门的AI已经出错了,另一个部门可能还在用完全不同的工具跑同一批数据,交叉验证根本做不到。
![]()
更糟的是,美方目前没有一套标准流程去验证AI产出的情报可不可信。
就算没有AI,美军历史上因为烂情报闯祸也不是一次两次了。2003年那管所谓装着"化学武器样本"的道具试管,加上一份漏洞百出的评估报告,就把美国推进了伊拉克战争。
![]()
事后大家都知道,"大规模杀伤性武器"压根不存在。
1998年,美军以"化学武器工厂"为由,用巡航导弹炸了苏丹一家生产平价药的希法制药厂,事后调查证明情报判读完全错误。
老毛病一直有,AI只是把老毛病的发作速度按了快进键。
![]()
过去一份情报报告,要经过撰写、复核、上报好几道人手。就算分析师看错了,总还有下一环节的人能拦一下。可AI一进来,这个时间窗口一下就被压扁了。几秒钟,一个错误判断就能被AI包装成专业报告;再几秒钟,就能推送到指挥链高层。
当决策者越来越依赖AI"更快选定打击目标",那个"停一停,再看一眼"的传统习惯,就在被系统性地跳过去。
![]()
美国现在这种"战时姿态"般的AI军事化推进,动机其实很直白。就是想靠技术代差把军事优势攥得更死。
七个"定调项目"里,有专门做作战决策智能体的,也有专攻AI集群作战的。速度成了硬指标,安全和验证都要给它让路。
![]()
中国在军事AI问题上的态度这几年一直没变过。国防部发言人明确表态过,中方坚持"以人为本、智能向善",主张军事AI应用必须由人来主导,反对用AI这类新兴技术优势去谋绝对军事霸权。这话乍一听像原则表态,可对照CNN这次爆的料,含金量立刻就出来了。
一旦让算法在情报判读、目标选择这些关键节点上话语权太大,验证又跟不上,一次"幻觉"就等于一次开火命令。
![]()
人的生杀大权被交给程序,这个后果谁承担?
理论上的风险,往往要等一次真事儿,大家才看得进去。这次CNN曝的中国船只事件,就是最好的教材。它不是科幻片里AI"觉醒造反"那种夸张桥段,而是更平庸也更常见的场景。
一个疲惫的分析师,一个方便好用的工具,一份看起来天衣无缝的报告,一条从生成到分发极快的传导链。任何一个环节偷了懒、出了错、少了核查,两个核大国就可能被稀里糊涂推到军事对抗的门口。
![]()
为啥偏偏是中国船?除了AI这件事本身,还有一层背景值得咱们琢磨。为啥被AI"点名"的偏偏是一艘中国商船?
这几年美方在中东、印太多个方向上,对与中国相关的商船货轮跟踪、临检的动作明显变多。就在CNN这条爆料前后,Politico还报道了另一起事:美国F-35战机的敏感隐身部件在运输途中"意外"流向了香港,眼下下落成谜。这些散点连起来看,把中国往"扩散嫌疑方"上按的叙事惯性,正在美军情报系统里悄悄成型。
![]()
AI的错误分析之所以能险些误导美军,恰恰因为分析人员对AI给的结论毫无戒心。工具本身没啥立场,问题出在用工具的人和管人的制度上。
当一个组织内部形成了"AI说了算、人只负责走个流程"的惯性,AI就从辅助滑向了主导。
![]()
美军现在面对的正是这种角色错位。
AI从"提供参考"越来越像"替人拍板",可拍板出了事之后的问责,却含糊得很。从算法到指挥官,中间还剩几个人?情报圈有句老话:情报的价值不在于快,而在于准。
赫格塞思推的这套加速战略,恰恰把"速度"抬到了压倒一切的位置。当一份AI报告从生成到上传只要几分钟,指挥官从阅读到下令又只要几分钟,中间原本承担"多问一句、多查一遍"职能的人类环节就被压缩了。
这次是官员在最后一秒多看了一眼救了场。下一次呢?下一次那位官员,还会不会有时间、有意愿、有权限去多看那一眼?
![]()
这件事最让我们不安的地方,是那份假情报险些针对的对象,不是一般国家的一般船只,而是核大国的商船。中美之间几十年积累下的战略稳定框架,靠的就是双方在核心利益上互相摸清红线,留出缓冲。
可AI把"误判"压成几秒钟就能触发的动作,缓冲就没了。真要武装登临那艘中国船,事情会往哪儿走,没人敢打包票。这种性质的红线,绝不能交给一个会"幻觉"的聊天机器人来判断。
![]()
这跟美方那种"先跑起来再说"的做派,完全是两种思路。
![]()
CNN这条独家播出后,美国国内的讨论也在发酵。已有议员放话,要求国防部就AI在情报生成中的使用范围和验证流程开专项听证。可从赫格塞思战略推进的力度看,短期内很难看到刹车。
相反,五角大楼还在加大对AI初创公司的采购和合作,把更多商用大模型往军用方向搬,这就意味着,类似的中国船事件,未来完全可能换个形式再演一遍。区别只在于,下一次挡住它的,会不会还是"某个官员多看了一眼"这样的偶然。
![]()
回头看这起事件,让我们真正睡不着觉的是:拦住一场潜在中美武装冲突的,居然只是一个人临时起疑的直觉,不是任何一道制度化的验证程序。这种靠偶然撑起来的安全太脆弱了。
技术可以加速,但战争的门槛不能被算法拉低。工具可以升级,但人对武力使用的敬畏心不能被便利消解。对中国来说,这次爆料既是警示,也是机会。
把"智能向善"四个字讲得更清楚,把中国方案推得更实在,别让下一艘被AI看走眼的船,等不到那个多看一眼的人。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.