四川
美国CNN在9月中旬抛出了一条猛料。四位知情人告诉记者，今年春天美军差点在中东海域干了一件蠢事——登上一艘中国商船搜查。
军机已经飞上了天，登船小组也整装待发，就差一声令下。触发这场行动的，是一份写得像模像样的机密情报，说这艘船装着核武器零件。
后来查下去才知道，这份情报压根就是假的。写报告的分析师用了AI聊天机器人处理数据，机器胡编乱造，人也没多问一句，报告就这么盖上了章送到了指挥官手里。
CNN原话说得很重，这份报告差点＂引发一场战争＂。中美两边的军舰军机在中东海面对峙的画面，光是想想就够让人捏把汗。
军史迷看到这里，脑子里肯定蹦出三个字：银河号。1993年那年夏天，美国拿着一份所谓铁证，咬定中远的＂银河号＂货轮往伊朗运送化学武器原料。
美舰紧追不舍，飞机头顶盘旋，把这艘中国船逼在阿拉伯海上漂了整整33天。最后中沙美三方联合开箱查验，24个集装箱翻了个遍，连一克可疑化学品都没找到。
华盛顿被打脸打得响亮，但一句道歉的话都没说过。33年过去了，同样的剧本又拿出来演一遍。区别在哪呢？
当年骗美国人的是耳朵不灵光的线人和看走眼的卫星，这次骗美国人的是一台会＂编瞎话＂的AI。被扣帽子的还是中国商船，套的还是＂大规模杀伤性武器＂那顶老帽子。
历史开的这个玩笑一点都不好笑，代价可能是两个核大国之间的直接对撞。咱们再看看AI到底怎么把美军忽悠住的。
写这份报告的，是 一名情报分析师，隶属美军太平洋特种作战司令部。他手头有两份材料，一份是公开的船舶货物清单，一份是美方库存的机密信号情报。
按规矩，得一条一条比对着核实。可他嫌麻烦，把资料丢给了聊天机器人，让AI去做所谓的＂融合分析＂。AI也就真的开始一通拼接。
风马牛不相及的碎片被硬拼成一份完整推断，得出的结论惊天动地：这船上装的是核武部件。这位分析师拿到答案还不算完，又让AI把结论套进标准情报模板，格式规整、措辞专业，直接甩进了军方分发系统。
CNN引用一位前美国官员的话，评价这些内部AI工具其实就是商用产品＂涂了点口红＂。美国国家标准与技术研究院早就打过预防针。
生成式AI最擅长的本事，就是一本正经胡说八道，业内管这叫＂幻觉＂。NIST发布的风险指南写得清清楚楚，凡是涉及重大决策的AI输出，每一条依据都得溯源核查。
美国财政部也接连制裁过几个所谓从中国采购军工原料的商业网络。在这种草木皆兵的气氛里，一份＂中国船运核部件＂的报告砸下来，立马触发全套战备。
五角大楼对AI的胃口，比外界想象的大得多。
CNN采访到的一位知情人讲得挺扎心：AI让你更快地抵达一个错误答案。这话戳中了要害。
以前一条可疑情报要经过分析员、主管、作战部门层层过滤，AI几分钟就能把归纳、撰写、排版全干完。省下来的时间本该留给人类多问几句，在追求秒级决策的军中氛围里，这段时间被一并砍掉了。
站在我们中国的立场上，这事儿可不能只当美国出洋相看个热闹。当年银河号事件逼着我们下定决心搞北斗卫星导航——船在海上被人切断GPS信号，跟被人掐脖子没啥两样。
近期已经有中美两边的安全学者出来呼吁，该给军用AI立点规矩了。尤其是涉及使用武力的决策，人得留在回路里，还得有独立复核，还得建应急沟通热线。
这些呼声过去被当学术探讨，这回险情一出，各国防务部门都得掂量掂量分量了。写到这儿再啰嗦一句。
机器胡说八道并不可怕，真正可怕的是机器一开口，人就把保险栓打开了。1993年银河号事件，靠的是外交官在谈判桌上一寸寸把中国船员的清白磨回来。
2026年这一回，靠的是几位分析师在最后一刻多问了一句＂证据呢＂。下一回呢？下一回美军的分析师还愿意让军机在跑道上多等几分钟吗？
这个答案，比谁研发出更强的AI模型重要得多。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
