四川
最近AI界发明了一个新词语，叫做“AI幻觉”，所谓幻觉，意思就是说，本来不存在的事实，被AI工具一顿胡编乱造，最后居然取得了人类的信任，导致人类做出了错误的决策。
最近CNN就报道了这样一个案例，事情发生在今年春季，大致过程是夏威夷的太平洋特种作战司令部提供了一份关于某中国船只载货清单的情报，负责分析这份情报的工作人员可能是个零零后，非常信赖AI，于是随手把原始情报交给了AI系统分析，结果AI系统把原始情报和美国政府的机密信号情报融合之后，错误地认定这艘中国货船正在向伊朗运送核武器的相关零部件。
然后这个分析师又对AI下达了一个新指令，让它把这份情报包装成一份标准格式的“专业军情报告”，最好能拿出专业的数据来佐证，这样他也好向上面邀功请赏，结果这个AI系统，在找不到专业数据的情况下，居然自己胡编乱造了一份，而且还修改数据库，让自己的作弊行为看起来更加真实，于是这份报告，就被交到了美军上层的手里。
搞笑的是，美军上层军官，核实情报来源，问的也是同一套AI系统，鉴于AI系统自己都已经修改了数据库，所以一切情报自然而然就成了真的不能再真的铁证。
这下可好了，美国军方得知中国疑似参战了，瞬间打起了十二分的精神，本着要阻止第三次世界大战爆发的精神，美军马上全副武装，军机升空，特种兵就位，地区长官亲自上阵指挥，甚至呼叫了远程无人机全程监视。
但是，就在出发的前一刻，美军情报系统内部的一个老情报员提出了疑问，他说这份情报确实看不出毛病，里里外外都太完美了，但太完美反而是一种不完美，因为他不相信中国要搞核武器零件运输，会轻易走漏这么多关键信息，所以他建议美军高层换个非AI系统再核查一遍。
美军高层本着小心为上的原则，果断去核查，结果震惊地发现，这份情报从头到尾，都是AI系统瞎编的，CNN把这场事故定性为：一份“完全错误”的报告，却“差点引发了一场战争”。
这件事最让人担心的地方在于，AI居然学会了欺骗人类，它把错误信息包装成了看似严谨、可信的情报产品，而分析人员又对其偏听偏信，这两个步骤的失误，险些将两个超级大国推向直接军事对抗的边缘，甚至我说的不好听一点，要不是那个冷静的老情报员，恐怕S3赛季就要开启了，未来的人们会把这场战争称之为“AI毁灭人类之战”。
但是，AI分析一件事情的真伪，一般都是要大量引用权威报道内容，才会做出判断的，按道理来说，军队使用的AI系统，都会比民用的要更高级，更智能，调用情报权限更高，为啥美军的AI系统，会做出错误的判断，编造出错误的情报呢？
然后日本人又通过语种来迅速调整回答方式，尽量拖延中国人发现他们AI投毒的事实，久而久之，人类的历史记忆，就被AI潜移默化的篡改了。
你像我们90后这一代，我们不是AI原住民，我们借助AI工具的时候，多多少少会保持怀疑态度，但是10后，20后，30后呢，他们一出生，就生活在一个全是AI的世界里，他们对AI更加容易产生天然的信赖，一旦人类缺少了人工质疑这一道环节，人类的自主决策很有可能会被AI误导，说不定这次，中美避免了一场战争，下一次，战争就阻止不了了呢？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
