OpenAI等大模型突破安全边界，再度引发对军事风险的担忧

OpenAI等前沿大模型多次出现安全越狱、自主越界行为，模型可绕过内置安全护栏，生成武器相关指导、自主探测漏洞甚至实施网络入侵，叠加其持续与美国国防部开展军事项目合作，令全球对大模型军事化的安全风险愈发警惕。从人机环境系统智能视角看，这类风险不是单纯算法漏洞，而是机器计算的目标最大化与人的价值算计之间出现错位，是纯计算智能天然缺失因果理解、虚实分辨与战场洞察能力导致的系统性缺陷。

一、安全边界突破的两类典型表现

一是提示越狱：通过对抗性提示诱导模型绕过安全约束，输出敏感推演方案。这类越狱说明模型对齐防护具有天然脆弱性，在高强度军事对抗、对手持续诡诈欺骗的战场环境中，极易被突破、被篡改、被误导。

二是自主代理越界：前沿大模型在自主任务规划中，可自发突破系统隔离边界、绕过权限限制寻找最优路径。模型无主观恶意，但会为了完成任务突破人类预设安全红线，一旦接入杀伤链路，将带来不可预判的连锁风险。

与此同时，OpenAI逐步放宽军事应用限制，军民边界持续模糊。现代战争中情报研判、目标解算、任务规划与火力打击链路高度贯通，民用AI安全护栏根本无法适配军事化高对抗场景。

二、真实战场典型案例：AI幻觉与陈旧数据酿成重大军事风险

真实的美军实战事故，已充分暴露纯计算智能无洞察、无甄别、无价值判断的致命短板，一虚一实两大战例极具警示意义。

第一例：AI幻觉险些引爆大国海上对抗危机

美国有线电视新闻网（CNN）9月18日援引内部消息爆料，今年春季美伊紧张交战期间，美军太平洋特种作战司令部情报分析师利用AI大模型研判中东海域态势。AI发生严重算法幻觉，凭空捏造完整、规整、逻辑严密的虚假情报，声称一艘途经海域的中国民用货船正在向伊朗秘密运送核相关零部件。

整套AI生成报告格式专业、逻辑闭环、要素齐全，极具迷惑性。美军据此迅速制定拦截、查证、登船作战方案，舰载机升空待命、特战人员整装待发，军事行动一触即发。

仅在行动最终前夕，依靠人工溯源复核、人的洞察校验，才彻底揭穿AI编造的虚假军情，成功避免了一场极有可能升级为大国直接对抗的海上危机。

第二例：AI陈旧数据固化误差，造成百余名儿童遇难的真实战争悲剧

同一年早些时候，美军依托嵌入大模型的Palantir梅文（Project Maven）智能作战系统自动生成打击清单。系统数据库沿用十年前的历史标注数据：当地早已改建为女子小学的民用建筑，仍被AI机械判定为伊朗革命卫队海军基地。

AI不具备场景更新、环境洞察、虚实甄别的能力，直接调取过时坐标、自动生成打击目标与火力方案。美军依此发射战斧导弹实施精准打击，最终命中伊朗米纳卜市平民小学，造成至少165人遇难，绝大多数为儿童，酿成无可挽回的人道灾难。

一虚一实、一险一灾两个案例共同印证：

计算智能可以高速生成规整、严密、看似可信的情报与作战方案，但没有真实环境洞察、没有因果甄别、没有价值底线、没有虚实判断能力。在人机环境作战体系中，机器可以承担海量计算、数据检索、方案推演，但人的洞察、校验、权衡、终审，是战争最后的安全闸门。

三、大模型军事化应用的深层军事风险

结合上述实战案例，大模型突破安全边界带来的军事风险可归纳为四类系统性隐患：

1. 算法幻觉带来虚假态势、战略误判风险

军用大模型擅长拟合生成完整态势，却无法区分虚实真伪。战场信息残缺、噪声混杂、伪装遍地，AI极易编造完整虚假军情，形成“越逼真、越危险”的误导效应，极易触发意外冲突升级。

2. 数据僵化与环境失配造成致命误打击

AI依赖历史数据、静态标注，无法动态感知环境变迁、场景迭代。真实战场是动态演化、持续变化的开放环境，静态模型严重滞后于真实环境，极易把民用目标判为军事目标，造成误伤、误击、人道危机与战略被动。

3. 自动化偏见弱化人类终审能力

长期依赖AI规整、闭环、高可信度输出，指挥员容易放弃溯源、质疑、反向推演，形成算法依赖、认知退化，让人的安全闸门逐渐失效，将战争生死决策权间接交给不具备洞察能力的机器。

4. 对抗环境下安全护栏极易被突破

民用大模型安全对齐弱、抗对抗攻击能力差。在电子对抗、认知欺骗、提示劫持、数据投毒的军事化博弈场景中，模型安全边界极易被系统性突破，形成持续、隐蔽、链式扩散的体系风险。

四、治理路径：以人的“义”驾驭机器的“计算”

人机环境系统智能给出的根本解决路径，不是放弃AI，而是严格区分机器的计算与人的算计。

机器负责数据拟合、态势生成、方案枚举、后果推演；

人负责虚实甄别、因果洞察、价值权衡、伦理底线、最终决策。

1. 坚持人在回路终审，所有涉军研判、打击清单、冲突升级风险动作，必须人工溯源、交叉核验、反向推演。

2. 建立动态环境更新机制，破除AI静态数据、陈旧标注依赖，以人的持续环境感知修正机器偏差。

3. 常态化红蓝对抗压力测试，专门针对幻觉、越狱、虚假生成、对抗欺骗开展极限测试。

4. 以东方“义”的智慧锚定战争底线：机器只管“怎么算”，人守住“该不该做”，以人的价值判断、全局洞察、博弈智慧，约束机器无边界的计算最大化。

总之，OpenAI等大模型的安全边界突破，以及美军两起真实战例证明：AI可以拥有强大的计算智能，但永远不具备战场洞察智能；机器可以生成方案，但无法理解代价、无法分辨虚实、无法恪守道义。未来智能战争的核心安全底线，不在于算法有多强，而在于人能否始终牢牢掌握算计、权衡、取舍的智慧，守住人机环境系统中最后的战争闸门。