人工智能飞速发展对国防科技带来的安全风险及应对之策

文/高东广

本文作者高东广

当前，人工智能技术迭代速度持续加快，全面渗透国防科技研发、装备迭代、作战应用、体系建设全链条，成为重塑未来战争形态、变革国防科技格局的核心驱动力。人工智能在赋能国防科技智能化升级、提升军事作战效能、推进未来产业变革的同时，也催生了技术漏洞、数据泄密、作战失控、战略失衡等新型安全风险，对我国国防科技安全、军事体系安全、国家战略安全构成全方位、深层次挑战。本文从技术体系、数据安全、作战应用、战略格局四个维度，系统梳理人工智能赋能国防科技发展过程中的核心安全风险，结合大国军事竞争态势与我国国防建设实际，提出针对性、体系化的防控对策，为我国国防科技智能化安全发展、防范化解智能军事领域安全隐患、掌握未来战争战略主动权提供理论支撑与实践参考。

新一轮科技革命与军事革命深度叠加，人工智能作为颠覆性、通用性、战略性核心技术，已成为国防科技现代化建设的核心引擎，深刻改变传统国防科研模式、武器装备形态与作战制胜机理。从智能无人装备、算法辅助决策，到国防科研智能推演、军事后勤智慧保障，人工智能全面融入国防科技各领域，大幅提升了国防体系的精准化、高效化、自主化水平，推动未来战争向智能化、无人化、精准化方向深度演进。但人工智能技术具备“双刃剑” 属性，其快速普及与深度应用打破了传统国防科技安全防护体系的边界与规则。相较于传统军事技术风险，人工智能引发的国防科技安全风险具有隐蔽性强、传导性快、全域性广、不可预测性高的突出特征，各类新型风险交叉叠加、动态演化，极易引发国防技术失稳、军事数据泄露、作战行动失控、战略格局失衡等重大安全问题。在大国博弈日趋激烈、智能化军备竞赛持续升级的背景下，精准识别人工智能赋能国防科技的各类安全风险，构建科学完善的风险防控体系，筑牢国防科技智能安全屏障，已成为新时代国防科技建设与军事战略布局的重大课题。

人工智能飞速发展给国防科技带来的核心安全风险

（一）技术体系风险：算法漏洞与技术依赖引发底层安全隐患

算法是人工智能的核心支撑，也是国防科技智能化应用的底层基石，当前我国军事人工智能技术体系仍存在诸多结构性、基础性安全隐患。一方面，算法固有缺陷风险突出。军事智能算法普遍存在黑箱特性、模型泛化能力不足、抗干扰性薄弱等问题，在复杂战场电磁干扰、环境突变、突发对抗场景下，极易出现算法误判、决策偏差、模型失效等问题。同时，敌方可通过算法投毒、样本污染、对抗性攻击等新型手段，篡改军事智能模型参数，导致无人作战装备失灵、辅助决策系统出错，直接影响战场研判与作战指挥。此外，人工智能“算法幻觉” 问题在军事领域尤为突出，智能系统可能虚构战场数据、研判结论，误导军事决策，引发战术失误甚至战略误判。

另一方面，核心技术依赖风险严峻。当前高端军事人工智能芯片、底层算法框架、高精度训练组件等核心软硬件，仍存在一定的外部依赖，关键核心技术自主可控率有待提升。在国防科技智能化研发、装备迭代过程中，外部技术供应链的不确定性，极易引发技术卡脖子、后门植入、远程操控等安全隐患，一旦遭遇技术封锁、供应链攻击，将直接导致国防智能装备瘫痪、科研体系停滞，威胁国防科技体系完整性与安全性。同时，军事智能技术快速迭代，现有国防技术标准、防护体系更新滞后，无法适配新型技术风险防控需求，技术体系防护漏洞持续存在。

（二）数据安全风险：全域数据泄露与污染动摇国防科技根基

数据是人工智能训练迭代的核心资源，国防领域涵盖装备参数、科研数据、战场情报、兵力部署、作战预案等海量高密级数据，智能化应用过程中的数据流转、存储、训练、共享行为，催生了全方位数据安全风险，成为国防科技安全的薄弱环节。

一是数据泄露风险。国防智能系统的互联互通特性，打破了传统军事数据封闭隔离的防护模式，跨领域、跨平台、跨区域的数据传输共享常态化，大幅拓宽了数据泄露渠道。敌方可利用网络渗透、漏洞攻击、深度伪造、社工攻击等手段，窃取国防科研核心数据、智能装备核心参数、军事训练机密数据，破解我方智能算法逻辑与作战体系短板，掌握战场信息主动权。同时，内部人员操作不规范、智能设备管控不严、数据权限滥用等问题，也极易引发内部数据泄密隐患。

二是数据污染风险。人工智能模型的精准度完全依赖训练数据质量，敌方可通过投放虚假数据、篡改真实数据、干扰数据采集等方式，实施数据污染攻击。被污染的数据集将直接导致军事智能模型训练失真、研判失准、决策失效，造成智能侦察识别失误、无人装备作战偏差、战略推演结果失真，从源头破坏国防智能体系的可靠性与精准性。此外，海量国防数据的分级分类管理、溯源监管、销毁机制尚不健全，部分涉密数据留存失控、复用无序，进一步放大数据安全隐患。

（三）作战应用风险：人机协同失衡与自主失控加剧战场不确定性

人工智能与武器装备、作战体系的深度融合，重塑了作战模式与战争形态，但同时引发人机协同紊乱、自主武器失控、作战规则失序等新型作战安全风险，大幅提升智能化战争的对抗风险与失控概率。

首先，人机协同异化风险。当前军事智能化应用存在过度依赖算法、弱化人工干预的倾向，部分智能作战系统逐步弱化“人在回路” 的核心管控作用。在复杂战场对抗环境中，强电磁干扰、多域突发对抗、复杂地形气象条件下，智能系统自主决策能力大幅下降，若人工干预滞后、权限失效，极易出现作战行动失控、装备误击误判、战术执行偏差等问题，引发非预期作战冲突。

其次，自主武器失控风险。致命性自主武器、无人机蜂群、智能弹药等新型装备快速列装，具备自主搜索、识别、打击目标的能力，其作战决策完全依托算法运行。算法漏洞、外界干扰、程序异常等问题，可能导致自主武器脱离指挥管控、随意发起攻击，引发战场误杀伤、冲突升级等恶性事件。同时，敌方可通过技术劫持、算法破解等方式，反向操控我方智能无人装备，使其反噬我方作战体系，造成战场被动。

最后，新型欺骗对抗风险。基于人工智能的深度伪造技术可伪造战场影像、指挥指令、兵力动态，制造虚假战场态势，干扰我方指挥决策体系。同时，AI驱动的隐蔽式网络攻击、无人蜂群突袭、多维混合渗透等新型作战样式，突破传统战场防御体系，让国防作战防御面临无边界、隐蔽化、突发性的安全威胁。

（四）战略格局风险：智能军备竞赛引发国防战略失衡

人工智能的军事赋能属性，使其成为大国军事竞争的核心焦点，全球智能化军备竞赛持续升温，深刻改变传统国防战略平衡格局，给我国国防战略安全带来系统性风险。

一是战略攻防失衡风险。人工智能技术大幅放大了军事进攻优势，相较于传统防御体系，智能进攻具备速度更快、隐蔽性更强、成本更低、突破能力更强的特点，打破了传统战争“攻防平衡” 的基本规律。各军事强国加速布局智能作战体系、自主武器系统、算法辅助战略决策体系，优先抢占智能化军事竞争制高点，使得被动防御方的战略威慑能力、防御抗压能力被弱化，全球军事战略攻防格局持续失衡。

二是军备竞赛升级风险。各国持续加大军事人工智能研发投入，竞相布局无人作战、智能对抗、算法战略推演等前沿领域，推动智能化军备竞赛持续升级。这种无序竞争不仅加剧全球军事对抗风险，也迫使我国加快国防科技智能化迭代节奏，国防科研、装备建设、体系升级的压力持续增大。同时，全球尚未形成统一的军事人工智能治理规则，自主武器使用、算法军事应用、智能对抗边界缺乏有效约束，极易引发误判冲突、摩擦升级，威胁国家战略稳定。

三是战略认知博弈风险。在智能战略推演、态势研判领域，敌方可利用先进算法构建虚假战略态势，误导我方战略判断，干扰国防战略布局与军事决策，引发战略层面的误判失误，影响国防科技长远发展规划与国家安全战略落地。

人工智能赋能国防科技安全发展的应对策略

（一）筑牢技术自主根基，构建安全可控的智能技术体系

核心技术自主可控是防范人工智能国防科技风险的根本保障。一是攻坚核心关键技术。聚焦军事人工智能底层算法、高端芯片、专用框架、核心组件等“卡脖子” 领域，整合国防科研院所、军工企业、高端智库科研力量，设立专项攻关课题，集中资源突破自主可控军事智能技术体系，构建自主知识产权的军事算法库、模型库、技术库，彻底摆脱外部技术依赖。

二是完善技术安全防护体系。针对军事智能算法黑箱、漏洞缺陷、抗干扰弱等问题，大力发展可解释人工智能、可信人工智能、抗对抗攻击技术，优化军事智能模型架构，提升算法稳定性、可靠性、抗干扰性。建立军事智能技术全流程测试、验证、迭代机制，常态化开展算法漏洞排查、风险检测、攻防对抗演练，从技术源头化解算法失效、模型失控风险。

三是健全技术标准规范。结合国防科技智能化发展需求，制定军事人工智能研发、应用、运维、安全的统一标准规范，明确技术准入门槛、安全底线、运维要求，构建标准化、规范化、法治化的军事智能技术应用体系，补齐技术管理短板。

（二）强化数据全链管控，构建涉密国防数据安全防护体系

坚守数据安全底线，构建采集、传输、存储、训练、销毁全生命周期数据安全管控体系。一是严格分级分类管理。对国防科研数据、装备数据、战场数据、涉密军事数据实施分级分类管控，明确不同层级数据的使用权限、传输范围、保密要求，严格落实最小权限原则，杜绝数据无序流转、越权使用。

二是搭建智能防护屏障。运用加密传输、数据脱敏、溯源追踪、区块链存证、动态监测等技术，构建国防数据智能安全防护系统，实时监测数据泄露、篡改、污染、窃取等异常行为，实现风险自动预警、快速处置。建立军事数据溯源追责机制，实现数据全流程可追溯、可管控、可问责。

三是规范数据训练与复用。建立涉密军事数据筛选、审核、净化机制，严格把控人工智能模型训练数据质量，常态化开展数据清洗校验，防范数据污染引发的模型失真问题。同时，严控涉密数据对外开放、共享复用，严禁高密级数据用于通用AI模型训练，筑牢数据安全防线。

（三）优化作战应用管控，健全人机协同安全作战机制

聚焦智能化作战风险防控，规范人工智能军事应用场景，完善作战管控体系，实现智能赋能与安全可控双向统一。一是坚守人在回路核心原则。明确所有军事智能作战系统必须保留人工干预、紧急关停、权限接管通道，严禁全自主、无管控的高危智能作战模式，牢牢守住人类掌控战争的核心底线，杜绝智能装备失控、误判、误击风险。

二是构建实战化攻防演练体系。搭建军事智能攻防对抗演练平台，常态化开展算法对抗、数据攻击、无人装备反制、深度伪造识别等实战化演练，锤炼部队应对智能作战风险的处置能力，提升人机协同作战、应急管控水平。

三是规范智能装备应用管理。完善智能无人装备、自主武器系统的列装测试、日常运维、实战应用管理制度，建立全生命周期安全风险评估机制，定期开展装备漏洞排查、性能校验、风险整改，确保智能作战装备安全可控、可靠可用。

（四）完善战略治理体系，维护智能化时代国防战略平衡

立足大国博弈全局，统筹发展与安全，构建全方位、多层次的军事人工智能战略治理体系。一是强化顶层战略布局。立足未来智能化战争形态，完善国防科技智能化发展战略规划，统筹智能技术研发、装备迭代、人才培养、风险防控一体化建设，精准布局前沿军事智能领域，抢占未来军事竞争战略主动权。

二是健全国内治理制度。出台军事人工智能安全管理条例、伦理规范、应用准则，明确智能军事技术应用边界、责任主体、监管机制，规范智能军备发展、算法军事应用、无人装备作战使用，杜绝无序发展、滥用误用风险。建立第三方安全评估认证机制，常态化开展军事AI风险研判与合规审查。

三是积极参与全球治理。主动参与国际军事人工智能规则制定，深化国际战略沟通与安全协作，倡导构建公平公正、安全可控、有序规范的全球军事智能治理体系，抵制无序军备竞赛，化解战略误判风险，维护国家国防战略安全与区域和平稳定。

人工智能引领的军事智能化革命，是新时代国防科技发展的重大机遇，同时也带来了技术、数据、作战、战略多维度的新型安全风险，对我国国防科技安全建设提出了全新挑战。新形势下，必须始终坚持统筹发展和安全，既要抢抓人工智能技术变革机遇，加速国防科技智能化转型升级、赋能未来战争制胜能力提升；更要清醒研判各类安全风险的演化规律，立足国防建设实际，从核心技术攻坚、数据全链管控、作战应用规范、战略治理完善四个维度持续发力，构建全方位、立体化、体系化的风险防控体系，有效防范化解智能军事领域安全隐患，牢牢掌握智能化战争主动权，为新时代强军事业、国防科技高质量发展筑牢安全屏障。

（作者系著名军事战略专家，研究员，博导。军委后保部发展规划委员会专家委员。中国钱学森军事系统工程研究院首席军事专家，国家安全政策委员会高级研究员，国防发展战略专业委员会秘书长，《解放军报》《国防参考》《中国青年》等报刊特邀评论员，中关村军民融合信息装备产业促进会发展战略委员会主席，多所大学特聘荣誉教授或军事专家）