问答 | 关于军事领域的人工智能技术|武器|计算机|通信技术|世界人工智能大会

分享至

当前，围绕人工智能等新兴技术在战争中的研发与部署，正在进行一场军备竞赛。这些技术非但未能使战场上的平民更加安全，反而常常增加他们面临的风险，并带来严重伤害。

什么是军事领域人工智能？

军事领域人工智能，是指将人工智能应用于军事系统和军事行动之中，包括自主武器系统、军事决策支持系统、网络行动与网络能力、后勤保障，以及监视侦察和情报分析等领域。

国际人道法是否适用于战争中的人工智能？

是的。国际人道法适用于所有作战手段和作战方法，包括人工智能技术的使用。任何使用武力行为都必须遵守国际人道法的基本原则和规则，例如区分原则（即区分平民和民用物体与战斗员和军事目标）、比例原则以及预防措施原则。

红十字国际委员会为何担忧人工智能在军事领域的使用？

红十字国际委员会担忧人工智能在军事领域的使用会加快战争节奏，扩大战争规模，增加不可预测性，并削弱人类对武力使用的控制，从而给平民带来严重风险。

在存在敌意的环境中，人工智能系统尤其容易出错。对手可能通过篡改数据或利用系统漏洞等蓄意行为欺骗或操控系统。

红十字国际委员会强调应坚持以人为本的原则，因为在涉及武力使用的决策中，承担法律责任的始终是人，而非机器。人类的判断对于确保遵守国际人道法和保护平民至关重要。因此，人工智能系统应当为人类决策提供支持，而非予以削弱或取代。

人工智能在军事领域的哪些主要应用引发了特别关切？

红十字国际委员会认为，人工智能在军事领域的以下三类应用存在重大风险：

自主武器系统：这类系统一旦启动，便能够在无需进一步人为干预的情况下，自主选择并攻击目标。
人工智能决策支持系统：这类系统通过处理海量数据来辅助军事决策。然而，由于其固有的不可靠性和不可预测性，加之使用者对系统输出结果的过度依赖，此类系统也伴随着相应风险。
信息与通信技术中的人工智能：人工智能正日渐用于网络行动并整合至网络能力中。这不仅可能扩大网络攻击的规模，还可能改变其性质与严重程度，尤其会加剧对平民及民用基础设施的不利影响。

为军事行动提供支持的科技企业，可否成为军事目标？

根据国际人道法，科技企业及其员工原则上属于民用物体和平民，应受保护免遭攻击。然而，如果企业人员从事某些特定活动，或企业财产被用于特定用途，这种保护可能会丧失。例如，当科技企业的特定基础设施或服务被冲突一方用于对军事行动作出实际贡献，并且在当时的具体情况下，对其全部或部分毁坏、缴获或使其失去效用，能够为对方带来明确的军事利益时，该基础设施或服务即可构成军事目标。

因此，红十字国际委员会呼吁科技企业认真评估其产品和服务在武装冲突中可能被应用的方式，并主动采取措施，避免助长违反国际人道法的行为，最大限度降低其技术可能给平民带来的风险。

自主武器系统是什么？

自主武器系统，是指一旦启动便能在无需进一步人为干预的情况下，选择目标并对其使用武力的武器系统。

“无需进一步人为干预”，是指在操作人员启动系统后，该系统能够利用传感器从周围环境中获取信息，例如探测热量、光线、运动、形状、速度或其他信号，并将潜在目标与概括性的“目标描述”进行匹配，例如军用车辆的外形、红外或雷达特征，或运行速度等。

并非所有自主武器系统都采用人工智能技术。这类系统可能相对简单，也可能高度复杂；它们可能依赖或不依赖人工智能，包括机器学习（作为一种人工智能系统，其特点是能够从数据中学习规律，并利用这些规律完成特定任务）。例如，防空系统可以被视为自主武器系统，但这类系统通常使用基于规则的软件，而非人工智能。

红十字国际委员会对于将日益复杂的人工智能纳入自主武器系统这一明显趋势深表关切，这可能进一步加剧对系统效果不可预测性的担忧。其他一些武器系统虽然采用了人工智能技术，但并不属于自主武器系统。例如，软件可能仅用于执行监视或导航等功能。而人工智能决策支持系统可以为武器系统提供信息输入，但只要最终决策仍由人类作出，该系统便不属于自主武器系统。

自主武器系统会带来哪些风险？

自主武器系统能够在无需人为干预的情况下选择目标并对其使用武力，使用者因此难以预测和控制后果。这种不可预测性增加了国际人道法下发生不分皂白的攻击或其他违法攻击的风险。自主武器系统难以区分平民与战斗员、识别受伤人员或投降的士兵，或解读复杂情境。

红十字国际委员会尤其担忧自主武器系统在复杂环境中的部署和使用，特别是在人口稠密地区。在此类环境下，区分军事目标与平民及民用物体的难度显著增加。

红十字国际委员会为何对“杀伤人员”自主武器系统尤为关切？

杀伤人员自主武器系统是指能够直接选择并攻击人类的武器。

红十字国际委员会认为，这类系统尤其令人担忧，因为在武装冲突中，表明一个人身份地位的各种信号——例如，此人是否投降、是否受伤，或是否直接参与敌对行动——高度依赖具体情境，因此机器系统极难准确识别。此外，一个人的身份地位可能在短时间内迅速发生变化，一旦判断错误，往往会造成悲剧。

因此，很难设想在现实作战环境中，使用针对人员的自主武器系统不会带来违反国际人道法的重大风险。

此外，将关乎生死的决定实际上交由机器作出，还涉及深刻的伦理关切。唯有人类才能认识和理解生命的内在价值。

杀伤人员自主武器系统的运行过程是将人简化为数据点。这与任何人都不应被物化这项基本原则相悖。

其他杀伤人员武器（如杀伤人员地雷）的使用经验表明，即使这类武器理论上可以按照国际人道法的要求使用，但在现实中，往往并非如此。因此，全面禁止此类武器是最为务实且有效的解决方案。这样既能够为军队提供明确且可靠的规范，也能够为战斗员和平民提供必要的保护。

红十字国际委员会为何现在呼吁开展谈判？

显而易见的是武器系统正朝着更高自主化方向发展，其使用范围也在不断扩大。如果国际社会未能及时采取行动，划定明确的法律与伦理边界，不可接受的自主武器系统便可能被研发出来并广泛扩散。一旦大规模部署，这类武器对平民及全球安全所造成的风险将更加难以控制。

将于2026年11月16日至20日召开的《特定常规武器公约》第七次审议大会，为各国启动谈判提供了一次重要契机，以制定一项具有法律约束力的新文书来规范自主武器系统。

红十字国际委员会认为需要制定哪些法规？

关于自主武器系统，红十字国际委员会呼吁各国通过谈判制定一项具有法律约束力的国际文书，以实现以下目标：

禁止不可预测的自主武器系统：即无法充分预测或有效控制其使用效果的自主武器系统，在使用非确定性人工智能的系统中尤其如此。
禁止杀伤人员自主武器系统：即在设计上或实际使用中直接以人为攻击目标的自主武器系统。
限制其他所有自主武器系统的研发和使用：包括限制其可攻击目标的类型，以及限制其使用的地理范围、持续时间、适用情境和规模。

2024年，红十字国际委员会向联合国秘书长提交了意见文件，供其审议如何应对自主武器系统在人道、法律、安全、技术和伦理等方面所引发的挑战与关切，以及人类在武力使用中的作用。

红十字国际委员会对人工智能决策支持系统提出了哪些建议？

为应对武装冲突中人工智能决策支持系统带来的相关风险，红十字国际委员会提出了16项初步建议。这些建议强调，必须确保人类始终保有判断权和控制权。其中，主要措施包括：

确保开展严格的测试、评估、核查与验证，以及法律审查；
使用可靠且高质量的数据；
降低偏差和歧视性结果的风险；
确保人类能够切实参与，并有权对人工智能的输出内容提出质疑；
加强使用者培训，包括针对自动化偏差问题的培训；
开展行动后评估

红十字国际委员会还强调，必须禁止人工智能的某些用途，例如用于核指挥与控制系统，或用于直接以人为目标或会产生不可预测效果的自主武器系统。

这些建议遵循“以人为本”的原则，旨在确保人工智能系统为人类决策提供支持，而非予以削弱或取代。

什么是网络行动？

“网络行动”是指在武装冲突背景下作为作战手段或方法而使用的，通过数据流对计算机、系统/网络或其他互联设备开展的行动。简而言之，就是利用计算机对其他计算机系统、网络或数据造成损害的行为。

存在哪些相关关切？国际人道法有何规定？

网络行动不仅可能扰乱民用服务、基础设施和数据，还可能造成其瘫痪或遭受物理损害。此类行动也可能造成人员伤亡，以医院为例，当网络行动导致医疗设备失灵、数据丢失或电力中断时，就可能造成此类后果。

国际人道法对武装冲突中的网络行动施加了限制。红十字国际委员会通过双边和多边方式与各国及黑客团体开展合作，确保对现有国际人道法规则的解释与适用能够充分保护平民及民用基础设施与数据，包括医疗机构和人道组织。然而，若现行国际人道法规则在信息与通信技术领域的解释方式削弱了其保护功能，则有必要制定额外规则，以强化现有法律框架。

为军事行动提供支持的科技企业，可否成为军事目标？

红十字国际委员会是否与开发军事领域人工智能系统的科技企业开展交流？

是的。红十字国际委员会正积极与科技企业及其他参与人工智能系统研发的利益相关方开展交流，旨在帮助这些企业了解国际人道法，明确其服务及业务活动可能使企业员工、资产与客户面临的伤害。同时，这些交流也聚焦于如何通过人工智能系统的设计与开发，更好地促进国际人道法的遵守，并减少对平民的伤害。

由于篇幅有限，更多有关军事领域人工智能的问题和解答，请点击页面左下角阅读原文至官网查看。

●问答 | 国际人道法与无人机在武装冲突中的使用

● 问答 | 红十字国际委员会的中立原则

●最新职位招聘：翻译组实习生

● 最新职位招聘：企业事务部实习生

红十字国际委员会

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.