src=/sites/default/themes/icrc_theme/images/gobes/GB。png

什么是自主武器

正如红十字委员会所理解的那样，自主武器系统是在没有人为干预的情况下选择并对目标施加武力的任何武器

一个人启动了一个自主武器，但他们不知道它将打击谁或什么，也不知道打击的确切地点和/或时间

这是因为自主武器是由传感器和软件触发的，这些传感器和软件与环境中传感器检测到的目标轮廓相匹配

例如，这可能是军用车辆的形状或人的移动。触发罢工的是车辆或受害者，而不是用户

我们对这一进程的关切是，在使用武力时丧失了人类的判断力。这使得很难控制这些武器的影响

当用户激活武器时，如何知道触发攻击的形状实际上是军用车辆而不是民用汽车

即使它真的击中了一辆军用车辆，那么当时可能在附近的平民呢

这些武器什么时候会出现

地雷可以被认为是基本的自主武器。它们在许多冲突中对平民造成的严重伤害——因为其影响难以控制——有据可查。它导致国际社会在1997年禁止杀伤人员地雷。

其他类型的自主武器也已开发出来，但这些武器往往只在高度受限的情况下使用。例如，打击来袭导弹和一些游荡弹药的防空系统，其目的是摧毁军用雷达、坦克或装甲车

迄今为止，这些自主武器通常用于对付平民或民用物体较少的地区的明确军事目标——武器弹药、军用雷达和敌方坦克

战场场景src=/sites/default/files/wysiwyg/UKIre/scenture。jpg

他们也倾向于受到严密的人的监督，如果情况发生变化或发生意外情况，他们有能力将其关闭

但是武器技术和实践正在快速变化。军方和武器开发商有兴趣将自主使用武力整合到更广泛的武器、平台和弹药中，包括目前由操作员远程控制的武装无人机。令人担忧的是，人们有兴趣使用自主武器直接瞄准人类

drone

红十字委员会为什么关注自主武器

简单地说，由于难以预测和限制其影响，它们带来了人道主义风险、法律挑战和伦理问题

如上所述，它们增加了平民面临的危险，而不再参与战斗的士兵，换句话说，那些投降或受伤的士兵，也面临着更大的风险

自主武器还可以加速使用人类无法控制的武力。虽然速度在某些情况下可能对军队有利，但如果不受控制，则有可能以不可预测的方式升级冲突，加剧人道主义需求

法律挑战

国际人道主义法要求实施具体袭击的战斗人员根据具体情况作出评估性法律判断

自主武器的工作方式——用户不选择特定目标或精确的打击时间或位置——使得这一点变得困难。在什么情况下，自主武器的使用者能够合理地确定它只会被当时确实合法的目标触发，不会对平民造成过度伤害

导弹打击src=/sites/default/files/wysiwyg/UKIre/missilestrike。jpg

自动武器也从法律责任的角度提出了挑战。当发生违反国际人道主义法的行为时，追究肇事者的责任对于为受害者伸张正义和遏制未来的侵权行为至关重要。通常调查将寻找开枪的人和下达攻击命令的指挥官

例如，在使用自主武器的情况下，谁会解释为什么自主武器会撞上一辆民用巴士

关于被指控犯有战争罪的人是否可以根据现有法律制度承担责任，存在许多问题

robot目标人类src=/sites/default/files/wysiwyg/UKIre/robot。jpg

道德问题

最根本的是，人们普遍而严重地担心将生死决定权交给传感器和软件

人类有一个道德机构来指导他们的决定和行动，即使在杀人决定有些正常化的冲突中也是如此

自主武器降低了——甚至可能消除——人类在杀人、伤害和破坏决策中的能动性。这是一个非人化的过程，破坏了我们的价值观和我们共同的人性

所有危及人类的自主武器都引起了这些伦理问题，但对于设计或用于直接攻击人类的武器来说，这些问题尤为严重

人工智能和机器学习在自主武器中的作用是什么

人们对依靠人工智能，特别是机器学习来控制自主武器越来越感兴趣

机器学习软件根据数据进行训练，以创建自己的特定任务模型和完成该任务的策略。软件以某种方式编写自己

通常，这个模型将是一个黑匣子——换句话说，人类极难预测、理解、解释和测试机器学习系统如何以及在什么基础上实现特定的评估或输出

正如从各种应用中所熟知的，例如在警务中，机器学习系统也会引起人们对编码偏见的担忧，包括种族、性别和性别方面的偏见

对于所有自动武器，用户很难预测效果。如上所述，用户可能甚至不知道什么会触发罢工。机器学习控制的自主武器突出了这一担忧。它们通过设计提高了不可预测性的可能性

一些机器学习系统在使用过程中继续学习，即所谓的主动学习、在线学习或自学习，这意味着它们的任务模型会随着时间的推移而变化

应用于自主武器，如果允许系统在使用过程中学习如何识别目标，用户如何合理地确定攻击将保持在战争中法律允许的范围内

自主武器原理图src=/sites/default/files/wysiwyg/UKIre/awsschematics。jpg

红十字委员会建议各国政府和其他方面采取什么应对措施

红十字委员会建议各国就自主武器制定新的具有法律约束力的规则。新规则将有助于防止对平民造成严重伤害的风险，解决道德问题，同时提供法律确定性和稳定性

首先，应禁止不可预测的自主武器。这是一种自主武器，其设计或使用方式使其效果无法被充分理解、预测和解释，包括在使用过程中学习目标的武器，以及通常由机器学习控制的自主武器

其次，应禁止设计和用于直接对人施加武力的自主武器

第三，需要严格限制所有其他自主武器的设计和使用，以减轻上述风险，确保遵守法律并解决道德问题

作为国际人道主义法的守护者，红十字委员会不建议轻易制定新规则

但我们也致力于推动法律的逐步发展，以确保现有规则不受破坏。我们希望确保对受冲突影响的人的保护得到维护，并在需要时在不断演变的武器和战争方法面前得到加强

正如杀伤人员地雷、致盲激光武器和集束炸弹一样，我们需要一项新的具有法律约束力的条约来保护平民和战斗人员。必须在战争中保护人类

这些规则可以在《特定常规武器公约》（CCW）的新议定书或其他具有法律约束力的文书中规定

那么，红十字国际委员会对新规则将被采纳有多乐观呢

我们是相信各国将就自主武器达成新的国际规则。大多数国家都认识到，在使用武力时需要确保人的控制和判断，这意味着对自主武器设置严格的限制

越来越多的州准备采取具体的禁止和限制措施。其他人认识到这些限制的必要性，即使他们尚未承诺遵守新规则

一些先前反对新规则的国家正在表现出更大的开放性，这可能是由于多边讨论的深化以及最近冲突的发展。关于如何监管自主武器，现在有可信和务实的解决方案摆在桌面上。当前的军事技术发展和实践迫切需要采取这些措施

现在需要的是各国有原则的政治领导，将这一解决方案转化为一项具有法律约束力的文书，将在未来很长一段时间内保护人民。

观察：自主武器有什么危险

进一步阅读：

ICRC在自主武器系统上的位置

简介