《特定常规武器公约》致命自主武器系统政府专家组，红十字国际委员会的声明。红十字委员会要感谢并感谢主席领导这些讨论，并祝愿他本周的努力取得成功

在迄今为止所做的宝贵工作的基础上，本次会议提供了一个机会，可以更详细地审议自主武器系统带来的复杂挑战。我们希望，这次会议将推动就这些武器的特点达成共识。在这方面，确定广泛的讨论范围将很重要

红十字委员会认为，确定所考虑系统的特征的目的应该是确定将自主武器系统与人类直接控制的系统（包括遥控武器）区分开来的特征。一开始的目标不必是定义相关系统

从红十字委员会的角度来看，重点必须放在与《特定常规武器公约》范围内的法律义务和道德关切最相关的武器系统的功能上，即在选择和攻击目标的关键功能上的自主性。我们认为，其他职能（如移动或导航）的自主权与讨论无关

应利用现有武器系统在其关键功能上具有自主性的经验，以更广泛地理解武器系统自主性所引起的法律和道德问题，以及人类对武力使用的控制的性质，为了遵守法律和道德可接受性，必须保留这种控制。对于红十字委员会来说，讨论借鉴真实世界的技术和武器系统自主性的近期发展至关重要。否则，就有可能忽视自治的逐步发展，这会引起人们的担忧，并可能需要国际社会的法律和政策回应

在这些讨论中，人类对武器系统的控制程度——而不是其技术复杂程度——应该成为衡量标准。适用法律并有义务尊重法律的是人类，而不是机器、计算机程序或武器系统

国际人道主义法（IHL）要求，策划、决定和实施袭击的人在发动袭击时，在适用准则时做出一定判断。道德考虑与这一要求平行——要求在决定使用武力时保留人的能动性和意图。因此，人类在自主武器系统的编程、开发、激活和操作阶段负有责任

考虑到人类失去对武器的控制和使用武力可能造成的不利人道主义后果，红十字委员会认为，从法律和道德角度来看，最低限度的人类控制是必要的。红十字委员会认为，超出人类控制范围的武器系统就其本质而言是非法的。但除了这些所谓的“完全自主武器系统”之外，还需要考虑与在关键功能上具有自主性的武器系统相关的所有风险

关于在使用武力的决定中丧失人的能动性、道德责任的扩散和人的尊严的丧失的伦理担忧可能会产生深远的后果，可能会阻碍杀伤人员自主武器系统的开发和使用，甚至限制反导弹系统的应用，这取决于摧毁物质目标对人类生命的风险

红十字委员会继续敦促参加本次会议的所有国家详细说明“有意义”或“有效”的人类控制在实践中意味着什么。各国还必须解决有关武器系统的根本问题，这些武器系统可能会带来固有的不可预测性，例如使用人工智能（AI）机器学习算法的武器系统

《特定常规武器公约》缔约国在本集团中申明，国际人道主义法既适用于任何新兴武器技术，也适用于自主武器系统，这令人振奋。红十字委员会欢迎努力改进国际人道主义法的执行，包括加强审查新武器合法性的机制。对关键功能自主的武器系统进行法律审查可能会带来挑战，特别是在可预测性和可靠性标准方面。红十字委员会鼓励交流有关并认为这些努力是对政府专家组工作的补充

尽管如此，红十字委员会仍然坚信，该小组的总体目的应该是商定武器系统自主性的限制。正如红十字委员会在以往关于这一主题的会议上指出的那样，消除或减少人类对武器系统的直接控制的技术发展有可能超过国际审议的速度，因此各国必须以某种紧迫感来处理这一任务。“以人为中心”的方法必须指导确定武器系统自主性的限制，以及解决“令人关切的自主武器系统”的可能选择

在Twitter上分享在Facebook上分享分享WhatsApp

简介