自主武器系统

红十字国际委员会将自主武器系统定义为: 任何在关键功能中具有自主性的武器系统。换言之,在没有人为干预的情况下能够选择 (即搜索或探测、识别、追踪、选择) 和攻击 (即使用武力打击、压制、破坏或摧毁) 目标的武器系统。

红十字国际委员会关于自主武器系统的关切

自主武器系统在没有人类干预的情况下选择目标并对其使用武力。在最初由人启动或发射后,自主武器系统根据从传感器接收到的环境信息,并基于概括性的"目标描述",自行启动或触发攻击。这意味着使用者并未选择自主武器系统使用武力攻打的具体目标以及精确的时间和(或)地点,甚或对此一无所知。

使用自主武器系统会带来风险,是因为其影响难以预测,且难以限制,人类由此丧失了对武力和武器使用的控制和判断。这引发了人道、法律和道德方面的严重关切。

自主武器系统的运作过程:

  • 可能会为受武装冲突影响之人(无论是平民还是战斗员)带来伤害,而且具有导致冲突升级的危险
  • 对遵守国际人道法等国际法规则,特别是保护平民的敌对行动规则,提出了挑战
  • 实际上用传感器、软件和机器程序取代了人类对生死的决定,因而引发人类的根本道德关切

红十字国际委员会就规制自主武器系统向各国提出的建议

自2015年以来,红十字国际委员会一直敦促各国就自主武器系统确立国际公认的限制标准,以确保对平民的保护、对国际人道法的遵守,以及道德上的可接受性。

为支持当前工作,就自主武器系统确立国际限制标准,从而应对其带来的风险,红十字国际委员会建议各国通过具有法律约束力的新规则。特别是:

  1. 对不可预测的自主武器系统应予以明令禁止。提出这一规则,一项突出原因就是此类系统会造成不分皂白的后果。要实现这一点,就最好禁止因设计或使用方式而使人无法充分理解、预测并解释所造成影响的自主武器系统。

  2. 鉴于维护人道,以及捍卫国际人道法中保护平民和失去战斗力之战斗员的规则的道德考量,应禁止使用自主武器系统攻击人类。要实现这一点,就最好禁止旨在或用于对人类使用武力的自主武器系统。

  3. 为了保护平民和民用物体、捍卫国际人道法规则并维护人道,对于未被禁止的自主武器系统,其设计和使用应受到规制,包括通过综合以下各项限制予以规范:
  • 对目标类型的限制,例如仅限于攻打属于军事目标性质的物体
  • 对使用时长、地理范围和规模的限制,包括允许对特定攻击进行人为判断和控制
  • 对使用情形的限制,例如仅限于在不涉及平民或民用物体的情况下使用
  • 对人机互动的要求,特别是要确保有效的人类监督,以及及时的干预和停用。

使用此类武器系统致使人类丧失了对武力使用的控制和判断,对其加以扩大使用,可能会违背国际人道法的要求。从根本上说,自主武器系统用传感器、软件和机器程序取代了人类对生死的决定,在社会上引发了道德关切。

——红十字国际委员会主席彼得·毛雷尔

为有效解决自主武器系统引发的关切,各国提出了多项倡议,旨在确立国际标准以对其施以限制,例如各国在《特定常规武器公约》框架下为商定规范和行动框架的多方面问题开展了相关工作。红十字国际委员会对这些倡议表示支持。考虑到自主武器系统的技术和使用发展迅速,及时确立国际公认的限制标准至关重要。此类标准除了新的法规,还可包括共同政策标准和良好实践指南,二者相互补充、相辅相成。为此,红十字国际委员会在其职责和专业范围内,随时准备与政府、武装部队以及科技界和产业界代表等国际和国家层面的利益相关方开展合作。

下载红十字国际委员会有关自主武器系统的立场文件