彼得·毛雷尔:“我们必须决定希望人类在武装冲突期间的生死决定中扮演什么角色”

彼得·毛雷尔:“我们必须决定希望人类在武装冲突期间的生死决定中扮演什么角色”

发言 2021-05-12 瑞士

红十字国际委员会主席彼得·毛雷尔先生在关于红十字国际委员会对自主武器系统新立场的在线汇报会上的讲话。

各位阁下,

女士们先生们,

感谢诸位参加此次在线汇报会。我很高兴与大家分享红十字国际委员会在分析自主武器并提出建议方面所取得的一项重要进展,并在今天下午及以后听取大家对这个话题的意见。

数字技术正以惊人的速度取得新的发展,影响着我们的生活和工作方式,甚至是我们的思维方式。这为人类带来了巨大的希望,而我也经常谈到红十字国际委员会如何迎接数字转型以加强在世界各地的人道行动。

数字技术的新发展也影响了作战方式。新的武器技术引发了严重的人道、法律和伦理困境,这些困境将是我今天讲话的重点。

按照红十字国际委员会的理解,自主武器是指在没有人类干预的情况下选择目标并对其使用武力的武器。它们根据一般化的"目标描述"和传感器来进行选择。它们与其他武器的不同之处在于,在由人启动后,它们会在被环境而非使用者触发时自行开火。这意味着用户并未选择具体的目标。

自主武器从多个角度提出了许多具有挑战性的问题——军事、技术、法律、伦理、哲学,当然还有人道。这种复杂性也增加了政府在就潜在风险和必要解决方案达成共识方面所面临的政治挑战。

这些武器已经投入使用,虽然尚限于某些情况,其使用的场所通常远离平民,并针对非常具体的目标类型,例如在海上保护军舰免受导弹袭击。

然而,目前的技术和军事发展正在激发人们对使用自主武器的兴趣,这些武器的攻击目标更广泛,覆盖区域更大,持续时间更长,甚至可用于城市地区复杂动态的环境中。

红十字国际委员会认为,不受限制地使用自主武器给平民和战斗员带来巨大的伤害。

例如,考虑在开展军事行动的区域内有大量平民的情况。在使用自主武器时:如果自主武器的使用者并不确切知道它们会在何地、何时摧毁什么,平民将如何得到保护呢?或者想象一下,与军用运输车辆外形相似的民用公共汽车触发了自主武器的传感器,于是它们开始在大范围内袭击所有公共汽车,而使用者却无法进行干预或制止?

自主武器还增加了冲突升级的危险,例如,没有时间或手段在还来得及的时候关闭自主武器。

潜在的人道后果令红十字国际委员会感到担忧。这些武器系统对遵守国际人道法提出了严重的挑战,因为国际人道法规则要求战斗员根据具体情况做出判断。例如,如果没人在场并认识到受伤的士兵已经失去战斗力,那么要如何确保他们免受伤害呢?

此外,自主武器为人类引发了基本的道德伦理关切,因为实际上它们用传感器、软件和机器程序取代了人类对生死的决定。

最终,我们大多数人都会认同:算法或机器程序不应决定谁生谁死,人的生命决不能沦为传感器数据和机器计算。

武装部队为了不断提高攻击速度并部署越来越多的武装机器人,正在寻求通过武器自主性取得军事优势。同时,这也改变了人类在决定使用武力方面的作用。在这个由机器学习软件自己编写规则的新时代,许多人担心平民保护和国际安全面临一个危险的未来。

这些发展促使我们不仅要问这些技术能够用来做什么,还要问它们应该用来做什么。它们促使我们对战争的未来做出负责任的选择。归根结底,我们必须决定我们——作为一个社会——希望人类在武装冲突期间的生死决定中扮演什么角色。

一个显而易见的风险是,我们将看到生死决定中的人为控制和判断逐渐被削弱到不可接受的地步。外交部、武装部队和人道组织的许多成员,以及业界的机器人专家和人工智能专家,都强调了这一点。


不受限制地设计和使用自主武器带来一项根本性挑战。战争受害者目前根据国际人道法和人道原则所享有的保护可能受到侵蚀。


国际人道法本身寻求在战争中维持一定程度的人道。其规则适用于所有战争手段和方法的使用,包括新型战争手段和方法。然而,各国经常通过具体的规则来进一步保护平民和不再参与战斗的人员免受新武器技术的影响,包括预防性规则。例如,1868年关于爆炸性弹丸的《圣彼得堡宣言》,以及100多年后对激光致盲武器的禁止,都属于这种情况。

过去十年中,国际社会一直在就自主武器问题进行讨论,包括在人权理事会和《特定常规武器公约》缔约国的会议上。这些讨论受益于外交官、军事专家、民间社会代表、学术界和科技界成员的参与和意见。

多年来,红十字国际委员会如何为这些讨论做出贡献?

  • 根据我们的职责并通过专家磋商等方式,我们深入分析了如何确保在使用武力时保留人为控制和判断。
  • 我们定期与所有相关人员分享我们的结论。
  • 我们积极参与辩论,并认真听取包括各国政府在内的所有利益攸关方的关切。
  • 就我个人而言,我非常喜欢与诸位以及你们的同事在日内瓦和世界各国首都进行非常有建设性的意见交流。

自2015年以来,委员会一直敦促各国对自主武器制定国际公认的限制措施。我们就限制措施的形式和内容,向各国提出了最新且完善的建议,今天我将简要介绍,供大家考虑。



红十字国际委员会相信,国际限制措施应采取具有法律约束力的新规则这一形式来规制自主武器。


我们认为,需要制定新规则以:

  • 澄清现有国际法规则如何限制这些武器
  • 对法律框架加以补充,包括解决基本的道德伦理关切。

关于新规则的内容,我们想提出三项具体建议。

首先,我们认为应禁止不可预测的自主武器,特别是由于其不分皂白的影响,这最好通过禁止不可预测的自主武器来实现。

其次,我们认为应该禁止使用自主武器攻击人类。这一建议是基于保障人道的伦理道德考量,以及捍卫旨在保护平民和失去战斗力之战斗员的国际人道法规则的必要性。我们认为,禁止杀伤人员自主武器是实现这一目标的最佳途径。

第三,也是最后一点,我们建议应当规制其他自主武器,包括通过综合以下四种限制予以规制:

  • 第一,对目标类型的限制,例如将其限制在典型的军事目标上,如坦克或来袭导弹
  • 第二,对使用时长、地理范围和规模的限制
  • 第三,对使用情形的限制,例如不存在平民的情况
  • 第四,对人机互动的要求,特别是要确保有效的人类监督,以及及时的干预和停用。

关于这些建议及其背后原因的更多细节,可以在汇报会后我们将与大家分享的一篇论文中找到。在任何情况下,除了参考我们分发的这篇论文之外,所有这些建议都需要进一步的阐述,我期待着在今天或在未来数周、数月内听取诸位对这些建议的意见,以便进一步完善我们的提案和建议。

决定是否采用新规则并确定其具体内容的责任确实在于各国政府。红十字国际委员会根据其法律专业知识、对自主武器系统之发展和使用所引发问题的深入分析以及武装冲突的作战经验,提出了这些建议。我们的目的是支持多边讨论,推动各国向找到达成共识的可能途径迈进。

在这方面,我认为这些建议为如何有效解决多个国家、民间社会、顶尖科学家和红十字国际委员会提出的人道、法律和道德关切提供了明确、有原则和务实的指导。

这些建议并不禁止以其他方式开发和使用新的数字作战技术,例如旨在提高武器的精确度或加强人为决策。

我希望诸位会发现这些建议有助于你们在国际层面,包括在《常规武器公约》缔约国及其政府专家组的会议上,达成共识并采取政治行动。

我可以向各位保证,红十字国际委员会随时准备支持旨在及时有效解决自主武器所引发关切的所有倡议,并为此与所有政府及其武装部队以及其他相关利益攸关方合作。这包括制定规范性和操作性框架之各个方面的其他努力,如政治宣言、共同政策标准或良好实践指南。这些努力可以与具有法律约束力的规则相互补充,相辅相成。

考虑到自主武器的发展速度,红十字国际委员会认为迫切需要通过关于自主武器的新规则。当然,在就所需行动达成共识方面,我们依然任重道远。

最后,我想强调一下我们目前所面临的机遇。


我们塑造技术。反过来,技术也会塑造我们。这些发展并非发生在真空中。但除了计算成本和效益,关于技术应该用于什么领域的决定是基于人类的价值观。

我们有机会一起划定一条符合民众利益的界限。我强调"民众"这个词,因为对于红十字国际委员会而言,自主武器引起的担忧并非只是,甚至并非主要是关于技术。而是关于民众,关于人类,关于武装冲突期间给予人类的保护,关于冲突各方的法律义务和道德责任。归根结底,这关乎我们共同的人道。

非常感谢。