自主武器系统：由机器来做出生死攸关的决定在道德上是否可接受？

2015年4月13-17日，日内瓦，在《常规武器公约》框架下的致命自主武器系统专家会议上红十字国际委员会所做的发言。

感谢主席先生。

红十字国际委员会很高兴在《常规武器公约》框架下的致命自主武器系统第二次专家会议上发表观点。《常规武器公约》基于国际人道法，为我们进一步理解在武装冲突中发展和使用自主武器系统所带来的技术、法律、道德和政策问题提供重要的框架。

本周将使大家有机会在去年会议的基础上对自主武器系统的重要特征及其目前的发展状态有更清晰的理解，从而着手确定最佳方法来应对这种新的战争科技带来的法律和道德问题。

... 红十字国际委员会希望再次强调其对于自主武器在人道原则和公众良心方面带来的担忧。正如我们以前声明的那样，对于将武力使用置于人为控制之外的任何武器系统的设想，我们都深感不安。

我们将有机会在主题讨论会议期间进行更加详细地论述，但在一开始我们希望强调红十字国际委员会认为本周应该重点关注的几个要点。

我们首先希望提醒人们，红十字国际委员会目前并不是呼吁禁止或暂停"自主武器系统"。然而，我们敦促各国在武装冲突中进一步发展或使用自主武器之前要对该武器系统"重要功能"的自主性所引发的基本法律和道德问题进行考量。

我们还希望强调，随着我们对当前和潜在的技术能力、武器自主性的军事目的、以及因此引发的法律和道德问题获得更好的理解，我们有关这一复杂主题的思考也会继续发展。

红十字国际委员会认为，为了确保讨论重点突出，重要的是对讨论对象达成更清晰的共识，特别要了解什么构成了自主武器系统。为避免变成关于定义的讨论，我们需要对该讨论设定某些界限。

正如红十字国际委员会在去年的《常规武器公约》专家会议上提出的那样，自主武器系统是指在"重要功能"方面具有自主性的武器系统，也就是说这种武器可以在没有人为干预的情况下选择（搜索或监测、确定、跟踪）和攻击（拦截、使用武力对抗、抵消、损毁或破坏）目标。我们提出过这样的建议：着眼于此类武器系统"重要功能"的自主性是如何形成的，将很实用，因为这些功能与"决定目标"最为相关，因此与遵守国际人道法（特别是在攻击中的区分、比例和预防规则）最为相关。在选择和攻击目标的重要功能方面的自主性也引发了重要的道德问题，特别是在自主使用武力对人进行攻击时。

红十字国际委员会认为最有助益的是基于自主武器系统、基于当前和正在出现的武器系统（此类武器系统正在试图突破对于重要功能人为控制的界限）进行讨论。在讨论新的持续发展的科技时，也许势必要建立有关可能的未来发展的假设情景，但存在这样的风险：如果纯粹聚焦于此类假设情景，我们将会忽略当今实际存在的、或者目前正在研发并计划在近期内使用的武器系统在重要功能上的自主性。

我们了解到，许多现有的自主武器系统具有自主"模式"，因此只能在短期内自主运行。而且这些武器在所执行的任务、攻击目标的类型及其被使用的环境方面都极其受限。大部分现有系统还受到人类操作员的实时监控。

然而，未来的自主武器系统可能在确定攻击目标时拥有更多的行动自由，行动时不受空间和时间的严格限制，并应对迅速变化的情况。目前科技发展的速度以及武器系统自主性方面的军事兴趣使国际社会迫切需要考量此类武器的法律和道德影响。

正如红十字国际委员会过去强调的那样，更仔细地研究现有和将出现的自主武器系统，可以提供以下有益的见解：从法律和道德的角度而言，在何种环境中，何种程度的自主性和人为控制会被视为可接受或不可接受。在这方面，我们鼓励各国尽量分享他们对于在重要功能方面具有自主性的现有武器系统的法律评论。这将有助于在充分掌握信息的基础上进行商讨。

主席先生，

基于去年在《常规武器公约》会议上及其他地方展开的讨论，各国似乎对需要对武器系统的重要功能保持人为控制达成了广泛共识。各国目前应该将关注点转向一致达成一个框架以确定什么能够带来有意义或足够的武器人为控制。讨论应聚焦于需要哪类控制、在什么情况下，以及处在进程的哪一阶段——编程、部署和（或）攻击（选择和攻击目标）。

另外，不容置疑的是，计划在武装冲突中使用的自主武器在使用时必须符合国际人道法，特别是符合攻击中的区分、比例和预防规则。的确，在重要功能上具有自主性的武器不是在"法律真空"中发展的，它们必须遵守现有法律。

基于目前的和可预见的机器人科技，显然遵守国际人道法核心规则的问题对科技构成了巨大的挑战，特别是在随着重要功能上具有自主性的武器与以往相比要执行更加复杂的任务并被部署到更加动荡多变的环境中。基于目前和可预见的科技，对于自主武器系统在所有纷繁复杂的情形和环境中遵守国际人道法的能力存在严重质疑。在这方面，看来不言自明的是，在选择和使用武力方面仍需要全面的人为控制。

在本周的讨论中，我们鼓励已经部署或目前正在发展在重要功能上具有自主性的武器系统的国家分享他们的经验，介绍他们如何确保这类武器在使用时遵守国际人道法，特别是分享对使用具有自主功能的武器所施加的限制和条件，包括所需人为控制的程度。从现有和将推出的武器系统的重要功能的法律审议所取得的经验教训会有助于为今后的讨论提供指导框架。

在这方面，红十字国际委员会希望广泛认可各国对其发展或获取的任何战争新科技（包括在一些或所有重要功能上具有自主性的武器）执行法律审议义务的做法。《常规武器公约》缔约国会议及其审议大会过去曾提醒过新武器法律审议的重要性，这些是对《日内瓦公约第一附加议定书》缔约国的法律要求。红十字国际委员会鼓励尚未建立武器审查机制的国家建立此类机制，并随时准备在这方面为各国提供咨询。在这方面，各国可以参考红十字国际委员会有关新武器、作战手段和方法的法律审查的指导原则。

主席先生，最后，红十字国际委员会希望再次强调自主武器在人道原则和公众良心方面所带来的担忧。正如我们以前声明的那样，对于将武力使用置于人为控制之外的任何武器系统的设想，我们都深感不安。在这方面，我们希望本周听到关于下列问题（这些问题对于未来战争，确切地说对于人道是至关重要的）的观点：在战场上，机器在没有人为干预的情况下做出生死攸关的决定，这在道德上是否可以接受，如果可以，那么是在什么情况下？

我们很高兴将在主题讨论会议期间进一步阐述我们的观点。

谢谢。