• 发送页面
  • 打印页面

自主武器:红十字国际委员会在专家会议上的发言

13-05-2014 发言

2014年5月13日至16日,日内瓦召开了以《常规武器公约》为框架的致命自主武器系统专家会议,红十字国际委员会在会上做了发言。

2014年5月13日至16日,日内瓦,以《常规武器公约》为框架的致命自主武器系统专家会议

红十字国际委员会的发言

主席先生,尊敬的阁下,女士们先生们:

首先我想感谢主席先生,感谢您为红十字国际委员会提供机会介绍我们3月举办的专家会议的重点内容。会议主要讨论了自主武器系统相关的技术、军事、法律和人道问题。

该会议汇聚了来自21个国家的代表以及13名独立专家,旨在针对自主武器带来的问题交流看法并加深理解。

为了红十字国际委员会会议的目的,“自主武器系统”被定义为可以独立选择和攻击目标的武器,即它们可以在获取、跟踪、选择和攻击目标等“重要功能”方面具有自主性。

我们想先介绍一下该会议的一些重点;之后简要介绍红十字国际委员会更多的调查结果。我们应事先强调,这些重点并非对与会者的观点进行总结,而是反映一些在讨论期间提出的关键点。

  • 首先,与会者提出现有的民用自主机器人系统具有很大的局限性:它们不能进行复杂的决策和推理;它们察觉和适应环境的能力也十分有限;因此它们只能在最简单和可预测的情况下运行。
  • 与会者还指出,如今已经有人开始使用某些在选择和攻击目标等“重要功能”方面具备自主性的武器系统。它们在执行的任务、攻击目标的类型,及其被使用的环境方面严重受限。
  • 与会者提出,现在尚未出现被编程设计为能够独立确定自身行动、做出复杂决策并适应环境的高精尖自主武器系统(某些人称之为具有“人工智能”的“完全自主武器系统”)。
  • 人们认识到人类对选择和攻击目标等“主要功能”保持控制是至关重要的,虽然对何为“有意义的人为控制”没有足够清晰的界定。
  • 与会者一致认为自主武器系统在武装冲突中的研发和使用是受到国际人道法规制的,包括应对新武器实施进行法律审查。
  • 人们承认,为一个机器编程,使其根据国际人道法在攻击中适用的区分、比例和预防原则来做出重要判断(特别是在复杂多变的冲突局势中)是非常具有挑战性的。就目前的科技水平而言是不可能的,而且在不久的将来也不太可能实现。
  • 对于国际人道法是否足以规制自主武器系统的研发和使用这一问题,各方的观点不同。有人认为现有法律是足够的,另一些人认为有必要对自主武器系统明令禁止,或者制定法律规范来要求和定义“有意义的人为控制”。
  • 最后,会议提醒人们有必要仔细考虑人道原则和公众良心是否会允许机器在少有或没有人为控制的情况下做出事关生死的决定。有人认为,人们以何种方式被杀害很重要,即使他们是合法攻击目标,为了尊重人类尊严,夺走某人生命的决定必须由人类做出。

以上是会议的一些重点内容。我们鼓励各个代表处阅读总结报告全文(英文),该报告是红十字国际委员会全权负责撰写的,将在本次会议上公开。 

 

关于红十字国际委员会提出的更多调查结果,我们认为有六大问题值得在会议上重点讨论:

1. 有关自主武器系统的讨论范围应该有多大?

红十字国际委员会的专家会议有意将讨论范围扩大,涉及任何可以独立选择和攻击目标的武器,但不包括“重要功能”由人类操作员远程控制的武器系统。

红十字国际委员会认为法律和道德担忧不仅限于未来科技,而且可能因目前科技研发的自主武器系统而产生。

核心问题是人类可能不再控制获取、跟踪、选择和攻击目标等“重要功能”,从而对任何武力的使用都不再实施控制。

2. 什么是“有意义的人为控制”?

人们似乎普遍认为,人类必须对武器系统和武力使用的“重要功能”保持某种程度的控制。然而,需要进一步澄清“有意义的人为控制”的含义;也需要对相关问题做出更明确的答案,例如:在各种情况下所需的人为控制程度是否相同?“有意义的人为控制”的概念如何实施?

3. 我们可以从现有武器系统的自主性中吸取什么教训?

仔细研究现有武器系统“重要功能”的自主性,便可以深入了解人们目前对“有意义的人为控制”的理解,何种程度的自主性和人为控制可以被视为可接受或不可接受,以及在何种情况下,包括现有系统是否适用于国际人道法的问题。因此,各国如果可以分享其对于自主控制“重要功能”的现有武器的法律审查可能会有所助益。

4. 更多的自主性对于遵守国际人道法而言意味着什么?

如果武器系统变得更为自主(在决定自身行动时有更多的“自由”),它们会变得更加难以预测。不可预测性会给遵守国际人道法带来严重问题。例如:如何确保一个武器系统将始终在法律规定范围内运行?武器系统如何能得到充分的测试?在无法预期其潜在的使用效果时,如何才能充分测试其性能并验证其在指定用途上的表现?如果无法保证武器系统可以根据国际人道法运行,那么其研发和使用可能是合法的吗?

5. 自主武器系统是必要的吗?

各国需要自问的一个关键问题是,能否在保持直接人为控制选择和攻击目标(例如通过遥控)这类“重要功能”的同时完成军事任务。如果可以,那么这类功能的自主性就可能不是必要的,至少在大多数情况下不必要。

6. 自主武器系统在伦理道德上能否被接受?

最后,也许最根本的问题是自主武器系统是否与人道原则和公众良心相符。对于任何使武力脱离人为控制的武器系统,人们都感到很不舒服。

以上为红十字国际委员会提供的更多调查结果。最后,我要强调的是,红十字国际委员会欢迎在常规武器公约会议上的这些讨论,并鼓励各国在继续的讨论中考虑这些关键问题,不仅在这里而且在各国国内也同样,同时就自主武器系统制定各自的政策。

 

非常感谢各位。

 

另见2014年3月26日至28日红十字国际委员会在日内瓦举办的自主武器系统专家会议的英文报告


相关栏目