自主武器:红十字国际委员会建议通过新规则

红十字国际委员会建议各国通过具有法律约束力的新规则来规制自主武器系统,以确保在使用武力时保留充分的人为控制和判断力。委员会认为,这需要禁止某些类型的自主武器系统,并严格规制所有其他类型的武器系统。
发言 2021-08-03 瑞士

红十字国际委员会就《特定常规武器公约》向致命性自主武器系统政府专家组发表的声明 - 2021 年 8 月 3 日至 13 日,日内瓦

红十字国际委员会欢迎政府专家组在这一关键时刻恢复对自主武器系统的多边审议工作,现在距离《特定常规武器公约》审议大会还有不到五个月的时间。

委员会赞赏政府专家组主席、比利时大使马克·佩克斯坦·德·布伊茨韦夫 (Marc Pecsteen de Buytswerve) 为征求审议大会关于"规范和操作框架"的一致性建议所做的努力。委员会认为,正如许多国家和民间社会组织在过去十年中所强调的那样,需要采取紧急有效的国际响应来应对自主武器系统带来的严重风险。

这些风险源于自主武器系统的操作过程。委员会的理解是,这些武器在初始激活后会在没有人为干预的情况下选择并向目标使用武力,因为它们是基于"目标描述"由其所处的环境触发,而这是一种广义近似的目标类型。

自主武器系统的使用者不会对具体的目标、使用武力的准确时间或地点做出选择。这一过程的风险是丧失对武力使用的人为控制。这是人道、法律和道德关切的根源。

考虑到"选择和使用武力"这些重要功能的自主性可以被纳入到任何武器系统中,这些关切就十分重要。

自主武器系统的主要挑战在于难以预测和限制其影响。从人道角度来看,它们有可能伤害受武装冲突影响的平民和失去战斗力的战斗员,并增加冲突升级的风险。从法律角度来看,它们挑战了那些必须在计划、决定和实施袭击时适用国际人道法规则的人们履行其义务的能力。

从伦理的角度来看,这种运作过程的风险是它实际上用传感器、软件和机器程序取代了人类对生死的决定。这引发了伦理问题,当自主武器系统被用于直接针对人类时,这一关切尤其严重。

今天,自主武器系统的使用受到严格限制;它们主要针对某些类型的军事目标、在有限的时间内、在没有平民的限制区域内、在有人为严密监督的情况下使用。

然而,目前扩大开发和使用自主武器系统的趋势极大地加剧了核心关切。尤其是,在城市地区将其在更大的区域内,更长时间地用于更广泛的目标,这具有军事利益,但在这些地区,平民面临着最大风险,而人为监督、干预和停用的能力却会降低。


令人担忧的是,人们正在越来越多地探索使用人工智能和机器学习软件来控制"选择和使用武力"这些重要功能,这将加剧使用者在预测和限制自主武器系统的影响方面本已面临的困难。

在此背景下,《特定常规武器公约》的缔约国有责任且有机会在澄清、考虑和制定自主武器系统的规范和操作框架方面取得进展。

借此机会,委员会于 2021 年 5 月 12 日向所有国家提出建议,并于 2021 年 6 月 11 日将建议提交给政府专家组主席。

委员会建议各国采用具有法律约束力的新规则来规制自主武器系统,以确保在使用武力时保留充分的人为控制和判断力。委员会认为,这需要禁止某些类型的自主武器系统,并严格规制所有其他类型的武器系统。

首先,对不可预测的自主武器系统应予以明令禁止。提出这一规则,一项突出原因就是此类系统会造成不分皂白的后果。要实现这一点,就最好禁止因设计或使用方式而使人无法充分理解、预测并解释所造成影响的自主武器系统。

其次,应禁止使用自主武器系统攻击人类。要实现这一点,就最好禁止旨在或用于对人类而非物体使用武力的自主武器系统。

第三,对于未被禁止的自主武器系统,其设计和使用应受到规制,包括通过综合以下各项限制予以规范:对目标类型的限制,例如仅限于攻打属于军事目标性质的物体;对使用时长、地理范围和规模的限制,包括允许对特定攻击进行人为判断和控制;对使用情形的限制,例如仅限于在不涉及平民或民用物体的情况下使用;对人机互动提出要求,特别是要确保有效的人类监督,以及及时的干预和停用。

委员会的理解是,这些提议的禁令和限制符合当前使用自主武器系统的军事实践。

虽然这些建议提供了明确、有原则和务实的指导,说明从人道、法律和伦理的关切出发,可以接受的界限在哪里划定,但它们不是现成的条约文本,这些限制措施的更多细节需要由各国进一步阐明。

因此令人鼓舞的是,各国之间的观点日益趋同,即某些自主武器系统应被禁止或禁止其开发和使用,其它的自主武器系统应受到规制,或限制其开发和使用。

这些建议反映了各方广泛持有的观点:即承认有必要在使用武力时确保人为控制和判断;承认为确保这种控制和判断需要对自主武器系统的设计和使用进行有效限制;而且各方越来越有信心,可以在国际层面阐明此类限制。

同样令人鼓舞的是,许多国家已表示愿意澄清国际人道法如何早已在限制自主武器系统,一些国家还提议进一步分享当前的军事实践。

委员会相信,对自主武器系统的国际限制必须采取具有法律约束力的新规则这一形式。由于风险的严重性、阐明现有国际人道法规则如何适用的必要性、以及发展和加强符合道德、法治问题和人道考量的法律框架的必要性,需要制定新规则来解决上述问题。

面对不断演变的军事技术和实践,国际法必须继续发展以维护和加强保护。 《特定常规武器公约》是一项以国际人道法为基础的框架公约,正如他们在《公约》序言中所申明的那样。缔约国承认他们"必须继续编纂和逐步发展适用于武装冲突的国际法规则"。


考虑到当前在如何使用和部署自主武器系统方面的军事发展,委员会敦促《特定常规武器公约》的缔约国立即就通过新规则采取行动。

在过去八年《特定常规武器公约》和本政府专家组广泛深入工作的基础上,我们有机会形成国际应对,它将有效地加强对受武装冲突影响者的保护,维持作战人员的法律义务和道德责任,并保障我们共同的人道。这是各缔约国在本次会议期间的工作中必须抓住和重视的机会。