关于自主武器系统的常见问题解答

自主武器系统，通常也被称为“杀人机器人”或“杀戮机器人”，是指一旦启动便能在无需进一步人为干预的情况下，选择目标并对其使用武力的武器。

“无需人为干预”，意味着在操作人员启动武器后，其便能够自主运行，利用传感器探测热量、光线、运动、形状或速度等现象，并根据这些输入信息将潜在目标与概括性的“目标描述”进行匹配。

例如，目标描述可能包括军用车辆的外形、速度、红外或雷达特征等。如果武器系统经评估后认为探测到的物体符合这些预定义特征，便可自主发起攻击，而无需在攻击时由操作人员选定该特定目标。

是的，自主武器系统已经成为现实。例如：

• 防空和导弹防御系统，包括军舰上的近程武器系统以及用于保护军事基地的陆基系统，这些系统能够自主探测、跟踪并拦截来袭的导弹、火箭弹或迫击炮弹，其速度远超人类。
• 坦克上的主动防护系统，可在来袭弹丸或导弹击中车辆之前自动探测并进行处置。
• 某些安装传感器起爆装置的弹药，其释放的子弹药配备传感器，能够自主搜索并打击装甲车辆等类型的目标，无需人类逐一选定每个目标。
• 某些巡飞弹药，据称能够搜索特定区域，并处置符合预先编程特征的目标，例如雷达。

目前，这类系统大多是“基于规则”或具有“确定性”的系统，通常在相对可控的环境中运行，针对的军事目标范围较窄，例如敌方导弹或其他弹丸、军事雷达或军舰。

但红十字国际委员会对于将日益复杂的人工智能纳入这些自主武器系统这一明显趋势深表担忧；而且军方显然有意放宽对这类武器使用地点及使用对象的限制，这可能会加剧其使用效果的不确定性。这会给武装冲突中的平民和民用物体带来重大风险。

自主武器系统会引发严重的人道、法律和伦理问题，因为其无需人类进一步干预即可选择并打击目标。这些关切并非只与技术本身相关，因此未必能通过工程修复或设计选择来加以解决。

1. 人道风险：扩散与冲突升级。 与其他任何武器一样，自主武器会不断扩散，并被用于违反国际人道法的行为，包括被非国家武装团体和犯罪组织所使用。事实上，随着传感器、软件及其他商用组件日益廉价且易于获取，这类武器特别容易扩散。此外，自主武器的使用还可能导致冲突升级，因为其极大地加快了选择和处置目标的过程，从而增加了误判的风险，并缩小了人类干预和缓和局势的空间。

    

2. 法律挑战：难以确保遵守国际人道法和人权法。 由于自主武器无需人类干预即可选择和打击目标，这使得人类操作员难以事先预测攻击的具体情况，也难以评估攻击是否符合国际人道法。随着自主武器日益复杂（因而更难预测），且在人口稠密或环境多变的地区部署时，这一问题尤为棘手。

   这增加了攻击违反国际人道法的区分原则、比例原则及攻击中的预防措施原则的风险。这些规则要求根据当时的具体情境进行评估，不能简单地预先“编码”或归结为技术指标。要确定某人是否为直接参与敌对行动的平民、某名战斗员是否正在投降或受其他保护，以及预期对平民造成的伤害是否过分，都需要对意图、行为和情境等因素的定性理解，而这是机器计算无法做到的。

   不可预测或不透明的系统加剧了这些挑战：如果使用者无法充分理解、预测和解释武器的行为方式及其可能产生的影响，就不可能评估其使用的合法性。当发生非法伤害时，这些系统还可能使责任和问责问题变得更加复杂。

    

3. 伦理困境：实质上将生死抉择交由机器决定。 除了人道和法律风险之外，还存在一个根本性的伦理问题：是否应该允许机器决定一个人的生死？唯有人类才能认识到人类生命的内在价值，并行使道德判断和克制。当机器基于传感器数据和目标特征对某人进行锁定时，该人就有可能被简化为一组数据点，从而将人类的判断排除在使用致命武力的决策之外。这种担忧不会仅仅因为技术变得更加精准而消失。对红十字国际委员会而言，在涉及生死的决策中保持有意义的人类控制是一项道义上的要求。

国际人道法已适用于自主武器。但红十字国际委员会认为，现有规则未能充分应对此类武器所引发的所有具体的人道、法律和伦理风险。正因如此，我们呼吁制定新的、具有法律约束力的国际规则，以禁止不可接受的自主武器，并对所有其他自主武器施加严格限制。

自主武器并不一定违法。现行国际人道法适用于自主武器的使用，正如其适用于任何其他武器一样。

国际人道法禁止某些类型的武器，例如那些本质上具有不分皂白性质的武器。这一点对于运行方式不透明（即“黑箱”难题）的自主武器尤为重要，这种不透明性可能导致人类无法理解、预测或解释系统的输出结果。这使得使用者无法针对特定军事目标发起打击，实际上导致对武器使用效果缺乏有效控制，从而使其本质上具有不分皂白的性质。

使用任何武器进行的攻击都必须遵守国际人道法关于敌对行动的规则：攻击必须仅针对特定军事目标，不得造成过度的附带平民伤害，并且必须采取一切可行的预防措施避免平民伤害。但对于自主武器而言，这些要求往往难以预先评估和确保，因为使用者并未选择将会触发自主武器系统发动攻击的具体人员或物体，也没有选定发起攻击的精确时间和/或地点，甚或对此一无所知。这些详细信息将取决于自主武器系统的机器进程（传感器、软件、执行器）以及运作环境中传感器采集的输入。

那么，使用者如何才能确保武器系统发起的任何打击仅针对合法军事目标，而非平民、伤员或投降人员？尽管在武器系统启动与打击命中之间，一线局势可能发生变化，但他们如何能预先评估任何附带伤害不会超过合理限度？如果明显发现目标并非军事目标又该如何？国际人道法规定必须采取一切可行措施取消或暂停攻击，但对于自主武器而言，这可能无法实现。

恐怕唯有彻底排除某些类型的自主武器，并对其他类型自主武器的运行环境施加严格限制，减少可能出现的潜在后果，才有可能使自主武器符合这些法律义务。

正因如此，红十字国际委员会及许多其他组织呼吁制定新的、具有法律约束力的规则，禁止不可预测的和杀伤人员型自主武器，并对所有其他类型的自主武器施加明确限制。

并非所有被武器化的无人机都是自主武器。

由人类操作员远程操控、识别目标并决定何时开火的武装无人机，不属于自主武器。但如果无人机一旦启动，就能在无需人类选择具体目标的情况下自行选定目标并对其使用武力，那么它就属于自主武器。

关键的判断标准并非该武器是否能够自主飞行，而是其在关键的目标选定功能,即选择目标并对其使用武力方面是否具备自主性。

并非所有自主武器系统都采用人工智能技术。

武器的自主性可能相对简单，也可能高度复杂；它们可能依赖或不依赖人工智能，包括机器学习（当系统能够从数据中学习规律，并利用这些规律完成特定任务时）。例如，防空系统可以具有自主性，但这类系统通常使用基于规则的软件，而非人工智能。

其他武器系统可能采用了人工智能，但在选择和处置目标的功能方面并未使用人工智能。因此，一个仅在导航方面使用人工智能的武器系统，并不一定就是自主武器。

自主武器已成为现实，其范围涵盖从自动处置来袭导弹的防御系统，到某些巡飞弹药和安装传感器起爆装置的武器。红十字国际委员会的担忧在于，此类系统的设计趋势使其覆盖区域越来越广、运行时间越来越长、针对目标越来越广泛，同时整合的人工智能形式也日益复杂。

此类军事和技术发展带来了更多不可预测性，无论是在这些自主武器的运行方式上，还是在其与作战环境的互动方面，都给武装冲突中的平民和民用物体带来了重大风险。

尽管新武器技术的倡导者常常声称，此类武器有望加强对国际人道法的遵守并最大限度地降低平民面临的风险，但这既不符合历史事实，也不符合我们当前的观察。

在世界各地许多正在进行、涉及最先进技术手段的冲突中，我们并未看到平民处境有所改善，反而出现了广泛且令人无法接受的平民伤亡和巨大破坏。新技术所宣称的优势并未带来更高的精准性、更好的区分能力和更充分的预防措施，反而将破坏加速、放大和升级，给平民带来了可怕的后果。

这造成了一个日益难以预测的环境，加剧了平民遭受伤害的风险，同时也凸显了对自主武器系统实施明确禁止和限制的必要性，从而防止一些做法侵蚀国际人道法本应保障的保护措施。

杀伤人员自主武器系统是指能够直接选择并攻击人类的武器。

红十字国际委员会认为，这类系统尤其令人担忧，因为在武装冲突中，表明一个人身份地位的各种信号——例如，此人是否投降、是否受伤，或是否直接参与敌对行动——高度依赖具体情境，因此机器系统极难准确识别。此外，一个人的身份地位可能在短时间内迅速发生变化，一旦判断错误，往往会造成悲剧。

因此，很难设想在现实作战环境中，使用针对人员的自主武器系统不会带来违反国际人道法的重大风险。

除了行动和法律风险之外，还有一个更深层次的问题：是否应该允许机器决定一个人的生死？唯有人类才能认识和理解生命的内在价值。如果机器根据传感器数据和目标特征对某人进行锁定，该人就会被简化为一组数据点。人为判断和道德约束的空间将不复存在。无论技术变得多么精准，这都是一条我们绝不能逾越的道德红线。

其他杀伤人员武器（如杀伤人员地雷）的使用经验表明，即使这类武器理论上可以按照国际人道法的要求使用，但在现实中，往往并非如此。因此，全面禁止此类武器是最为务实且有效的解决方案。这样既能够为军队提供明确且可靠的规范，也能够为战斗员和平民提供必要的保护。

不可预测的自主武器系统指的是那些人类使用者无法理解、预测或解释其运行方式及使用效果的系统。特别是，当自主武器系统以某种方式融入人工智能技术，导致其运行过程变得不透明时（即所谓“黑箱”难题），就可能出现这种情况。

这种不可预测性实际上意味着人类无法有效控制该武器的使用效果，从而使其在本质上具有不分皂白的特性，而这在国际人道法下是被禁止的。

因此，彻底禁止是切实可行且最有效的解决方案，它能提供必要的区分能力，以保护平民并遵守战争法。

武器自主性日益增强、操作限制日益放宽的趋势已然显现。机器“能够做什么”与“应该被允许做什么”之间的差距正在扩大。

8月25日，红十字国际委员会主席米里亚娜·斯波利亚里茨与联合国秘书长安东尼奥·古特雷斯再次向世界各国领导人发出紧急联合呼吁，敦促制定关于自主武器的新国际规则，并警告称我们如今正逼近一条危险的道德红线：一旦跨过，机器将会自主攻击人类。

鉴于正是那些研发这些系统的科学家和工程师们在敲响警钟并呼吁制定监管措施，国际社会绝不能坐等这些武器被广泛使用，更不能因拖延而让技术和实践超越监管。

如果国际社会未能及时采取行动，划定明确的法律与伦理边界，不可接受的自主武器系统便可能被研发出来并广泛扩散。一旦大规模部署，这类武器对平民及全球安全所造成的风险将更加难以控制。

2026年是决定性的一年。各国面临一大关键机遇，即在2026年11月16日至20日举行的《特定常规武器公约》第七次审议大会上，就规范自主武器系统的新国际规则，从讨论转向谈判。现行国际人道法原则适用于自主武器，但制定新规则可以明确界限，防止有问题的做法逐渐固化。

红十字国际委员会呼吁各国通过协商达成具有法律约束力的国际文书，其中应包括：

禁止两类自主武器系统：

• 使用效果不可预测的系统——当系统采用某种形式的人工智能技术，且在相同情况下可能产生不同输出结果时，往往会出现这种情况。
• 旨在直接针对人类的系统（杀伤人员自主武器系统）

并对所有其他自主武器实施限制，包括将目标类型限定为本质上属于军事目标的对象，限制其使用范围、持续时间、适用情境及规模，并纳入有效的中和、停用或销毁手段。

红十字国际委员会认为，这些规定对于应对自主武器系统带来的人道、法律和伦理风险至关重要。我们并非呼吁全面禁止所有自主武器系统或武器系统中的人工智能，因为我们承认人工智能在为武器提供导航以提高精度等功能方面可能具有实用价值。