武装冲突中的人工智能与机器学习:以人为本的方法

武装冲突中的人工智能与机器学习:以人为本的方法

与各地区各领域的其他组织一样,红十字国际委员会正在努力应对人工智能和机器学习对其工作所产生的影响。这些软件工具或算法能够应用于多种不同工作,其潜在影响可能十分深远,但尚未得到充分理解。
报道 2019-06-06

在人工智能与机器学习的应用领域当中,红十字国际委员会特别关注两个宽泛而又截然不同的领域:相关技术在作战行为及其他暴力局势中的应用;以及相关技术在旨在援助并保护武装冲突受害者的人道行动中的应用。

本文阐述了红十字国际委员会有关下列议题的观点:人工智能与机器学习在武装冲突中的使用、其潜在人道后果、以及应规制其发展与使用的相关法律义务和道德考量。

人工智能与机器学习系统可能会对人类在武装冲突中的角色产生深远影响,尤其是在以下方面:武器系统及其他无人系统的自主性日益增强;网络战与信息战的新形式;更广泛而言,决策的性质。

红十字国际委员会认为,针对上述技术在武装冲突中的使用,有必要采取真正以人为本的方法。当人工智能与机器学习应用于可能对民众生活产生严重影响(尤其是生命威胁)的工作与决策时,且这些工作或决策受国际人道法规则规制时,保留人类控制与人类判断将至关重要。

人工智能与机器学习系统,作为工具,必须用于服务人类,并帮助而非取代人类决策者。

下载英文报告全文: