Un nouveau pas vers l’imposition de limites à l’autonomie des systèmes d’armes

12 avril 2018

 

Convention sur certaines armes classiques – Deuxième réunion du Groupe d'experts gouvernementaux sur les systèmes d'armes létales autonomes (SALA)

Déclaration du CICR

Le Comité international de la Croix-Rouge (CICR) est heureux de faire connaître sa position sur les systèmes d'armes létales autonomes (SALA) lors de cette deuxième réunion du Groupe d'experts gouvernementaux. Le CICR souhaite féliciter et remercier le Président pour la conduite de ces discussions et souhaiter le plein succès de ses efforts cette semaine.

Cette réunion – faisant fond sur le précieux travail accompli à ce jour – offre l'occasion d'examiner plus en détails les défis complexes que posent les systèmes d'armes autonomes ; nous espérons qu'elle permettra de progresser vers une compréhension commune des caractéristiques de ces armes. Il sera important, à cet égard, que les discussions soient largement ouvertes.

De l'avis du CICR, l'identification des caractéristiques des systèmes examinés devrait avoir pour but de définir les traits caractéristiques des systèmes d'armes autonomes qui les différencient des systèmes contrôlés directement par des humains, armes commandées à distance comprises. L'objectif ne doit pas consister d'emblée à définir les systèmes qui suscitent des préoccupations.

Du point de vue du CICR, les discussions devraient essentiellement porter sur les aspects présentant le plus de pertinence au regard des obligations juridiques et des considérations éthiques dans le cadre de la Convention sur certaines armes classiques, à savoir l'autonomie dans les fonctions critiques de sélection et d'attaque des cibles ; s'agissant d'autres fonctions (telles que le mouvement ou la navigation), il ne nous semble pas que l'autonomie soit un élément de discussion pertinent.

Il conviendrait de tirer parti de l'expérience relative aux systèmes d'armement existants qui sont dotés d'autonomie dans leurs fonctions critiques : cela permettrait en effet de parvenir à une meilleure compréhension de deux éléments : d'une part, les questions juridiques et éthiques soulevées de manière générale par l'autonomie des systèmes d'armes ; d'autre part, la nature du contrôle humain sur l'usage de la force qui devrait être maintenu pour s'assurer de la conformité sur le plan juridique et de l'acceptabilité sur le plan éthique des armes en question.

Le CICR estime essentiel que les discussions s'appuient sur les technologies déjà couramment utilisées ainsi que sur les développements attendus à court terme en ce qui concerne l'autonomie des systèmes d'armes ; toute autre approche risquerait de négliger les développements progressifs dans ce domaine qui seraient susceptibles de susciter des inquiétudes et de nécessiter des réponses d'ordre juridique et politique de la part de la communauté internationale.

Le degré de contrôle humain exercé sur les systèmes d'armes – et non leur degré de sophistication technologique – devrait être le critère de base utilisé dans ces discussions. Ce sont des humains – et non pas des machines, des programmes informatiques ou des systèmes d'armes – qui appliquent le droit et sont tenus de le respecter.

Le droit international humanitaire (DIH) exige de ceux qui planifient, décident et mènent des attaques qu'ils effectuent certains jugements pour respecter les règles lors du lancement d'une attaque. Des considérations éthiques vont de pair avec cette exigence : elles requièrent le maintien d'une intervention et d'une intention humaines dans les décisions de recours à la force. Par conséquent, des responsabilités incombent aux humains dans les différentes phases de programmation, développement, activation et exploitation des systèmes d'armes autonomes.

Conscient des conséquences négatives sur le plan humanitaire que pourrait avoir la perte du contrôle humain sur les armes et le recours à la force, le CICR estime qu'un niveau minimum de contrôle humain est nécessaire tant sur le plan du droit qu'en termes d'éthique. Du point de vue du CICR, des systèmes d'armement échappant au contrôle humain seraient illicites de par leur nature même. Toutefois, au-delà de ces « systèmes d'armes entièrement autonomes », c'est l'ensemble des risques associés aux systèmes d'armes dotés d'autonomie dans leurs fonctions critiques qui doit être pris en considération.

Les préoccupations éthiques suscitées par la disparition de l'intervention humaine dans la décision de recourir à la force, la diffusion de la responsabilité morale et la perte de la dignité humaine pourraient avoir de lourdes conséquences, peut-être même empêcher la mise au point et l'utilisation de systèmes d'armes antipersonnel autonomes et même limiter l'utilisation des systèmes antimatériel, en fonction des risques que la destruction de cibles matérielles présente pour la vie humaine.

Le CICR continue de demander instamment à tous les États participant à cette réunion de préciser ce que la nécessité d'un contrôle humain « significatif » ou « effectif » entraîne dans la pratique. Les États doivent également s'efforcer de répondre aux préoccupations fondamentales suscitées par les systèmes d'armes qui, à l'instar des systèmes utilisant des algorithmes d'apprentissage automatique issus de l'intelligence artificielle, sont susceptibles d'introduire une imprédictibilité inhérente.

Il a été affirmé par les États parties à la Convention sur certaines armes classiques qui sont représentés dans ce groupe d'experts que le DIH était à la fois pertinent et applicable à toute technologie émergente dans le domaine des armes – systèmes d'armes autonomes compris –, et cela est fort encourageant.

Le CICR salue les efforts engagés afin d'améliorer la mise en œuvre du DIH, y compris en renforçant les mécanismes d'examen de la licéité des nouvelles armes. La conduite d'examens juridiques des systèmes d'armes dotés d'autonomie dans leurs fonctions critiques peut poser des défis, notamment en ce qui concerne les normes de prédictibilité et de fiabilité.

Le CICR encourage l'échange d'informations et d'expériences au sujet de ces processus, et il considère que ces efforts complètent les travaux du Groupe d'experts gouvernementaux.

Néanmoins, le CICR reste convaincu que l'objectif général du Groupe devrait être de convenir de limites devant être imposées à l'autonomie des systèmes d'armes. Comme le CICR l'a relevé lors de réunions précédentes sur ce sujet, les évolutions technologiques actuelles – qui font disparaître ou réduisent le contrôle humain exercé directement sur les systèmes d'armes – menacent d'être plus rapides que les délibérations internationales. Les États doivent donc reconnaître qu'il y a une certaine urgence à traiter de cette question. C'est donc selon une approche « centrée sur l'humain » que doit être réalisée l'identification des limites à imposer à l'autonomie des systèmes d'armes ainsi que des options possibles pour traiter la question des systèmes d'armes autonomes suscitant des préoccupations.