Déclaration

Armes autonomes : le CICR recommande l'adoption de nouvelles règles

Le CICR recommande aux États d'adopter de nouvelles règles juridiquement contraignantes concernant les systèmes d'armes autonomes en vue d'assurer le maintien d'un niveau suffisant de contrôle et de jugement humains sur l'emploi de la force. Du point de vue du CICR, il sera nécessaire à cette fin d'interdire certains types de SAA et de réglementer les autres par des mesures strictes.

Déclaration du Comité international de la Croix-Rouge faite lors de la Convention sur certaines armes classiques, devant le Groupe d'experts gouvernementaux sur les technologies émergentes dans le domaine des systèmes d'armes létaux autonomes (3-13 août 2021, Genève)

Le Comité international de la Croix-Rouge (CICR) se félicite de ce que le Groupe d'experts gouvernementaux reprenne ses travaux à ce moment critique des discussions multilatérales sur les systèmes d'armes autonomes (SAA) et à moins de cinq mois de la prochaine Conférence d'examen de la Convention sur certaines armes classiques (CCAC).

Le CICR salue les efforts déployés par le président du Groupe d'experts gouvernementaux, M. l'Ambassadeur Marc Pecsteen de Buytswerve (Belgique), pour solliciter des propositions de recommandations sur les « éléments du cadre normatif et opérationnel » régissant les SAA, lesquelles devront être adoptées par consensus dans le contexte de la Conférence d'examen de la CCAC. Le CICR soutient que la communauté internationale doit prendre sans tarder des mesures efficaces pour parer aux risques considérables associés aux systèmes d'armes autonomes, comme de nombreux États et organisations de la société civile l'ont souligné ces dix dernières années.

Ces risques sont liés aux modalités de fonctionnement des SAA. Le CICR définit les systèmes d'armes autonomes comme des armes qui, après leur activation initiale, sélectionnent des cibles et exercent la force contre elles sans intervention humaine. Ces armes sont déclenchées par l'environnement dans lequel elles évoluent, sur la base d'un « profil de cible » généralisé, c'est-à-dire d'une estimation d'un certain type de cible.

l'utilisateur du système ne choisit pas la cible spécifique, ni le moment et/ou le lieu précis des frappes. Ce mode de fonctionnement peut entraîner une perte de contrôle humain sur l'usage de la force, ce qui soulève des préoccupations d'un point de vue humanitaire, juridique et éthique.

Fait d'autant plus alarmant, l'autonomie des fonctions de sélection et d'attaque des cibles pourrait être intégrée dans n'importe quel système d'armes.

Le principal défi posé par les SAA est lié à la difficulté de prévoir et de limiter leurs effets. D'un point de vue humanitaire, ces systèmes exposent à des risques accrus les personnes touchées par un conflit armé – civils et combattants hors de combat – et augmentent le risque d'escalade des conflits. D'un point de vue juridique, ils compromettent la capacité des personnes responsables de l'application des règles de droit international humanitaire (DIH) lors de la planification, de la décision et de la conduite des attaques, à respecter les obligations qui leur incombent.

Enfin, d'un point de vue éthique, les SAA présentent le risque de remplacer de fait des décisions humaines de vie ou de mort par des processus pilotés par des capteurs, des logiciels et des machines. Les préoccupations éthiques soulevées par les modalités de fonctionnement des SAA concernent à plus forte raison les systèmes utilisés pour cibler délibérément des personnes.

Aujourd'hui, l'utilisation des systèmes d'armes autonomes fait l'objet de nombreuses restrictions. En effet, les SAA sont généralement utilisés pour cibler certains types de biens militaires, pour des périodes limitées, dans des zones où il n'y a pas de civils, et sous l'étroite supervision d'un humain.

Cependant, la récente intensification du développement et de l'utilisation des systèmes d'armes autonomes exacerbe encore la gravité des préoccupations fondamentales associées à ces systèmes. On observe en particulier un intérêt militaire d'utiliser les SAA pour cibler des objectifs plus variés, sur des territoires plus étendus et des périodes plus longues, dans des zones urbaines – ce qui exposerait la population civile à des risques accrus –, et avec une supervision humaine et des possibilités d'intervention et de désactivation réduites.


Fait inquiétant, de plus en plus d'acteurs envisagent de mettre à profit l'intelligence artificielle et les logiciels d'apprentissage automatique pour contrôler les fonctions critiques de sélection des cibles et de l'exercice de la force, ce qui rendrait encore plus difficile pour les utilisateurs des SAA de prévoir et de limiter les effets de ces systèmes.

Face à cette situation, les Hautes Parties contractantes à la CCAC ont la possibilité et le devoir de continuer à clarifier, examiner et définir le cadre normatif et opérationnel régissant les SAA.

C'est dans ce contexte que, le 12 mai 2021, le CICR a proposé à l'ensemble des États des recommandations, qui ont été soumises également au président du Groupe d'experts gouvernementaux le 11 juin 2021.

Le CICR recommande aux États d'adopter de nouvelles règles juridiquement contraignantes concernant les systèmes d'armes autonomes en vue d'assurer le maintien d'un niveau suffisant de contrôle et de jugement humains sur l'emploi de la force. Du point de vue du CICR, il sera nécessaire à cette fin d'interdire certains types de SAA et de réglementer les autres par des mesures strictes.

Premièrement, les systèmes d'armes autonomes imprévisibles devraient être formellement exclus, notamment en raison de leurs effets indiscriminés. La meilleure façon de procéder serait d'interdire les systèmes conçus ou utilisés d'une manière qui ne permet pas de suffisamment comprendre, prédire et expliquer leurs effets.

Deuxièmement, l'utilisation de systèmes d'armes autonomes pour cibler des êtres humains devrait être exclue. La meilleure façon de procéder serait d'interdire les systèmes conçus ou utilisés pour exercer la force délibérément contre des personnes, par opposition à ceux qui ciblent des biens.

Troisièmement, les systèmes d'armes autonomes qui ne seraient pas interdits devraient être réglementés dans leur conception et leur utilisation, notamment en mettant en place une combinaison de limites quant aux types de cibles – par exemple uniquement des biens constituant par nature des objectifs militaires –, quant à la durée d'utilisation, au champ d'action géographique et à l'ampleur de la force utilisable – y compris pour permettre un jugement et un contrôle humains par rapport à une attaque spécifique –, et quant aux situations d'utilisation – par exemple uniquement en l'absence de civils et de biens de caractère civil. Il conviendrait aussi d'imposer une exigence applicable à l'interaction homme-machine, notamment pour assurer une supervision humaine effective ainsi que des possibilités d'intervention et de désactivation en temps opportun.

Selon le CICR, les interdictions et limitations proposées vont dans le sens des pratiques militaires actuelles en matière d'utilisation des SAA.
Si ces recommandations donnent des indications claires et basées tant sur des principes que sur la pratique pour tracer les limites de l'acceptable au regard des préoccupations humanitaires, juridiques et éthiques, elles ne proposent toutefois pas de texte conventionnel prêt à l'emploi ; les limitations envisagées devront être précisées par les États.

Il est ainsi encourageant de constater qu'une plus grande convergence de vues entre les États se dessine sur la nécessité d'interdire certains SAA – sinon d'en exclure le développement et l'utilisation – et de réglementer les autres SAA, sinon d'en limiter le développement et l'utilisation.


Les propositions du CICR reflètent des points de vue largement partagés : d'une part, la reconnaissance de la nécessité d'assurer un contrôle et un jugement humains sur l'emploi de la force et, à cette fin, d'imposer des limites efficaces à la conception et à l'utilisation des systèmes d'armes autonomes ; et, d'autre part, une conviction de plus en plus répandue que ces limites peuvent être établies au niveau international.

Le CICR considère aussi comme encourageant le fait que de nombreux États soient disposés à préciser les restrictions que les règles existantes de DIH imposent aux SAA, et que certains d'entre eux aient proposé de mieux faire connaître les pratiques militaires actuelles.

Le CICR est convaincu que les limites internationales aux systèmes d'armes autonomes doivent prendre la forme de nouvelles règles juridiquement contraignantes. De nouvelles règles sont nécessaires en raison de la gravité des risques liés aux SAA et de la nécessité non seulement de préciser les modalités d'application du DIH aux SAA, mais aussi d'étoffer et de renforcer le cadre juridique en tenant compte des préoccupations éthiques, humanitaires et quant au respect du droit.

Dans le contexte actuel marqué par l'évolution des technologies et des pratiques militaires, le droit international doit continuer de se développer pour faire respecter et pour renforcer les protections qu'il accorde. Les Hautes Parties contractantes à la CCAC – qui est une convention-cadre ancrée dans le DIH – reconnaissent « la nécessité de poursuivre la codification et le développement progressif des règles du droit international applicables dans les conflits armés », comme elles l'affirment dans le préambule de la Convention.


À la lumière de l'évolution récente des pratiques militaires en matière d'utilisation et de déploiement des SAA, le CICR exhorte les Hautes Parties contractantes à la CCAC à œuvrer sans attendre à l'adoption de nouvelles règles.

Nous avons aujourd'hui l'opportunité, en nous appuyant sur les travaux ambitieux et approfondis menés par le Groupe d'experts gouvernementaux des États parties à la CCAC durant les huit dernières années, d'élaborer une réponse internationale propre à renforcer efficacement la protection des personnes touchées par un conflit armé, à assurer le respect des obligations légales et des responsabilités morales des personnes qui conduisent les hostilités, et à préserver l'humanité. Les Hautes Parties contractantes doivent saisir cette opportunité et la mettre au cœur de leurs travaux lors de la présente réunion.