Peter Maurer: “Quel rôle les humains doivent jouer dans les décisions de vie ou de mort prises en temps de guerre ?”

Excellences,

Mesdames et Messieurs,

Merci d'assister à cette séance d'information en ligne. J'ai le plaisir de vous présenter une nouvelle étape importante dans l'analyse et les recommandations du CICR relatives aux armes autonomes, et je me réjouis d'entendre vos points de vue sur le sujet dès cet après-midi et au-delà.

Les technologies numériques continuent d'évoluer à un rythme effréné, modifiant notre façon de vivre, de travailler et même de penser. Elles sont porteuses de grandes promesses pour l'humanité, et j'ai d'ailleurs évoqué en de multiples occasions la façon dont nous, au CICR, adoptons la transformation numérique pour renforcer l'action humanitaire que nous menons à travers le monde.

Mais l'évolution des technologies numériques modifie aussi la façon dont les guerres sont livrées. Et les nouvelles technologies d'armement nous placent devant de graves dilemmes humanitaires, juridiques et éthiques, qui seront au cœur de mon allocution aujourd'hui.

Le CICR définit les armes autonomes comme des armes qui sélectionnent des cibles et exercent la force contre elles sans intervention humaine. Elles se fondent pour ce faire sur un « profil de cible » généralisé et un certain nombre de capteurs. Ce qui les distingue des autres types d'armes, c'est qu'après avoir été activées par une personne, elles font feu par elles mêmes lorsqu'elles sont déclenchées par leur environnement – et non par leur utilisateur. Autrement dit, l'utilisateur ne choisit pas la cible de l'attaque.

Les armes autonomes soulèvent de nombreuses questions complexes de différents points de vue : militaire, technique, juridique, éthique, philosophique et bien entendu humanitaire. Cette complexité ne fait d'ailleurs qu'ajouter aux difficultés politiques rencontrées par les gouvernements dans leurs tentatives pour parvenir à une compréhension commune des risques potentiels et des solutions requises.

Des armes autonomes sont déjà utilisées aujourd'hui : dans des circonstances bien précises, généralement loin des populations civiles et contre des types de cibles très spécifiques – par exemple en mer pour défendre des navires de guerre contre des missiles.

Or les récents développements sur le plan technologique et militaire alimentent un intérêt croissant pour l'utilisation d'armes autonomes capables d'attaquer des cibles plus variées et d'opérer sur des périodes plus longues et des territoires plus étendus, voire dans des zones urbaines – qui sont par définition des environnements complexes et dynamiques.

Imaginez, par exemple, que des opérations militaires se déroulent dans une zone abritant une importante population civile. Si une arme autonome était utilisée dans une telle situation, comment protéger les civils alors que l'utilisateur de cette arme ne saurait pas précisément où et quand elle frappera, ni ce qu'elle détruira ? Ou imaginez encore que le capteur d'une arme autonome soit déclenché par des bus civils ressemblant à des véhicules de transport de troupes. Qu'adviendrait-il si cette arme se mettait à frapper tous les bus dans un large périmètre, sans que son utilisateur ne puisse intervenir et la désactiver ?

Les armes autonomes augmentent de plus le risque d'escalade des conflits lorsque leurs utilisateurs n'ont pas le temps, ou la possibilité, de les désactiver avant qu'il ne soit trop tard.

Les conséquences humanitaires potentielles des systèmes d'armes autonomes sont une source de grande préoccupation pour le CICR. Ils posent en effet de sérieux défis quant au respect du droit international humanitaire, dont les règles imposent aux combattants de tenir compte du contexte dans leurs prises de décisions. Comment faire en sorte, par exemple, que les soldats blessés soient épargnés s'il n'y a personne pour reconnaître qu'ils sont hors de combat ?

Les armes autonomes suscitent en outre des préoccupations éthiques fondamentales pour l'humanité, remplaçant de fait des décisions humaines de vie ou de mort par des processus pilotés par des capteurs, des logiciels et des machines.

Désireuses de mener des attaques toujours plus rapides et de déployer de plus en plus de robots armés, les forces armées voient dans les armes autonomes la perspective d'un avantage militaire. Mais cette approche modifie aussi le rôle joué par les êtres humains dans le choix de recourir à la force. En ces temps nouveaux où les logiciels d'apprentissage automatique édictent leurs propres règles, beaucoup s'inquiètent des risques que cela ferait peser sur la protection des civils et la sécurité internationale.

Ces évolutions nous incitent à nous demander non seulement à quoi ces technologies pourraient servir, mais à quoi elles devraient servir. Elles nous poussent à faire des choix responsables qui façonneront l'avenir des conflits armés. Car en dernier ressort, c'est à nous – en tant que société – qu'il revient de déterminer le rôle que les humains doivent jouer dans les décisions de vie ou de mort prises en temps de guerre.

Le risque est réel de voir le contrôle et le jugement humains sur des décisions de vie ou de mort s'éroder petit à petit jusqu'à atteindre l'inacceptable. C'est un danger contre lequel de nombreux observateurs au sein des ministères des Affaires étrangères, des forces armées et des organisations humanitaires nous ont mis en garde, de même que des experts de l'industrie de la robotique et de l'intelligence artificielle.

Le droit international humanitaire vise à préserver une certaine humanité dans les conflits armés. Ses règles s'appliquent à l'utilisation de tous les moyens et méthodes de guerre, y compris les plus récents. Cela n'a toutefois pas empêché les États d'adopter, parfois à titre préventif, de nombreuses règles spécifiques pour mieux protéger les civils et les personnes qui ne participent plus aux combats contre les effets des nouvelles technologies d'armement. On peut mentionner par exemple la Déclaration de Saint-Pétersbourg de 1868 sur les balles explosives et le Protocole qui a interdit les armes à laser aveuglantes plus d'un siècle plus tard.

Les armes autonomes font l'objet de débats internationaux entre États depuis une dizaine d'années, notamment dans le cadre du Conseil des droits de l'homme et des réunions des Hautes Parties contractantes à la Convention sur certaines armes classiques. Des diplomates, militaires de carrière, représentants de la société civile, universitaires et membres des communautés scientifique et technique sont venus enrichir ces discussions en participant aux échanges et en exposant leurs idées.

Comment le CICR a-t-il contribué à ces débats au fil des ans ?

• Conformément à notre mandat, nous avons analysé en profondeur les moyens d'assurer le maintien d'un contrôle et d'un jugement humains sur l'usage de la force, y compris en organisant des consultations d'experts.
• Nous avons régulièrement fait part de nos conclusions à tous les acteurs intéressés.
• Nous avons participé activement aux débats et avons prêté une oreille attentive aux préoccupations de toutes les parties prenantes, notamment les États.
• À titre personnel, j'ai beaucoup apprécié les échanges de vues constructifs que j'ai eus avec bon nombre d'entre vous – et vos collègues – tant à Genève que dans les capitales de vos pays respectifs.

Nous demandons depuis 2015 aux États de s'accorder, au niveau international, sur les limites à imposer aux armes autonomes. J'ai aujourd'hui le plaisir de porter à votre attention nos recommandations à l'intention des États, mises à jour et affinées, sur la forme et le fond desdites limites.

Nous pensons que de nouvelles règles sont nécessaires à la fois pour :

• préciser les restrictions que les règles existantes de droit international imposent aux armes autonomes ; et
• compléter le cadre juridique, en particulier afin de répondre aux préoccupations éthiques fondamentales suscitées par ces armes.

S'agissant de la teneur de ces règles, nous souhaiterions formuler trois recommandations spécifiques.

Premièrement, nous estimons que les armes autonomes imprévisibles devraient être exclues, notamment en raison de leurs effets indiscriminés, et que la meilleure façon de procéder serait d'interdire ce type d'armes.

Deuxièmement, nous sommes d'avis que l'utilisation d'armes autonomes pour cibler des êtres humains devrait être exclue. Cette recommandation se fonde sur les considérations éthiques liées à la sauvegarde des principes d'humanité, ainsi que sur la nécessité d'assurer le respect des règles du droit international humanitaire qui protègent les civils et les combattants hors de combat. La meilleure façon de procéder serait selon nous d'interdire les armes autonomes antipersonnel.

Troisièmement et enfin, nous recommandons de réglementer les autres armes autonomes, notamment en mettant en place quatre types de limites :

• premièrement, des limites quant aux types de cibles, par exemple uniquement des biens militaires caractéristiques comme des chars ou des missiles ;
• deuxièmement, des limites quant à la durée d'utilisation, au champ d'action géographique et à l'ampleur de la force utilisable ;
• troisièmement, des limites quant aux situations d'utilisation, par exemple uniquement en l'absence de civils ;
• quatrièmement, des exigences applicables à l'interaction homme-machine, notamment pour assurer une supervision humaine effective ainsi que des possibilités d'intervention et de désactivation en temps opportun.

Ces recommandations et leurs justifications sont présentées plus en détail dans un document que nous vous transmettrons immédiatement après cette séance d'information. Nos recommandations devront dans tous les cas être approfondies et développées au-delà de ce document. Je me réjouis donc de connaître vos vues à ce sujet, aujourd'hui ou dans les semaines et mois à venir, car elles nous aideront à affiner encore davantage nos propositions et recommandations.

Le fait est qu'il revient aux États de décider si de nouvelles règles devraient être adoptées et de déterminer leur contenu. Le CICR propose ces recommandations sur la base de son expertise juridique, de son analyse approfondie des questions soulevées par le développement et l'utilisation des systèmes d'armes autonomes et de son expérience opérationnelle des conflits armés. Nous cherchons à appuyer la discussion multilatérale et à aider les États à progresser vers l'identification de points de convergence possibles.

À cet égard, je suis convaincu que ces recommandations offrent des orientations claires, pragmatiques et fondées sur des principes qui contribueront à répondre efficacement aux préoccupations humanitaires, juridiques et éthiques mises en évidence par de nombreux États, membres de la société civile et scientifiques de premier plan ainsi que par le CICR.

J'espère que ces recommandations vous seront utiles dans vos efforts en vue de parvenir à un consensus et de prendre des mesures au niveau des instances internationales, notamment dans le cadre des réunions des Hautes Parties contractantes à la Convention sur certaines armes classiques et de son Groupe d'experts gouvernementaux.

Je peux vous assurer que le CICR se tient prêt à soutenir toutes les initiatives visant à répondre promptement et efficacement aux inquiétudes que suscitent les armes autonomes, et à œuvrer à cette fin avec tous les gouvernements et leurs forces armées ainsi qu'avec les autres acteurs concernés. J'ai notamment à l'esprit les efforts menés afin de développer les éléments d'un cadre normatif et opérationnel tel qu'une déclaration politique, des normes communes de politique générale ou des bonnes pratiques. Ces efforts peuvent être déployés en complémentarité et en synergie avec des règles juridiquement contraignantes.

Étant donné la vitesse à laquelle les armes autonomes se développent, le CICR considère qu'il est urgent d'adopter de nouvelles règles pour les encadrer. Il reste à l'évidence beaucoup à faire pour parvenir à une vision commune des actions qu'il convient d'entreprendre.

Je souhaiterais conclure en soulignant l'importance de l'occasion qui nous est offerte aujourd'hui.

Nous avons une chance de tracer collectivement une ligne rouge dans l'intérêt des populations. J'insiste sur ce mot, « populations », car pour le CICR, les préoccupations suscitées par les armes autonomes ne touchent pas seulement, ni même principalement, aux moyens technologiques. Elles touchent aux populations – c'est-à-dire aux êtres humains. Aux protections dont bénéficient ces mêmes êtres humains lors d'un conflit armé. Aux obligations juridiques et aux responsabilités morales des personnes qui conduisent les hostilités. Enfin, et fondamentalement, elles touchent à notre humanité commune.

Je vous remercie de votre attention.