Questions fréquemment posées : l’intelligence artificielle dans le domaine militaire

Un système d’armes autonome (SAA) est un système qui, une fois activé, peut sélectionner et attaquer des cibles de manière autonome sans intervention humaine supplémentaire. 

« Sans intervention humaine » signifie qu’après son activation par une personne, le système utilise les informations de son environnement recueillies par des capteurs qui, par exemple, détectent la chaleur, la lumière, les mouvements, la forme, la vitesse ou d’autres signaux, pour comparer les cibles potentielles à un « profil de cible » généralisé. Parmi ces caractéristiques figurent notamment la forme, la signature infrarouge ou radar, ou la vitesse d’un véhicule militaire.

Les SAA n’intègrent pas tous l’IA. Ils peuvent être simples ou très complexes et peuvent, ou non, s’appuyer sur l’IA, notamment sur l’apprentissage automatique (un type de système d’IA qui apprend des modèles à partir de données et utilise ces modèles pour effectuer une tâche précise). Les systèmes de défense aérienne peuvent être des SAA mais ils utilisent généralement des logiciels simples fondés sur des règles plutôt que des systèmes d’IA. 

Le CICR s’inquiète d’une tendance manifeste à intégrer une IA de plus en plus complexe dans les SAA, ce qui risque de renforcer le caractère imprévisible des effets. D’autres systèmes d’armes peuvent intégrer l’IA sans pour autant être des SAA ; par exemple le logiciel peut contrôler des fonctions telles que la surveillance ou la navigation. Un système d’aide à la décision fondé sur l’IA peut alimenter un système d’armes par des données, mais il ne s’agira pas d’un SAA, qui, lui, associe un décideur humain.

Les armes autonomes peuvent sélectionner et attaquer des cibles sans intervention humaine, de sorte qu’il est difficile, pour les utilisateurs, de prédire et de contrôler leurs effets. Cette imprévisibilité augmente le risque d’attaques indiscriminées ou autrement illégales au regard du DIH. Les SAA ont du mal à faire la distinction entre les civils et les combattants, à reconnaître les soldats blessés ou ceux qui se rendent, ou à interpréter des situations complexes. 

Le CICR est particulièrement préoccupé par le déploiement des SAA dans des environnements complexes, notamment dans les zones peuplées, où il est encore plus difficile de faire la distinction entre les objectifs militaires et les civils et biens de caractère civil. 

Oui. Certains systèmes d’armes autonomes sont déjà utilisés par des forces armées. Parmi les exemples figurent notamment les systèmes de défense antimissiles sur les navires de guerre, qui détectent et interceptent de manière autonome les missiles entrants. Ces systèmes fonctionnent généralement dans des environnements contrôlés et visent des cibles militaires clairement définies. 

On observe une tendance marquée vers une plus grande autonomie des systèmes d’armes, ainsi qu’un intérêt militaire manifeste à assouplir les contraintes relatives aux lieux d’utilisation de ces armes ou à leurs cibles. Le CICR est particulièrement préoccupé par les SAA qui intègrent l’IA d’une manière qui favorise le caractère imprévisible de leur fonctionnement et de leurs effets, ou qui sont conçus pour cibler directement les humains. De tels systèmes représentent des risques inacceptables pour les civils ainsi que pour les combattants qui sont blessés, malades, naufragés ou ceux qui se rendent.

Les SAA peuvent être relativement peu coûteux et faciles à élaborer. Les technologies actuelles facilitent leur création, ce qui augmente le risque de les voir se multiplier.

Les SAA antipersonnel sont des armes capables de sélectionner et d’attaquer directement des cibles humaines. 

Le CICR considère ces systèmes comme particulièrement préoccupants, car les signes de reconnaissance du statut d’une personne en conflit armé – par exemple, si elle se rend, est blessée ou participe directement aux hostilités – sont fortement liés au contexte et sont donc difficilement détectables par un processus automatisé. De plus, ce statut peut évoluer rapidement, et, en règle générale, une erreur peut se révéler tragique.

C’est pourquoi il est difficile d’imaginer des situations de combat dans lesquelles l’emploi de SAA contre des personnes n’entraînerait pas un risque important de violations du DIH.

Il existe également de profondes préoccupations éthiques concernant le fait de confier des décisions vitales à des machines. Seuls les êtres humains peuvent reconnaître et comprendre la valeur intrinsèque de l’existence et de la dignité humaines.

Le mode de fonctionnement d’un SAA antipersonnel réduirait les humains à des données, ce qui entraverait le principe fondamental selon lequel les personnes ne devraient jamais être réduites à des objets.

L’expérience tirée de l’emploi d’autres armes antipersonnel (par exemple, les mines antipersonnel) nous a enseigné que même si ces armes peuvent en théorie être utilisées dans le respect du DIH, c’est rarement le cas dans la pratique. L’interdiction absolue constitue donc la solution la plus pratique et efficace, car elle offre aux forces armées la clarté et la prévisibilité nécessaires tout en assurant la protection adéquate des combattants et des civils.

Un SAA imprévisible est un SAA qui ne permet pas à un utilisateur humain de comprendre, de prédire ou d’expliquer les modalités de fonctionnement et les effets du système. C’est par exemple le cas d’un SAA qui intègre l’IA de telle sorte que son fonctionnement n’est plus transparent (le défi de la « boîte noire »). 

Il en résulte une perte de contrôle sur les effets de ces armes, ce qui les rend intrinsèquement indiscriminées.

La tendance à renforcer l’autonomie des systèmes d’armes ainsi qu’à étendre leurs paramètres de fonctionnement est manifeste. Faute d’intervention opportune de la communauté internationale pour fixer des limites juridiques et éthiques claires, des armes autonomes inacceptables risquent d’être élaborées et de proliférer. Une fois que de telles armes seront déployées à grande échelle, il sera beaucoup plus difficile de maîtriser le risque de dommages aux civils et à la sécurité mondiale.

La septième conférence d’examen de la Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques, qui se tiendra du 16 au 20 novembre 2026, offrira aux États une occasion unique d’entamer des négociations sur un nouvel instrument juridiquement contraignant visant à réglementer les systèmes d’armes autonomes.

S’agissant des systèmes d’armes autonomes, le CICR appelle les États à négocier un instrument international juridiquement contraignant visant à : 

• interdire les armes autonomes imprévisibles, c’est-à-dire les armes autonomes dont les effets ne peuvent être prédits ou contrôlés de manière adéquate, ce qui est davantage le cas lorsque les systèmes intègrent des formes non déterministes d’IA ;
• interdire les armes autonomes antipersonnel, c’est-à-dire les armes autonomes conçues ou utilisées pour cibler directement les humains ;
• limiter l’élaboration et l’utilisation de toutes les autres armes autonomes, c’est-à-dire limiter les types de cibles, ainsi que la portée géographique, la durée, les situations et leur utilisation.

En 2024, le CICR a présenté ses observations au Secrétaire général de l’ONU afin qu’il les examine dans le cadre de la recherche de solutions aux défis et aux préoccupations suscités par les systèmes d’armes autonomes d’un point de vue humanitaire, juridique, sécuritaire, technologique et éthique, ainsi que dans la définition du rôle des personnes dans le recours à la force. 

Ces systèmes analysent des grands ensembles de données pour appuyer les décisions militaires, mais ils comportent des risques liés au fonctionnement de l’IA et au manque de données de qualité spécifiques au contexte dans les conflits armés. 

Leur utilisation soulève également des questions liées au biais d’automatisation – c’est-à-dire l’inclination des humains à accorder une confiance excessive aux recommandations ou aux résultats générés par les machines, notamment dans les situations de forte pression ou présentant des contraintes de temps. Les utilisateurs peuvent avoir tendance à approuver automatiquement ces résultats plutôt que d’exercer leur propre jugement.

De plus, dans les environnements de conflit, les adversaires peuvent intentionnellement manipuler des données ou exploiter les failles du système. 

Ces systèmes peuvent non seulement accroître la rapidité avec laquelle des erreurs surviennent ainsi que leur ampleur, mais également entraîner involontairement une escalade, surtout si les utilisateurs n’exercent pas leur propre jugement.

Dans certaines circonstances, l’utilisation prudente et responsable de systèmes d’aide à la décision fondés sur l’IA peut permettre d’analyser des données plus rapidement et de façon plus complète, ce qui favorise des décisions plus respectueuses du DIH et réduit les risques pour les civils. Par exemple, l’utilisation d’un système d’aide à la décision fondé sur l’IA peut permettre de rassembler et de résumer des informations provenant de sources ouvertes en ligne concernant la présence de civils et de biens de caractère civil, ou de contribuer à la planification d’attaques en recommandant des moyens et des méthodes de guerre qui permettent au mieux d’éviter, ou du moins de minimiser, les dommages civils causés incidemment. L’efficacité de ce type d’outils dépendra toujours des limites inhérentes à la technologie et de l’accès à des données de qualité. 

En fin de compte, l’impact de l’utilisation de ces technologies sur les civils dépendra de leur conception et de leur utilisation.

Il est important de noter que l’utilisation de systèmes d’aide à la décision fondés sur l’IA ne pourra jamais améliorer les méthodes de ciblage et les politiques qui ne respectent pas le DIH par ailleurs. Appliquer ces systèmes dans de tels cadres ne fera que reproduire, et probablement exacerber, plus rapidement et à plus grande échelle les effets illicites ou néfastes.

Le CICR a formulé 16 recommandations préliminaires visant à gérer les risques associés aux systèmes d’aide à la décision fondés sur l’IA dans les conflits armés. Ces recommandations soulignent l’importance de préserver le jugement et le contrôle humains. Les principales mesures consisteront notamment à :

• mettre en œuvre des processus rigoureux de test, d’évaluation, de vérification, de validation et d’examen juridique ; 
• utiliser des données fiables et de qualité ; 
• atténuer les risques de biais et de résultats discriminatoires ; 
• garantir une intervention humaine significative et la possibilité de remettre en question les résultats générés par l’IA ; 
• mieux former les utilisateurs, notamment s’agissant des biais d’automatisation ; 
• effectuer des analyses a posteriori. 

Le CICR souligne également que certains usages de l’IA doivent être interdits, notamment dans les systèmes de commandement et de contrôle des armes nucléaires ou dans les systèmes d’armes autonomes, qui ciblent directement les humains ou dont les effets sont imprévisibles.

Les recommandations reposent sur une approche centrée sur l’humain, qui vise à garantir que les systèmes d’IA appuient la prise de décision par des personnes plutôt que de la compromettre ou de la remplacer.

Une cyberopération est une opération menée contre un ordinateur, un système, un réseau ou un autre appareil connecté, via un flux de données, comme moyen ou méthode de guerre. En bref, une cyberopération consiste à utiliser un ordinateur pour endommager un autre système informatique, un réseau ou des données.

Les cyberopérations peuvent perturber, désactiver ou causer des dégâts matériels aux services, infrastructures et données de caractère civil. Elles sont susceptibles de faire des morts et des blessés, par exemple dans les hôpitaux, lorsqu’elles entraînent la désactivation des appareils médicaux, la suppression de données ou des coupures d’électricité.

Le DIH impose des limites claires aux cyberopérations dans les conflits armés. Le CICR collabore de façon bilatérale et multilatérale avec les États et les groupes de hackers pour s’assurer que les règles de DIH en vigueur sont interprétées et appliquées de manière à garantir une protection adéquate aux civils et aux infrastructures et données civiles, notamment aux structures médicales et aux organisations humanitaires. Cependant, si les règles de DIH en vigueur sont interprétées de manière à compromettre la fonction protectrice de cette branche du droit dans l’environnement numérique, il conviendra d’élaborer des règles supplémentaires pour renforcer le cadre juridique existant.