Article

Présidente du CICR : "Nous devons adopter une approche des nouvelles technologies centrée sur l'humain"

Discours prononcé par Mirjana Spoljaric, présidente du Comité international de la Croix-Rouge, dans le cadre du Dialogue du Shangri-La - Session spéciale 5 : intelligence artificielle, cyberdéfense et guerres du futur - 1er juin 2024, Singapour

Mesdames et Messieurs,

Le CICR recense aujourd'hui plus de 120 conflits armés à travers le monde – ce nombre a plus que triplé au cours des trois dernières décennies. Les conflits actuels entraînent en outre des répercussions multidimensionnelles au niveau tant local que régional.

Les intervenants usent et abusent de termes tels que « croisée des chemins » ou « moment charnière » pour attirer l'attention. Mais le jargon politique ne doit pas nous faire oublier la réalité à laquelle le CICR et les autres acteurs humanitaires sont confrontés chaque jour sur les champs de bataille contemporains.

Les technologies nouvelles et émergentes transforment la manière dont les conflits armés sont menés, les rendant plus complexes. Le recours aux cyberopérations en combinaison avec les armes traditionnelles, ainsi que le rôle toujours plus important joué par l'intelligence artificielle dans les systèmes d'armes et la prise de décisions, occupent une place prépondérante dans les débats sur l'évolution de la guerre.

Ces nouvelles technologies peuvent sembler offrir des avantages militaires, comme la possibilité d'agir à une vitesse dépassant de loin toute capacité humaine. Ou celle de mener des attaques dans des environnements où les communications sont coupées, notamment les espaces maritimes – enjeu crucial dans la région Asie-Pacifique, où nous nous trouvons.

Mais elles présentent aussi de nouveaux dangers pour les populations. Elles augmentent le risque d'escalade involontaire, suscitent des préoccupations liées à la prolifération des armes et aggravent les souffrances déjà terribles endurées par les victimes des conflits armés.

Je souhaiterais attirer votre attention sur trois évolutions préoccupantes :

  • Premièrement, les tendances montrent que les systèmes d'armes autonomes seront probablement utilisés à l'avenir contre des cibles plus diversifiées, sur des périodes plus longues et avec moins de possibilités d'intervention humaine.
  • Deuxièmement, l'intelligence artificielle influence et accélère les décisions militaires concernant les personnes ou les biens ciblés dans les conflits armés dans une mesure qui dépasse les capacités cognitives humaines. Cela porte donc atteinte à la qualité des décisions prises et expose les civils à des risques supplémentaires.
  • Troisièmement, certains acteurs utilisent des cyberopérations pour paralyser des services publics destinés aux civils, tels que l'approvisionnement en eau et en électricité, et entraver le travail des services médicaux et des organisations humanitaires.

L'intelligence artificielle complexe – comme les modèles génératifs et d'autres formes d'apprentissage automatique – joue un rôle de plus en plus important dans ces différentes évolutions, les militaires cherchant à tirer parti de tous ces outils, qui sont créés et développés à un rythme effréné. Intégrée à diverses armes et méthodes de guerre, l'intelligence artificielle peut exacerber les préoccupations en ajoutant des facteurs d'imprévisibilité et en accélérant le tempo opérationnel au-delà des capacités de contrôle humain, sur des champs de bataille déjà caractérisés par une volatilité extrême. Il devient dès lors plus difficile pour les commandants et les combattants de respecter les obligations qui leur incombent au titre du DIH.

On ne saurait s'appuyer sur les tensions géopolitiques ou les nécessités militaires perçues pour justifier le rejet des considérations humanitaires – au contraire, c'est dans ces moments difficiles qu'il est le plus crucial de s'efforcer de préserver l'humanité.

Si nous voulons faire en sorte que les victimes des conflits armés continuent d'être protégées, nous devons adopter une approche de la mise au point et de l'utilisation des nouvelles technologies centrée sur l'humain. Nous ne pouvons accepter que les nouvelles technologies de guerre servent à reproduire, voire à amplifier, des comportements illicites ou autres effets néfastes toujours plus vite et à plus grande échelle.

C'est pourquoi je lance aujourd'hui deux appels à tous les États.

Je leur demande en premier lieu de faire du DIH une priorité et de réaffirmer leur attachement à ses principes universellement acceptés.

Plus précisément :

  • Les États doivent conclure un nouveau traité sur les systèmes d'armes autonomes qui interdise les armes autonomes imprévisibles ainsi que celles qui ciblent des êtres humains, et impose des restrictions strictes à toutes les autres. Le Secrétaire général de l'ONU et moi-même avons adressé aux États un appel à négocier et à conclure, d'ici à 2026, un traité réglementant les systèmes d'armes autonomes.
  • En ce qui concerne l'utilisation de l'intelligence artificielle dans les systèmes d'aide aux décisions militaires, le jugement humain doit rester central, en particulier pour les décisions risquant de mettre en danger la vie et la dignité des personnes.
  • S'agissant du cyberespace, les États doivent déterminer ensemble comment protéger les sociétés contre les menaces numériques. Si de nombreux États ont exprimé leur soutien aux recommandations concrètes formulées par le Conseil consultatif mondial du CICR sur les menaces numériques, il est désormais urgent de prendre des mesures claires.


En second lieu, j'appelle les États à reconnaître que le respect du DIH est un moyen d'investir dans la paix.

Les Conventions de Genève ont été ratifiées par tous les pays et reposent donc sur un consensus universel. Elles s'opposent fermement à l'idée de victoire militaire à tout prix ou par tous les moyens.

Tout conflit armé apporte son lot d'horreurs, de désespoir, de terribles souffrances humaines et de dommages environnementaux. Les guerres futures ne feront pas exception, qu'elles soient menées au moyen d'armes classiques ou de nouvelles technologies. Mais une autre voie est possible.

La prévention ou l'inversion de la course aux armements, ainsi que la réglementation de la mise au point des nouvelles technologies de guerre, sont des façons efficaces de contribuer à réaliser le souhait des hommes, des femmes et des enfants de vivre en paix.

Alors que nous nous saisissons des opportunités offertes par l'innovation, nous devons aussi veiller à rester fidèles à nos engagements et nos valeurs. Les décisions qui seront prises aujourd'hui par la communauté internationale au sujet de ces nouvelles technologies façonneront l'avenir de la guerre pour les générations à venir, et auront un impact sur la vie de milliards de personnes à travers le monde.

C'est par la coopération, le respect des accords internationaux et leur promotion que nous pourrons bâtir un avenir où la technologie place l'humanité au centre et sert la cause de la paix.

Je vous remercie de votre attention.