Artículo

Presidenta del CICR: "Debemos adoptar un enfoque centrado en las personas para el desarrollo y el uso de las nuevas tecnologías"

Discurso pronunciado por Mirjana Spoljaric, presidenta del Comité Internacional de la Cruz Roja. Diálogo Shangri-La, Sesión especial 5: inteligencia artificial, defensa cibernética y el futuro de la guerra - 1 de junio de 2024, Singapur

Señoras y señores:

En la actualidad, el CICR tiene clasificados más de 120 conflictos armados, cifra que indica que estos conflictos se han triplicado en los últimos treinta años. Asimismo, los conflictos armados contemporáneos generan efectos que se propagan en múltiples dimensiones, tanto a nivel local como interregional.

Los panelistas hacen un uso excesivo de términos como "encrucijada" o "coyuntura crítica" para llamar la atención. Sin embargo, la jerga política no debe distraernos de la realidad con la que el CICR y otros actores humanitarios nos encontramos en los campos de batalla actuales.

Hay tecnologías nuevas y emergentes que están alterando el modo en que se libran los conflictos y volviéndolos más complejos. El empleo conjunto de medios cibernéticos y armas tradicionales, así como la incidencia cada vez mayor de la inteligencia artificial (IA) en los sistemas de armas y la toma de decisiones, ocupan un lugar destacado en los debates sobre la evolución de la guerra.

Estas nuevas tecnologías parecen ofrecer ventajas militares, como la capacidad de actuar a velocidades que superan las facultades humanas o de realizar ataques en entornos donde la comunicación se ve imposibilitada, como los espacios marítimos que son tan estratégicos en la región de Asia y el Pacífico.

Estas tecnologías plantean, a la vez, nuevos peligros para las sociedades. Elevan los riesgos de intensificación no deliberada de los enfrentamientos; generan inquietud respecto de la proliferación de armas; y agravan el sufrimiento, de por sí intolerable, de las víctimas de los conflictos armados.

Quiero destacar tres situaciones preocupantes:

  • En primer lugar, las tendencias indican que, en el futuro, se utilizarán sistemas de armas autónomos para atacar un rango más amplio de objetivos, durante períodos más largos y con menos posibilidades de intervención humana.
  • En segundo lugar, la IA influye en las decisiones militares sobre quién o qué es un objetivo en los conflictos armados y las acelera de maneras que superan la capacidad cognitiva humana y, por lo tanto, comprometen la calidad de la toma de decisiones. Esta situación supone riesgos adicionales para las personas civiles.
  • En tercer lugar, las operaciones cibernéticas se llevan adelante para inhabilitar servicios estatales de uso civil como el agua y la electricidad, y para obstaculizar los servicios médicos y las actividades humanitarias.

Las variantes más complejas de la IA, como los modelos generativos y otras formas de aprendizaje automático, cobran cada vez más relevancia en todas estas situaciones, en un contexto en el que los militares procuran aprovechar la variedad de herramientas que se están desarrollando a un ritmo vertiginoso. Mediante su incorporación a esta oferta de armas y métodos de guerra, la IA puede generar mayor desazón al agregar fuentes adicionales de imprevisibilidad y acelerar el ritmo operacional a niveles que exceden el control humano, en campos de batalla que ya se caracterizan por una volatilidad extrema. Como consecuencia, el respeto de las obligaciones del DIH se torna difícil para comandantes y combatientes.

Las tensiones geopolíticas o la necesidad militar percibida no pueden servir como justificación para dejar de lado las consideraciones humanitarias. De hecho, es durante estas situaciones complejas que la protección de la humanidad se vuelve más importante aún.

Debemos adoptar un enfoque centrado en las personas respecto del desarrollo y uso de nuevas tecnologías a fin de continuar protegiendo a las víctimas de conflictos armados. No podemos aceptar una situación en la que las nuevas tecnologías de guerra sirvan para replicar y, en efecto, para potenciar, situaciones ilícitas u otros tipos de consecuencias perjudiciales a ritmos más acelerados y en mayor magnitud.

Por lo tanto, hago dos llamamientos a todos los Estados.

En primer lugar, que hagan del DIH una prioridad y reafirmen su compromiso con sus principios universalmente aceptados. En particular:

  • que formalicen un nuevo tratado para la regulación de los sistemas de armas autónomos. Un tratado de este tenor debe prohibir las armas autónomas imprevisibles y aquellas que se dirigen a objetivos humanos; y establecer limitaciones estrictas para todas las demás. Junto con el Secretario General de las Naciones Unidas, he instado a los Estados a que, de manera urgente, negocien y firmen, para 2026, un tratado que regule los sistemas de armas autónomos;
  • en los casos en que se utilice la IA en sistemas que apoyan la toma de decisiones en el ámbito militar, debe mantenerse la centralidad del criterio humano, sobre todo en decisiones que suponen riesgos para la vida y la dignidad de las personas;
  • respecto del ciberespacio, debe haber una decisión colectiva por parte de los Estados sobre cómo proteger a las sociedades contra las amenazas digitales. Muchos de ellos expresaron su apoyo a las recomendaciones concretas del Consejo Consultivo Mundial del CICR respecto de las amenazas digitales. No obstante, se hace urgente la necesidad de acciones claras.

En segundo lugar, que reconozcan que el cumplimiento de las normas del DIH significa una inversión en la paz. Los Convenios de Ginebra han sido ratificados por todos los Estados y constituyen, por lo tanto, un consenso universal. Sus normas se oponen firmemente al concepto de victoria militar a cualquier costo o con todos los medios disponibles.

Todo conflicto armado trae aparejados espanto, consternación, y costos humanos y ambientales trágicos. La guerra en el futuro no será diferente, ya sea que se libre con armas tradicionales o nuevas tecnologías. Hay mejores alternativas. La prevención o la neutralización de las carreras armamentísticas, así como la regulación del desarrollo de nuevas tecnologías de guerra, son medidas eficaces que apoyan el anhelo humano de vivir en paz.

Podemos sentir entusiasmo ante perspectivas innovadoras sin por ello dejar de estar atentos al respeto de nuestro compromiso y nuestros valores. Las decisiones que la comunidad internacional tome hoy respecto de estas nuevas tecnologías serán determinantes para la guerra del futuro y sus efectos en las generaciones venideras, así como en la vida de miles de millones de personas en todo el mundo.

Mediante la cooperación, y el respeto y la promoción de acuerdos internacionales, podemos construir un futuro en el cual la tecnología ponga a la humanidad en el centro y esté al servicio de la causa de la paz.

Gracias.