Sistemas de armas autónomas – Preguntas y respuestas

11 noviembre 2014

Un reto al control humano sobre el uso de la fuerza.

Los avances tecnológicos en armamentos implican que, cada vez más, las máquinas que operan sin intervención humana podrían tomar decisiones sobre el uso de la fuerza en el campo de batalla. A continuación, analizamos las consecuencias potenciales de un cambio tan profundo en la manera de librar la guerra, así como las advertencias contra el uso de dichas armas a menos que pueda garantizarse el respeto del derecho internacional humanitario.

¿Cómo podrían los sistemas de armas autónomas, que operan de manera independiente, distinguir entre un combatiente y un civil? ¿Serían capaces de cancelar un ataque que podría causar efectos desproporcionados en los civiles? ¿Quién sería responsable y debería rendir cuentas por una violación del derecho internacional humanitario?

Debido a las numerosas cuestiones que quedan sin resolver, el CICR instó a los Estados a que evalúen adecuadamente el costo humano potencial y las consecuencias para el derecho internacional humanitario del empleo de estas nuevas tecnologías de guerra. En marzo de 2014, el CICR convocó a una reunión internacional de expertos para facilitar el debate de estos temas. (Lea el informe de la reunión de expertos - en inglés).

¿Qué son las armas autónomas?

Los sistemas de armas autónomas (también conocidos como armas autónomas letales o “robots asesinos”) buscan, identifican y atacan objetivos de manera independiente, sin intervención humana. Hoy en día ya están en uso algunos sistemas de armas que tienen autonomía en sus “funciones críticas” de identificar y atacar objetivos. Por ejemplo, algunos sistemas de armas defensivas tienen modos autónomos para interceptar misiles, cohetes, proyectiles de artillería, así como aviones a corta distancia. Hasta ahora, estas armas suelen colocarse en forma fija en un lugar y funcionan en forma autónoma durante períodos cortos, en entornos acotados (por ejemplo, donde hay relativamente pocos civiles u objetos civiles) y contra limitados tipos de objetivos (es decir, principalmente municiones o bienes de carácter civil). Sin embargo, en el futuro los sistemas de armas autónomas podrían operar fuera de límites espaciales y temporales tan restringidos, en circunstancias rápidamente cambiantes y, tal vez, dirigir ataques contra objetivos humanos en forma directa.

¿Es un dron un tipo de arma autónoma?

Los sistemas de armas autónomas disparan armas sin intervención humana, en contraposición a los sistemas aéreos no tripulados (también conocidos como drones o aeronaves teledirigidas) empleados hoy.  Los drones pueden tener otros rasgos autónomos (como piloto automático y navegación), pero requieren operadores humanos para seleccionar objetivos y activar, dirigir y disparar sus armas.

Se han hecho llamamientos para una moratoria o una prohibición del desarrollo, la producción y el uso de sistemas de armas autónomas. ¿Apoya el CICR estos llamamientos?

El CICR no se ha sumado a estos llamamientos por el momento. Sin embargo, el CICR insta a los Estados a considerar las cuestiones jurídicas y éticas fundamentales relacionadas con el uso de sistemas de armas autónomas antes de que se los desarrolle más o se los emplee en un conflicto armado, de conformidad con el derecho internacional humanitario. El CICR está preocupado por el costo humano potencial de los sistemas de armas autónomas y si se los puede utilizar conforme al derecho internacional humanitario.

¿Qué prevé el derecho internacional humanitario sobre las armas autónomas?

No hay una norma específica sobre los sistemas de armas autónomas. Sin embargo, de conformidad con el derecho, los Estados tendrán la obligación de determinar si el empleo de un arma nueva, o de medios o métodos de guerra nuevos que desarrolle o adquiera estaría prohibido por el derecho internacional en ciertas condiciones o en todas las circunstancias, en virtud de lo establecido por el Protocolo adicional I a los Convenios de Ginebra.

En otras palabras, las normas de derecho internacional humanitario que desde hace larga data rigen la conducción de hostilidades, en particular las normas de distinción, proporcionalidad y precauciones en el ataque, se aplican para la totalidad de los nuevos armamentos y desarrollos tecnológicos en la guerra, incluidos los sistemas de armas autónomas. Esas revisiones jurídicas tienen una importancia crucial a la luz del desarrollo de las nuevas tecnologías de armamentos.

El reto central para cualquier Estado que desarrolle o adquiera un sistema de armas autónomas es asegurar que puede operarlo de conformidad con todas estas normas. Por ejemplo, no está claro cómo estas armas podrían discriminar entre un civil y un combatiente, como requiere la norma de distinción. Por cierto, dicha arma también podría tener que distinguir entre combatientes activos y aquellos que están fuera de combate o se rinden, así como entre civiles que participan directamente en las hostilidades y civiles armados, como el personal encargado de hacer cumplir la ley o los cazadores, que están protegidos contra los ataques directos.

Un sistema de armas autónomas también deberá operar de conformidad con la norma de proporcionalidad, conforme a la cual el número de víctimas civiles que incidentalmente podría provocar un ataque contra un objetivo militar no debe ser excesivo en relación con la ventaja militar concreta y directa prevista. Por último, un sistema de armas autónomas deberá operar de modo que permita tomar las precauciones necesarias en el ataque a fin de reducir al mínimo el número de víctimas civiles.

Los análisis de la tecnología actual y prevista indican que es improbable que estas capacidades de toma de decisiones puedan programarse en una máquina. En consecuencia, hoy en día existen serias dudas sobre la capacidad de los sistemas de armas autónomas de respetar el derecho internacional humanitario en todas las circunstancias, en los escenarios más acotados y en los entornos más simples.   

¿Cuáles podrían ser las consecuencias de usar sistemas de armas autónomas en los conflictos armados?

Algunos defensores de los sistemas de armas autónomas arguyen que éstas podrían programarse para operar con más “cautela” y precisión que los seres humanos y, por ende, emplearse para limitar el número no deliberado de víctimas civiles. Por otra parte, los críticos sostienen que los sistemas de armas autónomas siempre carecerán del criterio humano necesario para usar la fuerza de manera lícita y que es más probable que su uso conlleve un costo humano mucho mayor.

Asimismo, estos sistemas de armas también plantean cuestiones éticas serias, en tanto que su uso generalizado representaría un cambio de paradigma en la conducción de las hostilidades. La pregunta fundamental para todos nosotros es si los principios de humanidad y los dictados de la conciencia pública pueden permitir a las máquinas tomar decisiones de vida o muerte.

¿Quién es responsable si el uso de un sistema de armas autónomas da lugar a una violación del derecho internacional humanitario?

Por su condición de máquina, no podría responsabilizarse a un sistema de armas autónomas por una violación del derecho internacional humanitario. Más allá de la responsabilidad de quienes despliegan las armas, se plantea la cuestión sobre quién sería jurídicamente responsable si las operaciones de un sistema de armas autónomas provocaran un crimen de guerra: el ingeniero, el programador, el fabricante o el comandante que activa el arma. Si no puede determinarse la responsabilidad de conformidad con el derecho internacional humanitario, ¿es lícito o ético desplegar tales sistemas?

¿Cuál debería ser el eje de los debates futuros entre los Estados?

Con el aumento de la autonomía, existe el riesgo de sustituir la toma de decisiones humanas con la de las máquinas y, por lo tanto, de disminuir el control humano sobre el uso de la fuerza. Si bien se reconoce que los humanos deben mantener el control definitivo, se requiere una deliberación profunda acerca de qué constituye un control humano adecuado, significativo o apropiado sobre el uso de la fuerza.

El CICR ha recomendado que los Estados examinen la autonomía en las “funciones críticas” de los sistemas de armas autónomas existentes y futuras y que intercambien esa información, a fin de lograr una mejor comprensión. Los debates futuros deben abordar una cuestión primordial: ¿en qué punto, y en qué circunstancias, corremos el riesgo de perder control humano significativo sobre el uso de la fuerza?

Como quedan muchas preguntas sin respuesta, el CICR insta a los Estados a velar por que no se empleen sistemas de armas autónomas si no puede garantizarse el cumplimiento del derecho internacional humanitario.

 

Suscríbase a nuestro boletín