Armas autónomas: los Estados deben abordar importantes retos humanitarios y éticos

¿Las armas autónomas podrían distinguir entre un combatiente y un civil? ¿Su sofisticada tecnología las haría mejores que los soldados a la hora de identificar objetivos militares? ¿Quién sería responsable si violaran el derecho internacional humanitario? Dadas las numerosas cuestiones que plantea el empleo de armas autónomas, para las que aún no se ha hallado respuesta, el CICR insta a los Estados a evaluar el costo humano del empleo de las nuevas tecnologías de guerra y las consecuencias que tendría en cuanto al derecho internacional humanitario.

¿Qué son las armas autónomas?

Las armas autónomas (también conocidas como robots autónomos letales o "robots asesinos") podrían buscar, identificar y atacar objetivos, incluidos seres humanos, empleando fuerza letal sin que intervenga un humano. A diferencia de los sistemas defensivos altamente automatizados que se suelen emplear en la actualidad, por lo general para derribar misiles o morteros de artillería, por ejemplo, las armas autónomas podrían operar fuera de límites espaciales y temporales muy estrechos. Podrían aprender a adaptar su funcionamiento en respuesta a circunstancias cambiantes en el entorno en el que se las despliegue.

Aún no se han empleado armas de este tipo en el campo de batalla. Sin embargo, esta cuestión suscita un interés considerable y atrae fondos para investigación, de modo que esas armas podrían ser una característica de las guerras del futuro.

Se han hecho llamamientos para interrumpir o prohibir el desarrollo, la producción y el empleo de armas autónomas. ¿El CICR apoya esos llamamientos?

Por ahora, el CICR no se ha sumado a esos llamamientos. Sin embargo, insta a los Estados a considerar los aspectos jurídicos, éticos y sociales fundamentales relacionados con el empleo de armas autónomas antes de que se las desarrolle o despliegue en los conflictos armados, tal como exige el derecho internacional humanitario. Al CICR le preocupa el potencial costo humano de los sistemas de armas autónomos y el hecho de si se los podrá emplear conforme a lo requerido por el derecho internacional humanitario.

¿Qué establece el derecho internacional humanitario acerca de las armas autónomas?

No existen normas específicas sobre las armas autónomas. Sin embargo, el derecho establece que los Estados deben determinar si el empleo de armas, medios o métodos de guerra nuevos que desarrollen o adquieran estaría prohibido por el derecho internacional humanitario en algunas circunstancias o en todas. En otras palabras, las normas del derecho internacional humanitario, establecidas ya desde hace largo tiempo, en particular las normas de distinción, proporcionalidad y precauciones en el ataque, se aplican a todas las armas nuevas y los desarrollos tecnológicos bélicos, incluidas las armas autónomas.

El principal desafío para los Estados es asegurarse de que los sistemas autónomos puedan cumplir todas estas normas. Por ejemplo, hoy en día no se sabe con claridad si esas armas podrían distinguir entre un civil y un combatiente, como exige la norma de distinción. En realidad, las armas de ese tipo tendrían que poder distinguir no sólo entre combatientes y civiles, sino también, por ejemplo, entre combatientes activos y combatientes fuera de combate, y entre civiles que participan directamente en las hostilidades y civiles armados, como el personal de mantenimiento del orden o los cazadores, que están protegidos contra los ataques directos. Las armas autónomas también deberían cumplir la norma de proporcionalidad, que exige que los daños a civiles causados incidentalmente por un ataque contra un objetivo militar no sean excesivos en relación con la ventaja militar directa y concreta prevista. Por último, en el empleo de armas autónomas, se debería poder aplicar las precauciones requeridas en los ataques destinados a reducir lo máximo posible el número de víctimas civiles.

¿Los drones son un tipo de arma autónoma?

Las armas autónomas podrían funcionar sin supervisión humana, a diferencia de los aviones manejados a distancia (también conocidos como "drones") que hoy se emplean y que necesitan de operadores humanos para seleccionar objetivos y activar, dirigir y disparar las armas que llevan.

¿Cuáles podrían ser los beneficios y los riesgos del empleo de armas autónomas?

Los defensores de los sistemas autónomos sostienen que, gracias a los sensores sofisticados y la inteligencia artificial que emplean, estos sistemas podrían identificar los objetivos militares y evitar víctimas civiles de forma más eficiente que un soldado humano. También sostienen que los sistemas de armas autónomos no estarían influenciados por emociones humanas negativas, como el miedo, el enfado o el deseo de venganza. Por otro lado, los sistemas de armas autónomos carecerían de emociones humanas positivas, como la compasión, el juicio y la experiencia humana, necesarias para evaluar correctamente un intento genuino de rendirse o la ventaja militar directa y concreta prevista de un ataque. Por otro lado, el despliegue de esas armas reflejaría un cambio de paradigma y de calidad importante en cuanto a la conducción de las hostilidades. En última instancia, la cuestión de si los dictados de la conciencia pública permitirán que las máquinas tomen decisiones de vida o muerte y apliquen fuerza letal sin control humano.

¿Quién es responsable si el empleo de un arma autónoma da lugar a una violación del derecho internacional humanitario?

Dado que es una máquina, un arma autónoma no podría ser responsabilizada de una violación del derecho internacional humanitario. Esto plantea la cuestión de quién sería legalmente responsable si el empleo de un arma autónoma diera lugar a un crimen de guerra: ¿el programador, el fabricante o el comandante que despliega el arma? Si la responsabilidad no puede ser determinada como exige el derecho internacional humanitario, ¿es lícito o ético desplegar sistemas de ese tipo?

Dado que aún no se hallado respuesta para muchas cuestiones de las que plantean las armas autónomas, el CICR insta a los Estados a tomar las medidas necesarias para evitar el empleo de esas armas si es imposible garantizar que respete el derecho internacional humanitario.