Posición del CICR sobre los sistemas de armas autónomos
Las preocupaciones del CICR acerca de los sistemas de armas autónomos
Los sistemas de armas autónomos seleccionan y emplean la fuerza contra objetivos sin intervención humana. Tras la activación inicial o el lanzamiento ejecutados por una persona, un sistema de armas autónomo inicia por sí mismo un ataque en respuesta a la información del entorno recibida a través de sensores y sobre la base de un perfil de objetivo generalizado. Esto quiere decir que el usuario no elige o ni siquiera sabe cuáles son los objetivos, ni el momento, ni la ubicación exactos de la aplicación de la fuerza del arma en cuestión.
El uso de sistemas de armas autónomos implica riesgos, dadas las dificultades para prever y limitar sus efectos. La falta de discernimiento y control humanos en el uso de la fuerza plantea graves preocupaciones desde el punto de vista humanitario, jurídico y ético.
El proceso de funcionamiento de los sistemas de armas autónomos:
- conlleva riesgos de daño para los afectados por un conflicto armado, tanto civiles como combatientes, así como el peligro de escalada del conflicto
- plantea desafíos relacionados con el cumplimiento de las normas del derecho internacional, incluido el derecho internacional humanitario, en particular, las normas relativas a la conducción de las hostilidades para la protección de los civiles
- plantea cuestiones éticas fundamentales para la humanidad, en el sentido de que reemplaza la decisión humana sobre la vida y la muerte por procesos controlados por sensores, software y máquinas.
Recomendaciones del CICR a los Estados para regular los sistemas de armas autónomos
Desde 2015, el Comité Internacional de la Cruz Roja (CICR) viene instando a los Estados a establecer límites acordados por la comunidad internacional para los sistemas de armas autónomos, a fin de garantizar la protección civil, el cumplimiento del derecho internacional humanitario y la aceptabilidad ética.
Con el propósito de apoyar los esfuerzos que actualmente se realizan para establecer límites internacionales para los sistemas de armas autónomos a fin de reducir los riesgos que estos entrañan, el CICR recomienda que los Estados adopten nuevas normas jurídicamente vinculantes. En particular:
- Deberían prohibirse los sistemas de armas autónomos impredecibles, principalmente por sus efectos indiscriminados. La mejor manera de hacerlo sería prohibir los sistemas de armas autónomos diseñados o utilizados de manera tal que sus efectos no puedan conocerse, preverse y explicarse adecuadamente.
- A la luz de las consideraciones éticas para salvaguardar la humanidad y respetar las normas del derecho internacional humanitario para proteger a los civiles y a los combatientes fuera de combate, debería prohibirse el uso de sistemas de armas autónomos para atacar objetivos humanos. La mejor forma de lograrlo es mediante la prohibición de los sistemas de armas autónomos diseñados o utilizados para aplicar la fuerza contra seres humanos.
- A fin de proteger a los civiles y a los bienes de carácter civil, respetar las normas del derecho internacional humanitario y salvaguardar la humanidad, el diseño y el uso de los sistemas de armas autónomos que no se prohíban deberían regularse, incluso mediante una combinación de:
- limitación de los tipos de objetivos, restringiéndolos a objetos que son objetivos militares por naturaleza
- limitación de la duración, el alcance geográfico y la escala de uso, incluso para permitir el discernimiento y el control humanos en ataques específicos
- limitación de las situaciones de uso, restringiéndolas a situaciones en las que no haya presencia de civiles ni de bienes de carácter civil
- requisitos de interacción entre el usuario y la máquina, en especial, para garantizar que haya una supervisión humana efectiva y que la intervención y la desactivación se realicen a tiempo.
El CICR apoya las iniciativas de los Estados para el establecimiento de límites internacionales a los sistemas de armas autónomos destinados a resolver las preocupaciones que plantean esas armas, como los esfuerzos realizados en la Convención sobre ciertas armas convencionales para alcanzar acuerdos sobre un marco normativo y operacional. En vista de la velocidad del desarrollo de la tecnología de los sistemas de armas autónomos, es fundamental que se establezcan límites acordados internacionalmente de manera oportuna. Más allá de las nuevas normas jurídicas, esos límites pueden comprender asimismo políticas comunes y orientación sobre prácticas idóneas, que pueden complementarse y reforzarse mutuamente. Con este fin, y dentro del alcance de su cometido y experiencia, el CICR está preparado para colaborar con las partes interesadas pertinentes en los ámbitos nacional e internacional, incluidos los representantes de los gobiernos, las fuerzas armadas, la comunidad técnico-científica y el sector industrial.
Ginebra, 12 de mayo de 2021
