Buscando limitar a autonomia nos sistemas de armas
Grupo de Especialistas Governamentais sobre os Sistemas de Armas Autônomas Letais, Convenção sobre Certas Armas Convencionais (CAC), declaração do CICV
O Comitê Internacional da Cruz Vermelha (CICV) tem a satisfação de contribuir com a segunda reunião do Grupo de Especialistas Governamentais sobre "Sistemas de Armas Autônomos Letais". O CICV gostaria de reconhecer e agradecer ao presidente da mesa pela condução dos debates e desejar muito êxito nos trabalhos desta semana.
Com base no valioso trabalho desenvolvido até agora, esta reunião propicia uma oportunidade para considerar, mais detalhadamente, os complexos desafios trazidos pelos sistemas de armas autônomos. Esperamos que se possa avançar em relação a um entendimento comum sobre as características dessas armas. Com esse propósito, será importante ampliar o escopo das discussões.
Na opinião do CICV, a finalidade da identificação dos sistemas em questão deve ser identificar as características que distinguem os sistemas de armas autônomos dos que são controlados diretamente por seres humanos, incluindo armas controladas remotamente. Não é necessário que o objetivo inicial seja definir os sistemas que geram preocupação.
A partir da perspectiva do CICV, o foco deve estar nas funções dos sistemas de armas que sejam mais relevantes para as obrigações legais e preocupações éticas dentro do marco da Convenção sobre Certas Armas Convencionais, nomeadamente a autonomia nas funções críticas de selecionar e atacar alvos. A autonomia das demais funções (como movimento e navegação) não deveria ser, na nossa opinião, relevante para as discussões.
As experiências com os sistemas de armas existentes com autonomia nas suas funções críticas deveriam ser aproveitadas para se alcançar um maior entendimento das questões jurídicas e éticas levantadas pela autonomia nos sistemas de armas, de modo geral, e da natureza do controle humano sobre o uso da força que deve ser mantido para um cumprimento das normas e aceitação ética. Para o CICV é crucial que as discussões sejam baseadas nas tecnologias do mundo real e nos desenvolvimentos a curto prazo da autonomia nos sistemas de armas. Não o fazer poderia significar ignorar os desenvolvimentos incrementais no tipo de autonomia que gera preocupação e que possa requerer respostas jurídicas e de políticas por parte da comunidade internacional.
O grau de controle humano sobre os sistemas de armas, e não a sua sofisticação tecnológica, deveria ser o eixo das discussões. São os seres humanos, não as máquinas, programas de computador ou sistemas de armas, que aplicam as normas e devem respeitá-las.
O Direito Internacional Humanitário (DIH) requer que aqueles que planejam, decidam e realizem ataques analisem a aplicação das normas quando lançarem um ataque. As considerações éticas são concomitantes a essa exigência - requerendo que a ação e a intenção humanas sejam mantidas nas decisões de usar a força. Os seres humanos, portanto, possuem responsabilidade nas fases de programação, desenvolvimento, ativação e operação dos sistemas de armas autônomos.
Conscientes das consequências humanitárias adversas em potencial pela perda de controle humano sobre as armas e o uso da força, o CICV propõe que seja necessário um nível mínimo de controle humano tanto de uma perspectiva legal como ética. Na visão do CICV, um sistema de armas sem controle humano seria ilegal pela sua própria natureza. Contudo, além dos chamados "sistemas de armas totalmente autônomos", existe a necessidade de se considerar a ampla gama de riscos relacionados aos sistemas de armas que possuem autonomia nas suas funções críticas.
As preocupações éticas relativas à perda da ação humana nas decisões de usar força, à diluição da responsabilidade moral e à perda da dignidade humana poderiam ter consequências de longo alcance, talvez impedindo o desenvolvimento e o uso de sistemas de armas antipessoal autônomos, e inclusive limitando a aplicação de sistemas antimaterial, dependendo dos riscos que a destruição de alvos materiales representa para a vida humana.
O CICV continua instando todos os Estados presentes na reunião a reflexionar sobre o que significa na prática controle humano "significativo" ou "efetivo". Os Estados devem também tratar das questões fundamentais sobre os sistemas de armas que podem produzir imprevisibilidade inerente, como os que empregam algoritmos de inteligência artificial (IA).
São alentadoras as afirmações feitas pelos Estados Partes da CAC neste Grupo de que o DIH é relevante e aplicável a qualquer tecnologia bélica emergente, incluindo sistemas de armas autônomos. O CICV acolhe com satisfação todos os esforços para aperfeiçoar o DIH, incluindo a ampliação de mecanismos para analisar a legalidade de novas armas. Realizar análises jurídicas dos sistemas de armas com autonomia nas suas funções críticas poderá apresentar desafios, em especial em relação aos padrões de previsibilidade e confiabilidade. O CICV encoraja a troca de informações e experiências sobre esses processos, acreditando que os esforços são complementares ao trabalho do Grupo de Especialistas Governamentais.
Tendo isso em mente, o CICV permanece convencido de que o objetivo geral deste Grupo deverá ser o de acordar os limites sobre a autonomia dos sistemas de armas. Como observado pelo CICV em reuniões anteriores sobre este tema, os desenvolvimentos tecnológicos que removam ou reduzam o controle humano direto dos sistemas de armas estão ameaçando ultrapassar as deliberações internacionais e os Estados devem, portanto, tratar dessa questão com certa urgência. Um enfoque "centrado no ser humano" deve orientar a identificação dos limites na autonomia dos sistemas de armas e das opções possíveis para lidar com os "sistemas de armas autônomos que geram preocupação".