Perguntas frequentes: inteligência artificial no âmbito militar

Sistemas de armas autônomas (AWSs, na sigla em inglês) são aqueles que, quando ativados, podem selecionar um alvo para fazer uso da força sem intervenção humana.

“Sem intervenção humana” significa que após um ser humano ativar o sistema, a tecnologia começa a usar informações do ambiente — coletadas por meio de sensores de calor, luz, movimento, formato, velocidade ou outros sinais — para comparar potenciais alvos com um “perfil de alvo” generalizado. Exemplos desses perfis incluem o formato, a assinatura infravermelha ou de radar ou a velocidade de um veículo militar.

Nem todo sistema de armas autônomas possui IA incorporada. Eles variam de sistemas simples a altamente complexos e podem não ser dependentes de inteligência artificial, incluindo aprendizagem por máquina (um tipo de sistema de IA que aprende a partir de padrões de dados, aplicando-os na execução de determinadas tarefas). Sistemas de defesa aérea podem ser um AWS, porém costumam utilizar softwares baseados em regras em vez de IA.

Com apreensão, o CICV aponta a aparente tendência de incorporar cada vez mais tecnologias complexas de inteligência artificial a sistemas de armas autônomas, o que pode agravar as questões sobre a imprevisibilidade dos efeitos. Outros sistemas de armas podem ter IA incorporada e não ser um AWS: por exemplo, quando o software controla funções como vigilância ou navegação. Um sistema de apoio à decisão impulsionado por IA pode fornecer dados que alimentam um sistema de armas, contudo, isso não constitui um AWS se o tomador de decisão for um ser humano.

As armas autônomas podem selecionar alvos para fazer uso da força sem intervenção humana, o que prejudica a previsão ou controle dos resultados por seus usuários. Os sistemas também enfrentam dificuldades na hora de diferenciar civis de combatentes, reconhecer pessoas feridas e soldados rendidos ou interpretar situações complexas. Essa imprevisibilidade aumenta o risco de ataques indiscriminados ou de alguma maneira ilícitos conforme previsto no DIH.

O CICV está bastante preocupado com a implantação de AWSs em ambientes complexos, sobretudo em áreas povoadas, onde é muito mais difícil distinguir objetivos militares da população civil e bens civis.

Sim. Alguns AWSs já estão em uso pelas forças armadas. Exemplos incluem os sistemas de defesa antimísseis em navios de guerra, que detectam e atacam mísseis em aproximação de maneira totalmente autônoma. Esses sistemas geralmente operam em ambientes controlados e têm como alvo objetos militares bem definidos.

É visível a tendência em direção a uma maior autonomia dos sistemas de armas e o interesse militar em flexibilizar as restrições sobre onde ou contra o que usar tais armas. O CICV está particularmente preocupado com a perspectiva de AWSs com IA incorporada passarem a ter um funcionamento e efeitos imprevisíveis. Também merecem atenção os sistemas projetados para atingir diretamente seres humanos, pois representam riscos inaceitáveis para civis, bem como para combatentes feridos ou doentes ou que naufragaram ou se renderam.

Os AWSs podem ser relativamente baratos e fáceis de desenvolver. A tecnologia atual permite uma produção sem muitos impedimentos, aumentando o risco de proliferação.

Os AWSs antipessoais são armas capazes de selecionar e atacar diretamente seres humanos.

O CICV considera esses sistemas particularmente preocupantes porque os sinais que indicam a situação de um indivíduo em um conflito armado — por exemplo, se essa pessoa está se rendendo, ferida ou participando diretamente das hostilidades — variam muito conforme o contexto, tornando o reconhecimento por meio de um processo automatizado extremamente desafiador. Além disso, essa situação pode mudar de maneira rápida, com grandes chances de que as consequências de um erro de identificação sejam trágicas.

Portanto, é difícil imaginar situações realistas de combate em que o uso de sistemas de armas autônomas contra pessoas não representaria um risco significativo de violações do DIH.

Há também profundas preocupações éticas sobre deixar decisões de vida ou morte a cargo das máquinas. Somente seres humanos podem reconhecer e compreender o valor intrínseco da vida humana.

O processo de funcionamento de um AWS antipessoal reduziria os seres humanos a pontos de dados. Isso subverte o princípio fundamental de que as pessoas nunca devem ser reduzidas a objetos.

A experiência com outras armas antipessoais (p. ex., minas terrestres antipessoais) mostra que, embora tais armas possam, em tese, ser utilizadas em conformidade com o DIH, na realidade isso raramente acontece. A proibição absoluta é, portanto, a solução mais prática e eficaz, proporcionando clareza e confiabilidade para as forças armadas e a proteção necessária tanto para combatentes quanto para civis.

Sistemas de armas autônomas imprevisíveis são aqueles que impedem que um usuário humano compreenda, preveja ou explique o funcionamento e os efeitos do sistema. Esse é o caso, por exemplo, de AWSs que incorporam IA com o objetivo de encobrir seu funcionamento (o desafio da “caixa preta”).

O resultado prático é a falta de controle sobre os efeitos da arma, tornando o seu uso indiscriminado por natureza.

É nítida a tendência em direção a uma maior autonomia dos sistemas de armas e à expansão dos parâmetros operacionais desses sistemas. Sem uma ação internacional oportuna para estabelecer limites jurídicos e éticos claros, existe o risco de que armas autônomas inaceitáveis sejam desenvolvidas e proliferadas. E uma vez que tais armas estiverem amplamente implantadas, os riscos para os civis e para a segurança global serão muito mais difíceis de conter.

A 7ª Conferência de Revisão da Convenção sobre Certas Armas Convencionais, marcada para 16 a 20 de novembro de 2026, oferece aos Estados uma oportunidade crucial para iniciar as negociações sobre um novo instrumento juridicamente vinculante que regulamente os sistemas de armas autônomas.

Com relação aos sistemas de armas autônomas, o CICV apela aos Estados pela negociação de um instrumento internacional juridicamente vinculante que:

• Proíba armas autônomas imprevisíveis: armas autônomas cujos efeitos não possam ser adequadamente previstos ou controlados, o que é mais provável de ocorrer quando os sistemas incorporam formas não determinísticas de IA.
  • Proíba armas autônomas antipessoais: armas autônomas projetadas ou utilizadas para atingir diretamente seres humanos.
    • Restrinja o uso e o desenvolvimento de todas as outras armas autônomas: limitando os tipos de alvos, bem como o alcance geográfico, a duração, as situações e a escala do uso.

Em 2024, o CICV apresentou suas opiniões para consideração do Secretário-Geral das Nações Unidas sobre formas de abordar os desafios e preocupações relacionados aos AWSs sob as perspectivas humanitária, jurídica, de segurança, tecnológica e ética. O documento também refletiu sobre o papel dos seres humanos no uso da força: leia aqui (disponível em inglês).

Esses sistemas analisam grandes conjuntos de dados para apoiar decisões militares, mas apresentam riscos relacionados ao modo de funcionamento da IA e à falta de dados de qualidade e específicos ao contexto de conflitos armados.

Seu uso também levanta questões sobre o viés de automação — a tendência dos seres humanos de confiar excessivamente em recomendações ou resultados gerados por máquinas, sobretudo em situações de alta pressão ou tempo limitado. Isso pode levar os usuários a aprovarem automaticamente os resultados da IA sem exercer um julgamento independente.

Além disso, no território do adversário, os oponentes podem deliberadamente manipular os dados ou explorar as vulnerabilidades do aparato.

Os sistemas têm a capacidade de ampliar a velocidade e a escala dos erros, podendo gerar uma escalada indesejada, sobretudo se os usuários não realizarem uma análise independente.

Em determinadas circunstâncias, o uso cuidadoso e responsável dos sistemas de apoio à decisão (SADs) impulsionados por IA pode facilitar uma análise mais rápida e abrangente das informações, o que permite apoiar decisões que reforcem o respeito pelo DIH e minimizem os riscos para civis. Por exemplo, o uso de um SAD impulsionado por IA pode auxiliar na coleta e síntese de informações sobre a presença de civis e bens civis provenientes de repositórios de código aberto disponíveis na internet. O sistema também pode apoiar o planejamento de operações militares ao recomendar meios e métodos de ataque que evitem, ou pelo menos minimizem, danos indiretos a civis. A eficácia de qualquer ferramenta desse tipo continuará sujeita às limitações da tecnologia e à disponibilidade de dados de boa qualidade.

Por fim, o impacto do uso dessas tecnologias sobre os civis dependerá da maneira como elas forem projetadas e utilizadas.

É importante ressaltar que o uso de sistemas de apoio à decisão impulsionados por IA jamais será considerado um aprimoramento de metodologias de seleção de alvos ou de outras políticas que, de alguma forma, não estejam em conformidade com o Direito Internacional Humanitário. Inserir SADs impulsionados por IA dentro de tais estruturas servirá apenas para replicar e, provavelmente, exacerbar efeitos ilícitos ou de outra forma prejudiciais mais rapidamente e em maior escala.

O CICV preparou 16 recomendações preliminares para abordar os riscos associados aos SADs impulsionados por IA em conflitos armados. Essas recomendações destacam a importância de preservar o julgamento e o controle humanos. As principais medidas incluem:

• assegurar testes, avaliações, verificações e validações rigorosas, além de análises jurídicas;
• utilizar dados confiáveis e de alta qualidade;
• mitigar os riscos de vieses e resultados discriminatórios;
• garantir uma participação humana significativa e a capacidade de contestar os resultados da IA;
• aprimorar o treinamento de usuários, inclusive sobre viés de automação;
• realizar análises pós-ação.

O CICV também ressalta que certos usos da IA devem ser proibidos, como em sistemas de comando e controle nuclear ou sistemas de armas autônomas que tenham seres humanos como alvo direto ou produzam efeitos imprevisíveis.

As recomendações são orientadas por uma abordagem centrada no ser humano, com o objetivo de garantir que sistemas de IA sirvam apenas como suporte, sem prejudicar ou substituir a tomada de decisão humana.

Operações cibernéticas são operações utilizadas como meios ou métodos de guerra que, por meio de um fluxo de dados, atacam um computador, um sistema/rede ou outro dispositivo conectado. Em resumo, trata-se do uso de um computador para causar danos a outro sistema de computador, rede ou dados.

As operações cibernéticas podem interromper, desativar ou danificar componentes físicos de serviços, infraestruturas e dados civis. Esses ataques correm o risco de causar ferimentos ou a morte de, por exemplo, pessoas hospitalizadas quando desativam dispositivos médicos, apagam dados ou o interrompem o fornecimento de eletricidade.

O DIH impõe limites a operações cibernéticas durante conflitos armados. O CICV trabalha de forma bilateral e multilateral com Estados e grupos de hackers para garantir que as normas vigentes do DIH sejam interpretadas e aplicadas para assegurar a proteção adequada dos civis, da infraestrutura civil e dos dados, incluindo centros médicos e organizações humanitárias. No entanto, se tais normas forem interpretadas de uma maneira que comprometa a função protetora do DIH no contexto das tecnologias de informação e comunicação, normas complementares serão necessárias para fortalecer o marco legal existente.

Segundo o DIH, empresas de tecnologia e seus funcionários são, à primeira vista, bens de caráter civil e, por tal natureza, protegidos de ataques militares. Todavia, essa proteção pode ser retirada se algum funcionário desempenhar certas atividades ou se os bens da companhia forem destinados a fins específicos. Por exemplo, quando a infraestrutura ou os serviços de uma dada empresa de tecnologia são utilizados por uma parte de um conflito armado para contribuir efetivamente para uma ação militar, de modo que sua destruição (total ou parcial), captura ou neutralização ofereça vantagem militar definitiva a um adversário conforme as circunstâncias vigentes à época, a empresa passa a ser um objetivo militar.

O CICV, portanto, incentiva as empresas de tecnologia a avaliarem cautelosamente como seus produtos e serviços podem ser usados em conflitos armados. As companhias também devem tomar medidas para evitar um possível envolvimento em violações do DIH e para mitigar os riscos que suas tecnologias possam apresentar à população civil.

Sim. O CICV estabelece um diálogo com empresas de tecnologia e outros grupos de interesse envolvidos no desenvolvimento de sistemas de IA. As conversas concentram-se em familiarizar as empresas com o DIH, incluindo como os serviços e as atividades podem expor os funcionários, os ativos e os clientes da empresa a danos. O foco também é discutir como sistemas de IA podem ser projetados e desenvolvidos para melhor promover o respeito pelo DIH e reduzir os danos à população civil.