Perguntas frequentes sobre os Sistemas de Armas Autônomas

Muitas vezes chamados de “robôs assassinos”, os sistemas de armas autônomas (AWSs, na sigla em inglês) são armas que, quando ativadas, podem selecionar um alvo e empregar força sem intervenção humana.

“Sem intervenção humana” significa que, uma vez ativada por uma pessoa, a arma passa a funcionar por conta própria. As armas autônomas apresentam sensores para detectar fenômenos como calor, luz, movimento, formato ou velocidade e usa essas informações para comparar possíveis alvos com um “perfil-alvo” genérico. Por exemplo, um perfil pode incluir o formato, a velocidade ou a assinatura térmica ou de radar de um veículo militar. Se a arma identificar uma correspondência entre o objeto detectado e essas características predefinidas, ela pode iniciar um ataque automaticamente, sem que uma pessoa selecione o alvo específico nesse momento.

Sim, sistemas de armas autônomas já são realidade. Alguns exemplos incluem:

• Sistemas de defesa aérea e antimísseis, incluindo sistemas de armas de curto alcance em navios de guerra e sistemas terrestres que protegem bases. De maneira autônoma, esses sistemas detectam, rastreiam e interceptam mísseis, foguetes ou morteiros em aproximação, com muito mais rapidez do que qualquer pessoa seria capaz de fazê-lo.
• Sistemas de proteção ativa em tanques, que detectam e atacam automaticamente projéteis ou mísseis em aproximação antes que atinjam o veículo.
• Algumas munições com sensores integrados, que lançam submunições com sensores capazes de localizar e atingir certos tipos de alvos — como veículos blindados — sem que um ser humano selecione cada alvo individualmente.
• Alguns “drones kamikazes”, que, supostamente, podem rastrear uma zona e atacar alvos — como radares — que correspondam com um perfil pré-programado.

Hoje em dia, esses sistemas são, em grande parte, “baseados em regras” ou “determinísticos”. Costumam operar em ambientes controlados e visam um conjunto limitado de alvos militares, como mísseis inimigos e outros projéteis, radares militares e navios de guerra. No entanto, o Comitê Internacional da Cruz Vermelha (CICV) está preocupado com a aparente tendência de incorporar inteligência artificial (IA) cada vez mais complexa aos sistemas de armas autônomas. Também desperta grande apreensão o aparente interesse militar em flexibilizar as restrições sobre onde ou contra o que tais armas são usadas, o que pode ampliar a imprevisibilidade de seus efeitos. Isso geraria riscos significativos para civis e bens civis em conflitos armados.

Os sistemas de armas autônomas apresentam graves questões humanitárias, jurídicas e éticas, pois podem selecionar e atacar alvos sem intervenção humana adicional. Essas preocupações não estão ligadas apenas à tecnologia em si e, portanto, não podem necessariamente ser resolvidas por meio de soluções de engenharia ou escolhas relativas ao projeto.

1. Riscos humanitários: riscos de proliferação das armas e escalada do conflito. Assim como ocorre com qualquer arma, haverá uma proliferação das armas autônomas, que acabarão sendo usadas em violação ao Direito Internacional Humanitário (DIH), inclusive por grupos armados não estatais e organizações criminosas. De fato, elas são bastante suscetíveis à proliferação, visto que os sensores, softwares e outros componentes disponíveis no mercado se tornam cada vez mais baratos e acessíveis. Há também o risco de que as armas autônomas levem à intensificação dos conflitos. Por acelerarem drasticamente o processo de seleção e ataque a alvos, acabam aumentando o risco de erros de cálculo, limitando a possibilidade de intervenção humana e desescalada do conflito.

    

2. Desafios jurídicos: dificuldade de garantir o respeito ao DIH e ao Direito Internacional dos Direitos Humanos (DIDH). Como as armas autônomas selecionam e atacam alvos sem intervenção humana, as pessoas que a operam enfrentam dificuldades para prever as circunstâncias de um ataque e avaliar a conformidade com o DIH. Isso representa um desafio de grande magnitude em um cenário em que as armas autônomas se tornam mais complexas (e, portanto, menos previsíveis) ou quando são usadas em zonas populosas ou dinâmicas.

   Como consequência, cresce o risco de uso que viole as normas do DIH relativas à distinção, à proporcionalidade e à precaução no ataque. Essas normas exigem que sejam feitas avaliações de acordo com o contexto e as circunstâncias vigentes no momento. As armas autônomas não podem ser simplesmente “programadas” com antecedência nem reduzidas a indicadores técnicos. Determinar se uma pessoa é um civil participando diretamente das hostilidades, um combatente se rendendo ou de alguma forma protegido ou se os danos previstos sobre a população civil seriam excessivos requer uma compreensão qualitativa de fatores como intenção, conduta e contexto — algo que um cálculo automático não pode dar.

   Sistemas imprevisíveis ou opacos agravam esses obstáculos: se os usuários não conseguirem compreender, prever e explicar adequadamente como uma arma se comportará e quais efeitos ela poderá produzir, não será possível avaliar a legalidade de seu uso. Tais sistemas também podem prejudicar a responsabilização e prestação de contas quando ocorrem danos ilícitos.

    

3. Dilema ético: delegar concretamente a decisão de vida ou morte às máquinas. Além dos riscos humanitários e jurídicos, há uma questão ética fundamental: uma máquina deveria ter o poder de determinar se uma pessoa vive ou morre? Somente os seres humanos são capazes de reconhecer o valor intrínseco da vida humana, exercer julgamento moral e agir com moderação. Quando uma máquina identifica uma pessoa com base nos dados de sensores e em um perfil-alvo, essa pessoa corre o risco de ser reduzida a um conjunto de pontos de dados, e o discernimento humano fica fora da decisão de aplicar a força letal. Essa preocupação não desaparece com o mero aumento da precisão da tecnologia. Para o CICV, manter um controle humano significativo sobre as decisões que envolvem vida e morte é um imperativo moral.

O DIH já rege as armas autônomas. No entanto, o CICV acredita que as normas existentes não fazem uma abordagem adequada de todos os riscos humanitários, jurídicos e éticos inerentes a essas armas. É por isso que fazemos um apelo para que sejam desenvolvidas normas internacionais juridicamente vinculantes para proibir as armas autônomas inaceitáveis e impor limites rigorosos a todas as demais.

As armas autônomas não são necessariamente ilegais. As normas em vigor do DIH regulamentam seu uso, da mesma maneira que se aplicam a qualquer outro artefato militar, proibindo certos tipos de armas, como aquelas que são indiscriminadas por essência. Isso se aplica aos casos específicos de armas autônomas que funcionam de maneira opaca (o desafio da “caixa preta”), impedindo que seres humanos sejam capazes de compreender, prever ou explicar o resultado do sistema. Como o usuário de um sistema de armas autônomas não é capaz de direcionar a arma contra um alvo militar específico, o resultado prático é a falta de controle sobre seus efeitos, tornando seu uso indiscriminado por natureza.

Não importa qual seja a arma utilizada, qualquer ataque precisa respeitar as normas do DIH sobre a condução das hostilidades: deve ser direcionado exclusivamente a um alvo militar específico, não deve causar danos colaterais excessivos à população civil e todas as precauções viáveis devem ser tomadas para evitar danos aos civis. No entanto, no caso das armas autônomas, pode ser difícil avaliar e garantir com antecedência que essas determinações sejam cumpridas. O operador não escolhe — nem mesmo sabe — quem é a pessoa ou qual é o objeto específico que fará com que o sistema de armas autônomas seja acionado, nem exatamente quando e/ou onde o ataque ocorrerá. Essas particularidades estão sujeitas aos processos automáticos do sistema de armas (sensores, softwares, atuadores) e às informações sensoriais provenientes do ambiente operacional.

Então, como o usuário pode garantir que todo ataque de um sistema de armas autônomas seja direcionado apenas a um alvo militar legítimo, e não à população civil ou a alguém ferido ou que esteja se rendendo? Como o sistema pode avaliar, com antecedência, que qualquer dano indireto não será excessivo, mesmo que a situação no terreno mude entre a ativação e o impacto? E se ficar evidente que não se trata de um alvo militar? O DIH determina que se deve fazer tudo o que for viável para cancelar ou suspender o ataque nesses casos, mas, com uma arma autônoma, isso pode não ser possível.

É provável que a única saída para cumprir essas obrigações legais seja o descarte total de certos tipos de armas autônomas e a aplicação de restrições rigorosas ao ambiente operacional das outras armas, a fim de restringir os resultados possíveis.

É por isso que o CICV e muitos outros organismos fazem um apelo para novas normas juridicamente vinculantes que proíbam armas autônomas imprevisíveis e antipessoal, e imponham restrições claras aos demais artefatos militares.

Nem todos os drones armados são armas autônomas.

Um drone armado pilotado remotamente por uma pessoa que identifica o alvo e decide quando disparar não é uma arma autônoma. No entanto, um drone pode virar uma arma autônoma se, após ser ativado, selecionar um alvo para fazer uso da força sem que um ser humano escolha o alvo específico.

O critério fundamental não é se a arma voa de forma autônoma, mas se ela possui autonomia sobre as principais funções para atingir um alvo: selecionar pessoas ou objetos e empregar força contra eles.

Nem todos os sistemas de armas autônomas incorporam IA.

A autonomia das armas pode variar de simples a altamente complexa e pode não depender de IA, incluindo aprendizagem por máquina (que é quando o sistema aprende a partir de padrões de dados, aplicando-os na execução de determinadas tarefas). Por exemplo, os sistemas de defesa aérea podem ser autônomos, porém costumam utilizar softwares simples baseados em regras em vez de IA.

Existem outros sistemas de armas que podem incorporar IA, mas não em suas funções de seleção e ataques a alvos. Portanto, um sistema de armas que utilize IA apenas para fins de navegação não é necessariamente uma arma autônoma.

As armas autônomas já são realidade, variando de sistemas defensivos que atacam automaticamente mísseis em aproximação a “drones kamikazes” e armas com sensores embutidos. As preocupações do CICV residem nas tendências de se projetar sistemas para operar em áreas mais vastas, por períodos mais longos e contra uma gama mais ampla de alvos, ao mesmo tempo em que integram formas cada vez mais complexas de inteligência artificial.

Tais avanços militares e técnicos aumentam a imprevisibilidade, tanto em relação ao funcionamento das armas autônomas quanto à forma como elas interagirão com o ambiente operacional, criando riscos significativos para a população civil e os bens civis durante os conflitos armados.

Embora as pessoas que defendem as novas tecnologias armamentistas costumem alegar que tais armas têm o potencial de melhorar o cumprimento do DIH e minimizar os riscos para os civis, não é isso o que temos observado ao longo da história nem o que estamos vendo hoje.

Em muitos dos conflitos armados em curso ao redor do mundo que envolvem os meios de guerra mais sofisticados em termos tecnológicos, não temos visto um menor impacto sobre a população civil, que tem sofrido com níveis generalizados e inaceitáveis de danos e devastação. As funcionalidades anunciadas nas novas tecnologias não levaram a uma melhor precisão nem ao cumprimento dos princípios de distinção e precaução, mas sim à aceleração, ao aumento e à escalada da destruição, com resultados terríveis para os civis.

Isso cria um ambiente cada vez mais imprevisível e, consequentemente, com maiores riscos de danos à população civil, além de deixar evidente a necessidade de impor proibições e restrições claras aos sistemas de armas autônomas, a fim de impedir práticas que possam minar as proteções previstas no DIH.

Os sistemas de armas autônomas antipessoal são armas capazes de selecionar e atacar diretamente seres humanos.

O CICV olha para esses sistemas com extrema preocupação, pois os sinais que indicam a situação de uma pessoa em um conflito armado — por exemplo, se essa ela está se rendendo, ferida ou participando diretamente das hostilidades — variam muito conforme o contexto. Isso torna o reconhecimento por meio de um processo automatizado bastante desafiador. Ademais, o contexto pode mudar de maneira rápida, com grandes chances de que um erro de identificação traga consequências trágicas.

Portanto, é difícil imaginar situações realistas de combate em que o uso de sistemas de armas autônomas contra pessoas não representasse um risco significativo de violações do DIH.

Além dos riscos operacionais e legais, há uma questão mais profunda em jogo: uma máquina deveria ter o poder de determinar se um ser humano vive ou morre? Somente os seres humanos são capazes de reconhecer e compreender o valor intrínseco da vida humana. Se uma máquina visasse alguém com base em dados de sensores e em um perfil-alvo, essa pessoa seria reduzida a pontos de dados. Não haveria espaço para discernimento humano e moderação moral. Esse é um limite moral que não devemos cruzar, independentemente do grau de precisão que a tecnologia venha a atingir.

Embora tais armas possam, em tese, ser utilizadas em conformidade com o DIH, a experiência com outras armas antipessoal (p. ex., minas terrestres antipessoal) mostra que isso raramente acontece. A proibição absoluta é, portanto, a solução mais prática e eficaz, oferecendo clareza e confiabilidade às forças armadas e a proteção necessária para combatentes e civis.

Sistemas de armas autônomas imprevisíveis são aqueles que impedem que um usuário humano compreenda, preveja ou explique o funcionamento e os efeitos do sistema. Esse é particularmente o caso de sistemas de armas autônomas que incorporam IA com o objetivo de encobrir seu funcionamento (o desafio da “caixa preta”).

O resultado prático da imprevisibilidade é a falta de controle sobre os efeitos das armas, tornando seu uso indiscriminado por natureza, o que é vedado pelo DIH.

A proibição absoluta é, portanto, a solução mais prática e eficaz, proporcionando a capacidade de distinção necessária para a proteção de civis e promovendo o respeito às Normas da Guerra.

A tendência de uma maior autonomia das armas e um afrouxamento das restrições operacionais já é evidente. A lacuna entre o que as máquinas podem fazer e o que deveria ser permitido que elas fizessem está se ampliando.

Em 25 de agosto, a presidente do CICV, Mirjana Spoljaric, e o secretário-geral da ONU, António Guterres, fizeram um novo apelo conjunto urgente aos líderes mundiais para que adotem novas normas internacionais sobre as armas autônomas, em um alerta crítico de que estamos muito perto de cruzar um limite moral: a seleção autônoma de alvos humanos por máquinas.

Como os próprios cientistas e engenheiros que desenvolvem esses sistemas também estão levantando um alerta e instando por regulamentação, o mundo não pode se dar ao luxo de permitir que o uso de sistemas de armas autônomas se generalize ou que atrasos façam com que a tecnologia e a prática deixem a regulamentação para trás.

Sem uma ação internacional oportuna para estabelecer limites jurídicos e éticos claros, existe o risco de que armas autônomas inaceitáveis sejam desenvolvidas e se proliferem. E uma vez que tais armas estiverem amplamente implantadas, os riscos para a população civil e a segurança global serão muito mais difíceis de conter.

O ano de 2026 é decisivo. Na Sétima Conferência de Revisão da Convenção sobre Certas Armas Convencionais (CCAC), que ocorrerá de 16 a 20 de novembro de 2026, os Estados têm uma oportunidade crucial para deixar a discussão de lado e partir para a negociação de novas normas internacionais destinadas a regulamentar os sistemas de armas autônomas. Os princípios vigentes do DIH se aplicam às armas autônomas, entretanto, novas normas podem esclarecer os limites antes que práticas problemáticas se consolidem.

O CICV faz um apelo para todos os Estados para que negociem um instrumento internacional juridicamente vinculante que:

• proíba dois tipos de sistemas de armas autônomas:
  • aqueles cujos efeitos são imprevisíveis, o que provavelmente ocorre quando os sistemas incorporam formas de IA capazes de produzir resultados diferentes nas mesmas circunstâncias;
  • aqueles projetados para atingir diretamente seres humanos (sistemas de armas autônomas antipessoal);
  • e restrinja todas as outras armas autônomas, incluindo a limitação a alvos de natureza militar, bem como a limitação do alcance geográfico, da duração, das situações e da escala de uso, além da incorporação de meios eficazes de neutralização, desativação e destruição.

O CICV considera que essas regulamentações são fundamentais para lidar com os riscos humanitários, jurídicos e éticos representados pelos sistemas de armas autônomas. É importante ressaltar que não estamos defendendo a proibição total de todos os sistemas de armas autônomas ou da incorporação de IA nesses sistemas. Reconhecemos que a IA pode ser útil para algumas funções, como a navegação, melhorando a precisão das armas.