Presidente do CICV: “Devemos adotar uma abordagem para desenvolvimento e uso de novas tecnologias centrada no ser humano”

Presidente do CICV: “Devemos adotar uma abordagem para desenvolvimento e uso de novas tecnologias centrada no ser humano”

Discurso da presidente do Comitê Internacional da Cruz Vermelha, Mirjana Spoljaric, como parte do Diálogo de Shangri-La - sessão especial 5: IA, defesa cibernética e o futuro da guerra, 1.º de junho de 2024, Singapura.
Declaração 01 junho 2024 Singapura

Senhoras e senhores,

O CICV registra atualmente mais de 120 conflitos armados. Esse número mais que triplicou nos últimos 30 anos. Além disso, os conflitos armados contemporâneos têm repercussões multidimensionais, tanto no âmbito local como entre regiões.

Conferencistas empregam excessivamente termos como "encruzilhada" ou "momento decisivo" para chamar a atenção. No entanto, não devemos permitir que o jargão político nos distraia da realidade que o CICV e outros atores humanitários enfrentam nos campos de batalha atuais.

Tecnologias novas e emergentes estão mudando como os conflitos armados são travados e estão tornando-os mais complexos. O uso de operações cibernéticas em conjunto com as armas tradicionais e o crescente papel da inteligência artificial (IA), tanto nos sistemas de armas quanto no processo de tomar decisões, têm um lugar de destaque nas discussões sobre a evolução da guerra.

Aparentemente, essas novas tecnologias oferecem vantagens militares, como a capacidade de agir em velocidades muito superiores às capacidades humanas. Ou a capacidade de realizar ataques em ambientes onde não é possível estabelecer comunicações, como os espaços marítimos que são tão estratégicos na região Ásia-Pacífico.

No entanto, essas novas tecnologias também criam novos perigos para as sociedades. Elas aumentam os riscos de uma escalada não intencional; geram preocupações com a proliferação de armas; e agravam o já insuportável sofrimento das vítimas de conflitos armados.

Gostaria de destacar três mudanças preocupantes:

  • Em primeiro lugar, as tendências indicam que, no futuro, os sistemas de armas autônomas serão usados para atacar uma gama mais ampla de alvos, durante períodos mais longos e com menos possibilidades de intervenção humana.
  • Em segundo lugar, a inteligência artificial influi nas decisões militares sobre quem ou o que se torna um alvo nos conflitos armados e as acelera de modos que superam a capacidade cognitiva humana, o que prejudica a qualidade do processo de tomar decisões. Isso representa riscos adicionais para as pessoas civis.
  • Em terceiro lugar, operações cibernéticas são realizadas para incapacitar serviços estatais de uso civil, como o abastecimento de água e eletricidade, e para obstruir o trabalho dos serviços médicos e das atividades humanitárias.

As variantes mais complexas da IA – como os modelos generativos e outras formas de aprendizagem de máquina – têm uma relevância cada vez maior nessas transformações, num contexto em que os militares buscam aproveitar as diversas ferramentas que estão sendo criadas a um ritmo vertiginoso.

Integrada a diferentes armas e métodos de guerra, a IA pode exacerbar essas preocupações porque agrega fontes de imprevisibilidade e acelera o ritmo operacional a níveis que excedem o controle humano em campos de batalha que já se caracterizam por uma volatilidade extrema. Como consequência, fica mais difícil que comandantes e combatentes cumpram suas obrigações de acordo com o DIH.

As tensões geopolíticas ou a necessidade militar percebida não podem ser usadas como justificativa para descartar as considerações humanitárias. Na verdade, é durante essas situações complexas que se torna ainda mais importante preservar a humanidade.

Devemos adotar uma abordagem centrada no ser humano para o desenvolvimento e o uso de novas tecnologias a fim de continuar protegendo as vítimas de conflitos armados. Não podemos aceitar que as novas tecnologias de guerra sirvam para replicar — e, efetivamente, para amplificar — consequências ilícitas ou prejudiciais num ritmo mais acelerado e com maior magnitude.

Portanto, faço dois apelos a todos os Estados.

Em primeiro lugar, que deem prioridade ao DIH e reafirmem que estão comprometidos com seus princípios universalmente aceitos. Mais especificamente,

  • que concluam um novo tratado que regulamente os sistemas de armas autônomas. Esse tratado deve proibir as armas autônomas imprevisíveis e aquelas que tenham seres humanos como alvo, além de impor restrições estritas a todas as outras. Com o Secretário-Geral das Nações Unidas, fiz um apelo para que os Estados negociem e assinem urgentemente, até 2026, um tratado que regulamente os sistemas de armas autônomas;
  • nos casos em que a IA seja usada em sistemas que ajudam a tomar decisões militares, o critério humano deve continuar sendo central, especialmente nas decisões que representem riscos para a vida e a dignidade das pessoas;
  • no que diz respeito ao ciberespaço, os Estados devem definir em conjunto como proteger as sociedades das ameaças digitais. Muitos Estados apoiaram as recomendações concretas feitas pelo Conselho Consultivo Global do CICV sobre as ameaças digitais. No entanto, uma ação clara é urgentemente necessária.

Em segundo lugar, que reconheçam que o respeito ao DIH é um modo de investir na paz. As Convenções de Genebra foram ratificadas por todos os Estados e, portanto, constituem um consenso universal. Elas se opõem firmemente ao conceito de vitória militar a qualquer preço ou com todos os meios disponíveis.

Todo conflito armado provoca horror, desespero e um altíssimo custo humano e ambiental. No futuro, a guerra não será diferente, seja ela travada com armas tradicionais ou com novas tecnologias. Existem alternativas melhores. Prevenir ou reverter as corridas armamentistas e regulamentar o desenvolvimento de novas tecnologias de guerra são medidas eficazes que vão ao encontro do desejo da humanidade de viver em paz.

Ao abraçar a promessa da inovação, também precisamos continuar atentos para defender nossos compromissos e valores. As decisões que a comunidade internacional tomar hoje sobre essas novas tecnologias vão definir o futuro da guerra para as próximas gerações e para a vida de bilhões de pessoas em todo o mundo.

Por meio da cooperação, com a criação de acordos internacionais e o respeito a eles, podemos construir um futuro em que a tecnologia privilegie a humanidade e atue em prol da paz.

Obrigada.