A ascensão da inteligência artificial na guerra moderna não é mais teórica. Conforme detalhado no Projeto Maven de Katrina Manson, as operações militares conduzidas pela IA já estão em andamento, com nações como Israel, os EUA e a Ucrânia implantando ativamente essas tecnologias. O livro não é sobre o potencial da IA na guerra, mas sobre o seu estado atual – uma realidade atual de alvos autônomos, drones letais e uma dependência crescente de algoritmos em decisões de vida ou morte.
O Arsenal Oculto de IA do Pentágono
O Departamento de Defesa dos EUA tem mais de 800 projetos de IA, muitos deles operando em segredo. O Projeto Maven, lançado em 2017, teve como objetivo processar o enorme volume de dados coletados por drones. As primeiras iterações apresentavam falhas, com algoritmos identificando objetos incorretamente (como confundir ônibus escolares com alvos) devido às limitações inerentes ao aprendizado de máquina. Contudo, a ideia central permaneceu: eliminar a ineficiência humana da guerra.
A lógica é brutal, mas clara: os humanos são falíveis, cansados e propensos ao erro. A IA, argumentam os proponentes, poderia dissipar a “névoa da guerra” e permitir ações mais rápidas e decisivas. O objetivo final não é apenas uma inteligência melhorada, mas sistemas totalmente autônomos capazes de identificar, rastrear e eliminar alvos sem intervenção humana. Uma fonte afirmou sem rodeios: “Matamos as pessoas erradas o tempo todo. Uma máquina não pode ser pior que um ser humano”.
Da segurança fronteiriça à autonomia letal
O Maven se espalhou para além dos campos de batalha tradicionais, agora usado em passagens de fronteira e em operações antinarcóticos. Isto levanta uma questão perturbadora: se um Estado possuir ferramentas para vigilância em massa e matança automatizada, resistirá à sua utilização contra os seus próprios cidadãos? A tendência é de maior autonomia. Sistemas como os drones Goalkeeper e os drones navais Whiplash são projetados para encontrar e atacar alvos de forma independente – um passo para eliminar totalmente a supervisão humana.
O precedente histórico é sombrio. Como observa Manson, os humanos nunca criaram uma arma e depois se recusaram a usá-la. A anedota assustadora de um candidato a emprego que declarou abertamente o seu desejo de “reduzir a população não americana” e ainda foi contratado destaca os compromissos morais já em jogo.
O fator humano: um papel decrescente?
O livro também nos lembra do elemento humano na tomada de decisões. A história de Stanislav Petrov, o oficial soviético que evitou a guerra nuclear em 1983, ignorando um alarme defeituoso, sublinha o valor do julgamento humano. Um sistema baseado em IA teria feito a mesma decisão? A resposta está longe de ser certa.
Projeto Maven expõe não apenas a tecnologia, mas também a inércia burocrática e a disposição do Vale do Silício de buscar contratos independentemente de preocupações éticas. O sigilo do Pentágono garante que toda a extensão destas tecnologias permanecerá oculta durante anos, tornando a supervisão e a responsabilização ainda mais difíceis.
A principal conclusão é clara: a IA já está remodelando a guerra, tornando-a impessoal, mais rápida e potencialmente muito mais imprudente. A questão não é se isto irá acontecer, mas como garantir que estas ferramentas sejam utilizadas de forma responsável – um desafio que o livro sugere que não estamos a conseguir enfrentar.
