Se um sistema contribui para processos militares cujas consequências incluem baixas civis em massa, a responsabilidade pode ser limitada unicamente ao agente humano final? Essas não são questões exclusivas da Anthropic. Elas confrontam toda a aliança emergente entre o Vale do Silício e o aparato de segurança nacional dos EUA.
Na cidade de Minab, no sul do Irã, onde o calor sobe da terra em ondas cintilantes e a realidade do imperialismo persiste em cada porto e instalação militar, um míssil atingiu uma escola em 28 de fevereiro de 2026. O ataque matou 156 pessoas, incluindo 120 crianças, e o governo iraniano o denunciou imediatamente como um “crime flagrante”. As Nações Unidas classificaram o ataque como “uma grave violação do direito humanitário”. Os nomes das crianças mortas não circularam pelos centros de poder global com a mesma força que os nomes de generais, sistemas de armas e plataformas tecnológicas. Os iranianos mortos permanecem em grande parte anônimos para aqueles que debatem o futuro da inteligência artificial (IA), que foi usada pelos Estados Unidos — como foi revelado — neste ataque.
O assassinato das crianças abriu uma janela para uma das questões centrais da nossa era: quem é responsabilizado quando uma máquina entra na cadeia da violência? O papel desempenhado pela IA permanece incerto. Reportagens indicam que o Sistema Inteligente Maven das Forças Armadas dos EUA, que incorpora ferramentas de IA como o modelo Claude da Anthropic, esteve envolvido em operações militares contra o Irã. Pesquisadores continuam a examinar se sistemas assistidos por IA contribuíram de alguma forma para o processo de seleção de alvos. As evidências disponíveis ainda são incompletas.
O que chama a atenção é que os líderes da indústria de IA não estão mais à margem da máquina de guerra. Eles estão bem no meio dela. Quando questionado sobre o ataque, o CEO da Anthropic, Dario Amodei, disse que “não sabia exatamente” como Claude havia sido usado, descrevendo-o como “erros” que são “realmente terríveis”. No entanto, Amodei reiterou que o ataque à escola foi “um caso de uso que nem sequer viola nossas diretrizes”. Isso porque, em última análise, foi um humano quem tomou a decisão final de atacar a escola. A resposta de Amodei merece atenção especial.
Durante décadas, os arquitetos do poder tecnológico desenvolveram uma linguagem que distribui a responsabilidade de forma tão ampla que a dissolve. O engenheiro constrói a ferramenta, o contratado integra o sistema, o analista militar revisa o resultado, o oficial autoriza o ataque e o político aprova a guerra. O resultado é uma cadeia na qual todos participam e ninguém é responsabilizado. A linguagem do "humano no circuito" pertence a essa tradição. É claro que os humanos tomam as decisões finais. Os humanos também tomaram as decisões finais durante as guerras coloniais ocidentais que devastaram a Ásia e a África. Os humanos tomaram as decisões finais quando os Estados Unidos bombardearam aldeias no Vietnã. Os humanos tomaram as decisões finais durante a invasão ilegal do Iraque pelos Estados Unidos. A presença de uma assinatura humana no final de um processo não nos diz muito sobre a estrutura de poder que produziu o resultado.
A questão mais importante é esta: qual o papel da IA na configuração do cenário de tomada de decisões disponível aos humanos? Os sistemas militares modernos não são meras calculadoras. Eles organizam informações, priorizam possibilidades, identificam padrões, geram recomendações e direcionam a atenção. Influenciam o que os comandantes veem e o que não veem. Mesmo quando um humano mantém a autoridade formal, a arquitetura da percepção pode já ter sido construída por máquinas. É por isso que o debate não pode terminar com a frase "um humano tomou a decisão final".
O crime em Minab ocorre num momento em que as empresas de tecnologia se apresentam cada vez mais como guardiãs dos limites éticos. A Anthropic, em particular, cultivou uma imagem de cautela (o que fica evidente na Constituição de Claude). Ela falou de segurança, alinhamento e limites. Distinguiu-se de visões mais agressivas de implementação tecnológica. No entanto, toda instituição, em última análise, revela-se não por seus princípios, mas pelas situações em que esses princípios são testados. As mortes de crianças em uma escola representam um desses testes.
Se uma empresa não consegue determinar como sua tecnologia foi usada em uma operação militar, qual o sentido da supervisão? Se os executivos não têm visibilidade sobre a implantação, as alegações sobre salvaguardas tornam-se difíceis de avaliar. Se um sistema contribui para processos militares cujas consequências incluem baixas civis em massa, a responsabilidade pode ser limitada apenas ao agente humano final? Essas não são questões exclusivas da Anthropic. Elas confrontam toda a aliança emergente entre o Vale do Silício e o aparato de segurança nacional dos EUA. Ao longo da história, períodos de transformação tecnológica deram origem a novas alianças entre o capital e o poder militar. Ferrovias, telégrafos, aviação, física nuclear e redes digitais seguiram esse caminho. A inteligência artificial está agora seguindo o mesmo caminho. Seus defensores prometem precisão, eficiência e menos erros. No entanto, todas as gerações ouvem promessas semelhantes.
O século XX foi repleto de afirmações de que as novas tecnologias tornariam a guerra mais limpa, racional e humana. Os registros históricos oferecem pouco respaldo a esse otimismo. A tecnologia muitas vezes amplifica a escala e a velocidade da violência, mesmo quando promete contê-la. As crianças de Minab não se depararam com a IA como um debate filosófico. Elas a encontraram como parte de um sistema militar cujas consequências se manifestaram na forma de força explosiva. Se Claude desempenhou um papel significativo, um papel secundário ou nenhum papel no processo de seleção de alvos, ainda está por ser determinado. Os investigadores devem estabelecer os fatos, os jornalistas devem continuar a fazer perguntas difíceis e os cidadãos devem exigir transparência. Mas, mesmo antes que esses fatos sejam totalmente conhecidos, o episódio revela algo importante sobre o nosso momento político. A questão não é mais se a IA será integrada à guerra. Essa integração já está em curso. A questão é se as sociedades permitirão que decisões de vida ou morte sejam cada vez mais moldadas por sistemas que até mesmo seus criadores têm dificuldade em monitorar, explicar ou controlar.
A história da escola de Minab é um conto de advertência, não se limitando a um único ataque, uma única empresa ou uma única guerra. É um alerta sobre um futuro em que o poder tecnológico avança mais rápido do que a responsabilidade pública. E nesse futuro, a distância entre o engenheiro e o campo de batalha diminui com a IA e os drones, mesmo que a responsabilização se torne mais difícil de identificar entre os humanos que enviam máquinas para matar em seu nome.
Vijay Prashad é um historiador e jornalista indiano. É autor de quarenta livros, incluindo *Bullets from Washington*, *A Red Star Over the Third World*, *The Dark Nations: A History of the Third World*, *The Poor Nations: A Possible History of the Global South* e * How the International Monetary Fund Suffocates Africa* , este último em coautoria com Grieve Chelwa. É diretor executivo do Tricontinental: Institute for Social Research, correspondente-chefe da *Globetrotter* e editor-chefe da *LeftWord Books* (Nova Delhi). Também atuou nos filmes *Shadow World *(2016) e *Two Meetings (2017).
"A leitura ilumina o espírito".
Comentários
Postar um comentário
12