Tomando decisões com base em algoritmos: inteligência artificial e a proteção da infraestrutura civil em conflitos armados

 

Sistemas de apoio à decisão baseados em inteligência artificial (IA) estão cada vez mais integrados antes do uso da força, moldando a forma como os atores militares planejam ataques, avaliam efeitos e antecipam danos. Na guerra urbana contemporânea, onde a infraestrutura civil forma sistemas complexos e profundamente interconectados, essas ferramentas são cada vez mais utilizadas para orientar decisões com consequências humanitárias de longo alcance. Isso levanta questões críticas para o direito internacional humanitário (DIH), que exige que as partes antecipem e mitiguem danos civis previsíveis ao aplicar os princípios da proporcionalidade e da precaução, incluindo efeitos indiretos, cumulativos e sistêmicos sobre a infraestrutura civil. Neste artigo, a pesquisadora jurídica independente Yéelen Marie Geairon argumenta que, embora os sistemas de apoio à decisão baseados em IA não alterem as normas jurídicas que regem os ataques, eles remodelam significativamente a forma como a previsibilidade é operacionalizada na prática. Ao estruturar o que os decisores podem antecipar, comparar e justificar ex ante, os sistemas de IA recalibram a base factual do julgamento jurídico, ao mesmo tempo que introduzem novos riscos associados a lacunas de dados, opacidade e dependência excessiva de resultados técnicos. A proteção da infraestrutura civil em guerras facilitadas por IA depende, portanto, menos do desempenho tecnológico do que da disciplina jurídica, da transparência e do julgamento humano com que estas ferramentas estão integradas nos processos de tomada de decisão.

Os sistemas de apoio à decisão baseados em inteligência artificial (IA) estão agora totalmente integrados nos conflitos armados contemporâneos. Para além dos debates sobre a autonomia das armas, a sua utilização concentra-se agora a montante da utilização da força, nos processos de planeamento, definição de alvos e avaliação dos efeitos dos ataques. Notavelmente, na guerra urbana, onde a infraestrutura civil constitui um sistema complexo e profundamente interligado, estas ferramentas estão a ser cada vez mais utilizadas para orientar decisões que podem ter consequências humanitárias significativas. Ao estruturar o que os tomadores de decisão são capazes de prever, comparar e justificar, os sistemas de apoio à decisão baseados em IA estão, de forma discreta, mas substancial, remodelando a maneira como o Direito Internacional Humanitário (DIH) é aplicado a ataques que afetam a infraestrutura civil.

Da incerteza à simulação: IA e a nova arquitetura da previsibilidade

Conflitos recentes na Ucrânia, Gaza e Sudão revelam um padrão recorrente na guerra contemporânea: as consequências humanitárias mais graves dos ataques à infraestrutura civil não decorrem do ataque inicial, mas da interrupção prolongada dos sistemas civis interconectados. Os cortes de energia elétrica interrompem o abastecimento de água e as operações hospitalares; as redes de água e telecomunicações degradadas prejudicam os cuidados de saúde e a resposta a emergências; e as estradas e mercados danificados restringem o acesso a alimentos e serviços básicos. O Direito Internacional Humanitário exige especificamente que tais efeitos indiretos, tardios e estruturais sejam levados em consideração na avaliação ex ante dos ataques, particularmente à luz dos princípios da proporcionalidade e da precaução. É nesta fase de antecipação que os sistemas de apoio à decisão baseados em IA são agora apresentados como ferramentas capazes de compreender a crescente complexidade dos ambientes de conflito armado. Na prática, isso inclui a implantação de sistemas de Inteligência, Vigilância e Reconhecimento (ISR), que, como uma extensão de iniciativas como o Projeto Maven, dependem da análise automatizada de imagens de drones e satélites para identificar e priorizar objetos de interesse em ambientes densamente construídos. Além disso, ferramentas baseadas em aprendizado de máquina, como as de estimativa de danos colaterais, cruzam dados sobre densidades urbanas, a localização de infraestrutura crítica e diferentes cenários de impacto para produzir projeções probabilísticas dos efeitos diretos e indiretos de um ataque. Essas plataformas de fusão de dados agregam inteligência militar, sistemas de informação geográfica, dados de código aberto e dados humanitários para gerar visualizações que subsidiam a tomada de decisões operacionais. Embora os usos militares e os parâmetros técnicos dessas ferramentas permaneçam em grande parte não documentados publicamente, a lógica subjacente não é inédita. Sistemas comparáveis ​​são bem compreendidos e amplamente utilizados em contextos civis para gerenciar redes de infraestrutura complexas e interconectadas, bem como em vários contextos de segurança e gerenciamento de crises.

No setor energético, ferramentas de apoio à decisão baseadas em IA são utilizadas para modelar a distribuição de carga, antecipar falhas em cascata e avaliar os efeitos subsequentes de um corte de energia em serviços essenciais, incluindo abastecimento de água, transporte e saúde. Da mesma forma, na gestão de riscos de desastres e no planejamento de resiliência urbana, modelos de aprendizado de máquina são utilizados para simular as consequências humanitárias de interrupções na infraestrutura e para comparar opções de mitigação dentro de prazos definidos. Esses sistemas não se baseiam em correção de dados ou a eliminação total da incerteza; em vez disso, buscam reduzir o leque de possibilidades, destacar vulnerabilidades sistêmicas e estruturar escolhas complexas. Transpostas para o setor militar, essas tecnologias de modelagem e fusão de dados parecem ser particularmente relevantes para a avaliação de ataques direcionados a infraestruturas de uso duplo, frequentes em guerras urbanas. Por exemplo, uma subestação elétrica pode suportar certas capacidades militares, ao mesmo tempo que desempenha um papel central na operação da rede civil (por exemplo, fornecimento de energia residencial, hospitais, estações de bombeamento de água, etc.). Em uma abordagem mais tradicional, a avaliação diante de tal ataque seria baseada em uma avaliação essencialmente contextual e prospectiva. A probabilidade, a duração e a extensão de um apagão permaneceriam indeterminadas, e os efeitos em cadeia sobre os serviços essenciais seriam considerados de forma geral, marcados por significativa incerteza. Assim, os danos indiretos, embora avaliados em princípio, seriam difíceis de especificar com precisão, deixando ao tomador de decisões uma margem de apreciação relativamente ampla quanto ao que poderia razoavelmente ter sido previsto no momento da decisão.

O uso de sistemas de apoio à decisão baseados em IA altera significativamente esse cenário.

Ao modelar a carga da rede elétrica, simular diferentes cenários de interrupção e integrar dados contextuais sobre a dependência dos serviços civis, o sistema pode estimar a duração provável da interrupção, identificar as áreas afetadas e projetar as consequências, como no abastecimento de água ou no funcionamento dos hospitais. Essa dinâmica não se limita à infraestrutura de energia. As infraestruturas de telecomunicações, muitas vezes também de uso duplo, desempenham um papel central na proteção das populações civis, fornecendo acesso a serviços de emergência, coordenando esforços de ajuda e disseminando informações vitais. Quando uma plataforma de fusão de dados revela que a mesma rede suporta tanto funções militares quanto comunicações civis críticas, as simulações podem mostrar que o impacto humanitário de uma interrupção varia muito dependendo do contexto e do momento. Mais uma vez, a IA não decide sobre o ataque, mas modifica o conteúdo informativo em que a decisão de ataque se baseia, tornando visíveis efeitos que, de outra forma, seriam difíceis de antecipar dentro de prazos operacionais apertados. A ilusão da precisão: lacunas de dados, pontos cegos e viés do modelo . Apesar dessa oportunidade, a aplicação do raciocínio em análises probabilísticas e sistêmicas não está isenta de gerar tensões legais e humanitárias significativas. Ao traduzir realidades urbanas complexas em modelos, pontuações e probabilidades, os sistemas de apoio à decisão podem criar ilusões de controle e objetividade. Da mesma forma, as limitações dos dados disponíveis em contextos de conflito, marcadas por sua instabilidade, natureza parcial e inadequação diante de situações em rápida mudança, podem levar a uma subestimação de danos humanitários graves, embora tardios. De fato, no contexto de conflitos armados, práticas como reparos improvisados ​​de infraestrutura, o uso de redes alternativas ou a rápida adaptação das populações a graves perturbações muitas vezes não são capturadas nos conjuntos de dados disponíveis. A experiência humanitária ilustra essa lacuna, por exemplo, por meio da dependência de rotas informais, frequentemente ausentes dos bancos de dados, para a entrega de ajuda e o acesso a serviços essenciais.

Como resultado, uma decisão fortemente baseada em tais simulações pode negligenciar graves consequências humanitárias, não porque elas foram excluídas na ponderação da vantagem militar concreta e direta esperada em relação aos danos civis, mas porque foram insuficientemente representadas, ou mesmo tornadas invisíveis pelo modelo, distorcendo assim os parâmetros nos quais o processo de tomada de decisão se baseia.

Nesse contexto, a questão não é apenas a confiabilidade técnica das ferramentas de apoio à decisão baseadas em IA, mas o grau de diligência jurídica com que o julgamento humano é exercido ao aplicar os princípios do Direito Internacional Humanitário. De acordo com o Direito Internacional Humanitário, a aplicação da proporcionalidade e da precaução depende do que pode ser razoavelmente previsto no momento da tomada de decisão. Essa avaliação torna-se particularmente complexa quando os ataques afetam infraestruturas civis cuja importância humanitária reside menos nos danos físicos imediatos do que nos efeitos cumulativos e subsequentes. As escolas ilustram essa dificuldade. Embora não sejam instalações vitais em sentido estrito, elas estruturam a vida civil diária e sustentam uma série de funções sociais cuja interrupção pode gerar danos humanitários a longo prazo. Um ataque a um objetivo militar nas imediações de uma escola pode ter consequências que vão muito além da destruição física do edifício, incluindo a interrupção prolongada da educação, a perda de centros comunitários ou abrigos temporários e a interrupção duradoura de serviços sociais essenciais. Esses efeitos, que muitas vezes são difusos e indiretos, afetam diretamente a infraestrutura e as comunidades locais.