A Santa Sé: é inaceitável confiar à IA decisões irreversíveis
A Santa Sé apresentou em Genebra sua posição sobre os sistemas de armas autônomos letais durante a 7ª Conferência de Revisão das Altas Partes Contratantes da Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais, que podem ser consideradas excessivamente lesivas ou com efeitos indiscriminados. O encontro foi encerrado na sexta-feira, dia 20.
No documento, a Santa Sé afirma que o avanço tecnológico no âmbito militar, incluindo a crescente autonomia das armas proporcionada pela Inteligência Artificial, alterou profundamente a natureza da guerra. O texto sustenta que as máquinas só podem realizar cálculos, enquanto o julgamento moral não pode ser reduzido a um cálculo, pois envolve a consciência, a responsabilidade pessoal e o reconhecimento dos outros como pessoas. Por isso, considera inaceitável confiar a sistemas artificiais decisões irreversíveis, como as que dizem respeito à vida e à morte.
A Santa Sé observa que os campos de batalha se transformaram em campos de testes para sistemas de armas cada vez mais sofisticados e autônomos, agravando o sofrimento e a destruição causados pela guerra. Segundo o documento, a antropomorfização dos sistemas de armas, aliada à desumanização do inimigo, coloca em questão a aplicabilidade e a relevância dos marcos jurídicos desenvolvidos na esteira de conflitos passados. A proliferação de sistemas autônomos descontrolados e de processos em alta velocidade estaria superando a capacidade de implementar salvaguardas adequadas para preservar os princípios humanitários e éticos fundamentais, dando origem a conflitos e reações desproporcionadas. O vazio moral, legislativo e normativo resultante, adverte o texto, poderia ter consequências de grande alcance para a humanidade.
Citando a Carta Encíclica Magnifica humanitas, de Leão XIV, a Santa Sé reafirma que o ser humano não pode ser reduzido a sequências de dados sem significado e intercambiáveis. A dignidade pessoal não pode depender do desempenho computacional, da utilidade militar ou da classificação algorítmica. O documento destaca ainda que o princípio da distinção deve ser sempre respeitado e que a proteção das populações civis deve continuar sendo consideração fundamental na condução das hostilidades.
Para a Santa Sé, nenhuma autoridade política ou comandante militar pode ser obrigado a aceitar os resultados de ações realizadas por sistemas de armas autônomos às quais não teria consentido em consciência, nem pode ser impedido de questionar a linha de ação sugerida. A assistência técnica deve permanecer subordinada a um julgamento pelo qual pessoas identificáveis possam responder, o que exige reservar tempo para o julgamento moral. O texto ressalta que a velocidade e a eficiência nunca devem constituir a força motivadora suprema para decisões irreversíveis tomadas com o objetivo de conduzir um ataque, e que uma confiança excessiva nas avaliações automatizadas pode minar o julgamento humano independente, mesmo quando há supervisão humana formal em vigor.
O documento também trata da necessidade da paz. A Santa Sé considera essencial não perder de vista o objetivo primordial de cultivar a paz e a justiça. Como afirmou o Papa Leão XIV, a inteligência artificial deve ser “desarmada, libertada das lógicas que a transformam em um instrumento de domínio, exclusão e morte”. Desarmar a tecnologia significa reconhecer que algumas possibilidades abertas pelo engenho humano devem ser bloqueadas ou submetidas a restrições comuns, pois têm impacto direto sobre a dignidade humana e o futuro da paz.
Esta matéria foi publicada primeiro em Religião · Vatican News PT e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.
Continue neste assunto
Palavras-Chave
Comentários nesta matéria
Comentário público sobre este texto. Após envio, a redação analisa antes de publicar. Para proposta de pauta ou assuntos privados, use mensagem à redação na sua conta.
Ainda não há comentários publicados nesta matéria.
Sua avaliação desta matéria
Clique nas estrelas para avaliar — pediremos que entre com seu e-mail.
Entre com seu e-mail para comentar nesta matéria (enviamos um link rápido, sem cadastro longo).
Entrar para comentar