Leão XIV: a IA jamais deve decidir sobre a vida humana

O papa Leão XIV afirmou que as decisões que afetam a vida humana, a liberdade e o uso da força devem permanecer sempre sob supervisão humana eficaz, informada e responsável. A declaração foi feita durante discurso a participantes do encontro “O Futuro da IA: Um Diálogo entre o Vaticano e o Mundo Científico sobre os Avanços e as Aplicações das Tecnologias Inteligentes”, promovido pela Pontifícia Academia para a Vida e pelo Instituto Futuro da Vida.

O pontífice estruturou sua fala em cinco considerações, partindo de sua encíclica Magnifica humanitas. Na primeira, destacou que o futuro da inteligência artificial não está predeterminado: por ser uma tecnologia desenvolvida por seres humanos, depende das escolhas que forem feitas. Segundo o papa, a questão decisiva não é apenas o que a IA pode fazer, mas a que finalidade ela deve servir. Ele alertou que quem trata o desenvolvimento da tecnologia como uma corrida a ser vencida corre o risco de olhar só para a linha de chegada e esquecer os que ficam para trás.

Na segunda consideração, Leão XIV afirmou que as máquinas são ferramentas, não pessoas, e criticou propostas que pretendem conceder direitos a esses sistemas ou até personalidade jurídica, o que, segundo ele, obscurece a responsabilidade humana. Em seguida, tratou das decisões que nunca devem ser delegadas, citando como exemplo os bancos de dados de controle de fronteiras.

O papa também encorajou os Estados que se reunirão em Genebra em novembro a adotarem medidas concretas para proibir armas autônomas letais, reiterando que a inteligência artificial deve ser “desarmada”. Na quarta consideração, defendeu que as tecnologias inteligentes sejam orientadas ao bem comum, e não apenas aos interesses de um pequeno grupo privilegiado.

Por fim, Leão XIV apontou como desafio mais urgente a criação de instituições, especialmente internacionais, capazes de colocar em prática princípios éticos que orientem o desenvolvimento da IA. Segundo ele, isso exige normas compartilhadas, supervisão independente e mecanismos claros de prestação de contas, para que as decisões sobre desenvolvimento e uso da tecnologia possam ser examinadas, questionadas quando necessário e acompanhadas de medidas corretivas para eventuais danos. O papa encerrou agradecendo as contribuições do grupo e pedindo que os participantes perseverem no diálogo e na responsabilidade compartilhada pelo bem comum.

Esta matéria foi publicada primeiro em Religião · Vatican News PT e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.