O engenheiro da Anthropic que alertou para o risco de a IA exterminar a humanidade

O pesquisador de segurança da Anthropic Evan Hubinger afirmou que a inteligência artificial avança rápido o suficiente para que, em sua avaliação, haja mais de 10% de chance de a tecnologia "possa matar todos os humanos" na próxima década. Em publicação no X, ele disse que o risco representado pelos modelos atuais é "baixo", mas se declarou "preocupado" com a possibilidade de a tecnologia se desenvolver e melhorar a si mesma em breve a ponto de se tornar um risco existencial para a humanidade.

Formado em Matemática e Ciência da Computação pelo Harvey Mudd College, Hubinger passou pelo MIRI (Machine Intelligence Research Institute) e pela OpenAI, onde trabalhou em pesquisa de segurança de IA. Ele não explicou como acredita que sistemas de inteligência artificial poderiam, no futuro, levar à extinção da humanidade. A manifestação foi uma resposta a outra publicação no X, feita por Jacob Coxon, pesquisador de IA que acaba de deixar a Anthropic e que já trabalhou na OpenAI. "Nenhuma das duas empresas está agindo de forma responsável", escreveu Coxon.

Hubinger trabalha com alinhamento de IA, área que busca incorporar à tecnologia ideias e princípios éticos humanos — em outras palavras, mantê-la alinhada ao que os seres humanos valorizam. Em sua publicação, que foi visualizada mais de 10 milhões de vezes, ele disse que "realmente acreditamos, de forma sincera" que a IA representa um risco de extinção da espécie humana. "Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho para isso", acrescentou.

Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, disse à BBC que ficou "chocada" com as publicações de Hubinger e Coxon nas redes sociais. Ela afirmou ao programa World at One, da BBC Radio Four, que parte disso poderia ser "relações públicas e marketing", enquanto Anthropic e OpenAI corriam para realizar suas estreias no mercado de ações. Mas acrescentou: "Por que alguém iria querer dizer isso? Eu pediria aos investidores que não investissem nesta empresa se esse for o sistema de valores dela."

Os alertas de figuras de destaque do setor vêm se tornando mais contundentes nas últimas semanas, à medida que surgem evidências de que as empresas podem estar tendo dificuldades para controlar a IA. No início deste mês, o cientista-chefe da OpenAI, Jakub Pachocki, pediu "extrema cautela" em relação ao avanço da tecnologia, alertando que pode ser necessária uma intervenção maior para garantir que "os humanos continuem no controle do futuro". Em carta aberta assinada por 1,3 mil funcionários de empresas de IA, o setor pediu ao governo dos Estados Unidos que "apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para deliberadamente desacelerar o desenvolvimento de fronteira da IA automatizada".

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.