Profissionais de IA estão 'genuinamente assustados' com futuro da humanidade, diz pesquisador que se demitiu da Anthropic

Profissionais que trabalham com inteligência artificial estão "genuinamente assustados" com a velocidade dos avanços da tecnologia e com o que ela pode representar para o futuro da humanidade. A avaliação é de Jacob Coxon, pesquisador de 27 anos que pediu demissão da Anthropic, empresa criadora do chatbot Claude, após três anos dedicados ao pré-treinamento de modelos de IA — primeiro na OpenAI e depois na Anthropic.

Em entrevista à BBC, Coxon afirmou que, se o ritmo atual de progresso não diminuir, existe uma grande chance de consequências extremas para a humanidade em um futuro próximo. O anúncio de sua saída foi feito em uma longa publicação no X, que viralizou em meio às crescentes preocupações do setor com a segurança da IA.

A demissão ocorre no momento em que Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, defendeu em um ensaio que o desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto. Segundo Amodei, o desenvolvimento da tecnologia não está em questão, mas os riscos associados a ela são "sérios" e exigem tempo de empresas e governos para serem tratados. Os chefes de duas empresas rivais, Sam Altman, da OpenAI, e Elon Musk, da xAI, disseram concordar com a proposta de desaceleração, regulamentação e monitoramento independente.

Coxon disse acolher a ideia de uma desaceleração, mas defendeu que ela seja coordenada com a China para evitar uma corrida em escala internacional. Ele afirmou que as pessoas que trabalham nessas empresas falam muito sério quando pedem regulamentação, porque se sentem presas em uma competição e temem as consequências dela. Um dos riscos citados por Amodei em seu ensaio foi o de um enxame de bots agindo como um supercomputador capaz de dominar a internet; segundo Coxon, esse cenário poderia se tornar realista dentro de seis meses a um ano.

As preocupações não são unânimes. O cientista da computação e ganhador do Prêmio Nobel Geoffrey Hinton, conhecido como o "Pai da IA", disse à BBC que uma probabilidade de 10% de a IA matar todos os humanos "não é irrazoável". Já Marc Warner, diretor executivo da Faculty AI, afirmou ser "extremamente difícil estabelecer uma probabilidade" de que isso ocorra, mas ressaltou que essas pessoas são muito sinceras no que dizem. O diretor executivo da Hugging Face, Clement Delangue, comparou perguntar a Coxon sobre o risco de extinção da IA a perguntar a um técnico de ar-condicionado sobre mudanças climáticas, pedindo que as coisas sejam mantidas em perspectiva.

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.