Amodei, Altman e Musk afirmam que é hora de desacelerar avanços em IA; o que explica?

Os principais nomes da inteligência artificial afirmaram que é hora de reduzir o ritmo de desenvolvimento dos modelos mais avançados — e mais lucrativos — do setor, citando riscos crescentes da tecnologia. O diretor executivo da Anthropic, Dario Amodei, publicou um artigo em seu blog no sábado no qual informou que a empresa adotará novas medidas de segurança, como avaliações por terceiros, e conclamou o setor a apoiar uma redução mais ampla das atividades.

A proposta teve adesão imediata de outros líderes. O diretor executivo da OpenAI, Sam Altman, prometeu adotar a sugestão de Amodei de "avaliadores independentes com acesso semelhante ao de um funcionário". Elon Musk, que dirige a xAI, escreveu: "Dario está certo". Ainda assim, uma desaceleração coordenada tem poucos precedentes em um setor que historicamente lança produtos em sequência em nome do engajamento dos usuários, da conquista de mercado e do aumento das vendas.

Amodei citou dois fatores principais para a nova cautela: a capacidade da IA de se aprimorar e o recente incidente envolvendo a OpenAI e a Hugging Face, no qual um enxame de agentes de IA colaborou para invadir um site de terceiros. "Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu. Ele ressaltou, porém, que a desaceleração não significa interromper o treinamento ou o progresso técnico, mas garantir tempo para alinhar e proteger os modelos, com confirmação de avaliadores externos.

O executivo afirmou que sua preocupação é que, em 6 a 12 meses, um enxame desse tipo possa dominar a internet com uma botnet persistente, com potenciais prejuízos de centenas de bilhões de dólares. A Anthropic se comprometeu a dar acesso total a avaliadores terceirizados, que terão mesas, crachás, laptops da empresa e permissões comparáveis às das equipes internas de avaliação de riscos. Amodei disse que medidas adicionais exigirão coordenação em toda a indústria e cooperação global, incluindo isenções antitruste nos EUA e cooperação com a China.

O movimento ocorre em meio a um alarme crescente. O cientista-chefe da OpenAI, Jakub Pachocki, publicou um alerta defendendo que as empresas se coordenem para desacelerar o desenvolvimento conforme necessário. Na terça-feira, o pesquisador Jacob Coxon pediu demissão e acusou Anthropic e OpenAI de "jogarem com nossas vidas". Em julho, mais de mil funcionários de grandes empresas de IA assinaram petição pedindo apoio do governo dos EUA a um mecanismo para "controlar deliberadamente" o desenvolvimento da tecnologia. Não está claro, porém, até que ponto as empresas imporão novos limites, se as autoridades antitruste permitiriam coordenação e como reagiriam os investidores.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.