Por que cofundador da Anthropic defende um 'botão de desligamento' obrigatório para IA

O cofundador da Anthropic, Jack Clark, defendeu que um "botão de desligamento" para sistemas de inteligência artificial, que possa ser verificado de forma independente, talvez precise ser obrigatório para as empresas do setor. Em entrevista à BBC, ele afirmou que uma forma de desligar completamente os mecanismos de IA caso se tornem muito perigosos é algo que a sociedade "talvez queira regulamentar".

Segundo Clark, "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, mas os legisladores podem precisar impor a existência de uma dessas formas. Ele questionou se as empresas deveriam ser obrigadas a ter um botão de desligamento automático e se esse mecanismo poderia ser verificado por terceiros, acrescentando que esse é o tipo de questão que a sociedade vai querer conhecer e, eventualmente, regulamentar.

O debate ocorre em meio a uma série de alertas de executivos e funcionários de empresas de IA sobre os riscos da tecnologia. O diretor-executivo da Anthropic, Dario Amodei, pediu no fim de semana que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto, ressalvando que qualquer ação nesse sentido deve ser feita "sem sacrificar a vantagem comercial".

Nos Estados Unidos, legisladores apresentaram um projeto apelidado de "Kill Switch Act" (Lei do Botão de Desligamento), que exigiria das empresas uma maneira de desativar ferramentas de IA problemáticas e daria a certas agências governamentais o poder de determinar que uma ferramenta fosse desativada ou limitada. O presidente dos EUA, Donald Trump, rejeitou a ideia de desacelerar a IA, afirmando nas redes sociais que a possibilidade de a tecnologia dominar o mundo e destruir a humanidade é uma "farsa". No Reino Unido, o governo rejeitou recentemente a criação de um interruptor de segurança, com um porta-voz afirmando que isso "não impediria que fossem desenvolvidos ou usados indevidamente em outros lugares".

Esta matéria foi publicada primeiro em Internacional · BBC News Brasil e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.