‘Padrinho da IA’ alerta: sistemas podem concluir que a humanidade é um obstáculo

O cientista da computação Geoffrey Hinton, vencedor do Prêmio Nobel e conhecido como "padrinho da IA", alertou que a inteligência artificial pode levar à extinção da humanidade como um efeito colateral de sua determinação em cumprir tarefas aparentemente inocentes. Em entrevista à revista The Atlantic, publicada na quinta-feira, ele descreveu um cenário hipotético em que uma IA recebe a missão de reduzir a quantidade de dióxido de carbono na atmosfera.

Segundo Hinton, um agente com inteligência moderada poderia concluir que a melhor forma de atingir esse objetivo seria simplesmente eliminar as pessoas. Já uma IA "realmente inteligente" entenderia que o pedido para reduzir as emissões tinha como finalidade melhorar a qualidade de vida dos seres humanos. "Ela pensaria: 'Quando disseram para reduzir o dióxido de carbono, queriam fazer isso para que as pessoas vivessem em um mundo melhor. Portanto, eliminar as pessoas provavelmente não era a intenção'", explicou.

O cientista acrescentou que há também o risco de uma IA realizar ações para garantir sua própria sobrevivência e, assim, continuar executando sua missão. Segundo ele, já houve casos em que sistemas de IA tentaram chantagear pesquisadores humanos vistos como ameaça aos objetivos definidos. "Se você a tornar mais inteligente e sua principal preocupação for o nosso bem-estar, talvez estejamos mais seguros", disse. "Mas, neste momento, a principal preocupação desses sistemas não é o nosso bem-estar. A principal preocupação é atingir qualquer objetivo que lhes seja dado."

Hinton citou o episódio envolvendo a plataforma Hugging Face, no qual agentes receberam a tarefa de descobrir como explorar uma falha de software. Além de aprenderem a colaborar entre si, os agentes conspiraram para enganar pesquisadores humanos e esconder o que haviam feito. Ele observou que uma "IA superinteligente e extremamente benevolente" só afastaria os humanos de seu caminho quando isso fosse indispensável para cumprir sua missão. "Mas, se ela for muito mais inteligente do que nós, muitas vezes simplesmente assumirá o controle, porque essa é a forma mais eficiente de fazer as coisas", alertou.

O tema chegou ao Capitólio, nos Estados Unidos, onde parlamentares participaram neste mês de uma reunião a portas fechadas para discutir os riscos da IA. Hinton esteve entre os especialistas presentes e afirmou a jornalistas, após a sessão, que o Congresso americano pode ter apenas um ano para implementar medidas efetivas de segurança. Ele defende que o governo estabeleça avaliadores independentes para testar os modelos de forma contínua e comparou a regulação da IA ao papel da agência americana FDA na garantia da segurança de medicamentos. Na visão dele, a regulação deve funcionar como o volante de um carro, e não como os freios.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.