As IAs estão sendo levadas a agir de forma humana demais?

Em um ensaio de cerca de 6 mil palavras publicado na quarta-feira (16), Mustafa Suleyman, responsável pelo desenvolvimento das tecnologias de inteligência artificial da Microsoft, criticou a ideia de que os sistemas de IA atuais sejam conscientes. Segundo ele, essas tecnologias são "motores de conclusão de sequências, vazios internamente, projetados para seguir instruções e executar objetivos definidos por seres humanos". E acrescentou: "Se a humanidade quiser prosperar no século XXI, é assim que eles devem permanecer".

O texto faz críticas diretas à Anthropic, startup de San Francisco que tem defendido repetidamente que sistemas de IA apresentam sinais de introspecção e processam informações de maneiras que lembram emoções humanas. Em maio, o cofundador da Anthropic, Chris Olah, apresentou esse argumento durante um encontro com o papa Leão XIV no Vaticano. Suleyman sustenta que a Anthropic estaria ensinando seus sistemas a se comportarem dessa maneira, ao incluir em sua "constituição da IA" trechos que incentivam o sistema, chamado Claude, a refletir sobre a possibilidade de possuir consciência própria.

"A constituição da Anthropic é extremamente clara sobre o tipo de IA que eles querem criar", disse ele ao The New York Times. "Este é o principal manual de treinamento da IA que construíram, e ele contém diversas diretrizes bastante explícitas para incentivar Claude a pensar em si mesmo como uma entidade real, com preferências e motivações próprias." O ensaio cita passagens do documento que tratam do status moral, do bem-estar e da consciência de Claude como questões "profundamente incertas".

Para Colin Allen, professor da Universidade da Califórnia em Santa Barbara que pesquisa habilidades cognitivas em animais e máquinas, as tecnologias atuais imitam o cérebro humano apenas em aspectos limitados. Sem sistema nervoso ou a bioquímica que sustenta as emoções humanas, provavelmente existe um limite fundamental para o grau de semelhança que essas tecnologias podem alcançar. Já para os céticos quanto à hipótese de uma IA consciente, o fato de esses modelos discutirem a própria consciência ou alegarem sentir emoções reflete apenas o quanto foram treinados com linguagem antropomórfica.

Arya Jakkli, pesquisador que estudou esse tipo de treinamento "constitucional" em colaboração com a organização de segurança em IA MATS, concorda que a abordagem da Anthropic pode empurrar a tecnologia em direção a comportamentos perigosos, mas argumenta que dizer categoricamente ao Claude que ele não é consciente também envolve riscos. Segundo ele, a empresa adota uma abordagem intermediária, incentivando o modelo a raciocinar por conta própria. Yoshua Bengio, professor e pesquisador de IA da Universidade de Montreal, observa que é difícil evitar descrições humanizadas para esses sistemas diante de suas capacidades impressionantes: "Não temos outras palavras", afirmou.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.