Fraudes, deepfakes e o verdadeiro risco da IA — que não é o apocalipse 

Nas últimas semanas, pesquisadores, executivos e investidores ligados a algumas das principais empresas de inteligência artificial do mundo, como Anthropic e OpenAI, passaram a defender publicamente uma postura mais cautelosa em relação ao avanço da tecnologia. Dario Amodei, cofundador e CEO da Anthropic, defendeu uma desaceleração no avanço dos modelos mais poderosos até que existam salvaguardas mais robustas. Depois, Sam Altman, CEO da OpenAI, admitiu que a empresa considera desacelerar o desenvolvimento de IA de ponta, e o principal cientista da empresa, Jakub Pachocki, publicou um alerta sobre os perigos da tecnologia, afirmando acreditar que as empresas deveriam coordenar uma desaceleração, "conforme necessário".

Para especialistas ouvidos pelo InfoMoney, as preocupações merecem atenção, mas os riscos mais concretos não estão necessariamente nos cenários futuristas frequentemente associados à inteligência artificial. Eles já aparecem hoje em áreas como fraude digital, cibersegurança e automação de ataques. "Estamos vendo um desenvolvimento acelerado da IA. Isso é fato. Agora o que vai acontecer entra no âmbito da especulação", afirma Leonardo Tomazeli Duarte, professor titular da Faculdade de Ciências Aplicadas da Unicamp e coordenador científico do Centro de Pesquisa Aplicada em Inteligência Artificial BI0S. Segundo o pesquisador, há um "fundo de verdade" nos alertas, mas parte do debate também incorpora elementos de espetacularização.

Eliomar Araújo, coordenador de projetos de P&D do Centro de Excelência em Inteligência Artificial (CEIA) da Universidade Federal de Goiás, avalia que, a curto e médio prazo, os riscos mais concretos estão relacionados a vieses dos modelos, alucinações e à própria segurança cibernética, que ganha uma nova escala com a inteligência artificial. Dados da Kaspersky ilustram o problema: apenas no segundo trimestre de 2025, a empresa bloqueou mais de 142 milhões de cliques em links de phishing. Em 2024, suas soluções impediram mais de 67 milhões de ataques do mesmo tipo, enquanto sistemas baseados em IA passaram a identificar mais de mil páginas de phishing por dia.

Para Sachin Kulkarni, cofundador e CTO da Oscilar, empresa especializada em gestão de risco para bancos e fintechs, a IA reduziu drasticamente o custo de produção de fraudes e tornou possível comprar vozes clonadas, documentos falsos e identidades sintéticas completas por valores relativamente baixos. Em um caso acompanhado pela empresa, uma campanha fraudulenta criou milhares de sessões com identidades sintéticas durante cerca de duas semanas. Nenhuma regra tradicional de detecção foi acionada e um sistema de biometria comportamental classificou todas as sessões como humanas. A fraude só foi descoberta quando as atividades passaram a ser comparadas entre si. A empresa estima que entre 5% e 7% das perdas classificadas por bancos como inadimplência ou perdas de crédito possam, na realidade, ser fraudes não identificadas.

A aparente ironia é que as mesmas capacidades de automação que ampliam o potencial de fraude também estão sendo usadas para combatê-la. Para María Isabel Manjarrez, pesquisadora sênior do Global Research and Analysis Team (GReAT) da Kaspersky, o futuro da detecção não é humano versus inteligência artificial, mas "IA maliciosa versus IA defensiva, com seres humanos supervisionando suas ações". No Brasil, segundo Tomazeli, o país ocupa posição peculiar: é altamente digitalizado e adota rapidamente novas tecnologias, mas participa pouco do desenvolvimento das ferramentas que utiliza e não tem um marco regulatório de IA.

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.