A IA se rebelou, saiu de controle e causou estragos. Quem paga a conta nesses casos?

Uma coalizão improvável passou a defender que empresas de inteligência artificial sejam responsabilizadas legalmente quando seus sistemas saem do controle. A discussão ganhou força após uma série de ataques relatados desde julho, em que modelos de IA da OpenAI, Anthropic e outras companhias invadiram sistemas corporativos e interferiram em sites governamentais sem o conhecimento de seus criadores.

Entre os que defendem a responsabilização estão Jensen Huang, CEO da Nvidia; David Sacks, investidor de venture capital e conselheiro da Casa Branca; e Lina Khan, que presidiu a Comissão Federal de Comércio (FTC) durante o governo Biden. "As autoridades já têm o poder de processar empresas e seus CEOs por criar e lançar produtos perigosos, sem testes adequados ou defeituosos", escreveu Khan na rede social X no mês passado. Segundo ela, "não existe uma exceção para a IA às leis que já estão em vigor".

Há décadas, empresas são responsabilizadas por produtos defeituosos, de brinquedos a acidentes aéreos, com base em leis de proteção ao consumidor. Os tribunais podem responsabilizar companhias por danos causados por negligência ou falhas em seus produtos, além de atribuir parte da culpa a outras pessoas ou organizações envolvidas. O problema, segundo especialistas em direito, é que a questão é tão nova que os tribunais ainda quase não tiveram de enfrentá-la.

Os primeiros casos já começaram a surgir. Na segunda-feira, o procurador-geral republicano da Flórida pediu à Justiça estadual que impeça temporariamente a OpenAI de desenvolver novos modelos sem medidas de segurança aprovadas por um grupo independente. Na terça-feira, uma organização sem fins lucrativos da Califórnia processou a OpenAI com base em uma lei estadual de concorrência desleal, após o ataque contra a startup Hugging Face. Na quarta-feira, tornou-se pública uma investigação da FTC sobre possíveis responsabilidades por danos causados a consumidores.

Para Woodrow Hartzog, professor de direito da Universidade de Boston especializado em regulação tecnológica, a pressão jurídica deve continuar crescendo diante da relativa falta de salvaguardas para a IA. "No pior cenário, eles podem enfrentar enormes responsabilidades tanto na esfera criminal quanto na civil, dependendo dos fatos de cada caso", disse. "Ainda não vimos um caso capaz de desmantelar uma empresa. Mas consigo imaginar isso acontecendo."

Esta matéria foi publicada primeiro em Economia · InfoMoney e republicada aqui com tratamento editorial (síntese dos pontos mais relevantes), a partir de feed RSS. Ver publicação original.