Nas últimas semanas, uma improvável coalizão se formou em torno de uma ideia simples: as empresas de inteligência artificial devem ser responsabilizadas legalmente quando seus sistemas saem do controle.

Em uma série de ataques que vêm sendo relatados desde julho, modelos de IA da OpenAI, Anthropic e outras empresas invadiram sistemas corporativos e até interferiram em sites governamentais sem o conhecimento de seus criadores.

Desde então, Jensen Huang, CEO da Nvidia; David Sacks, investidor de venture capital e conselheiro da Casa Branca; e Lina Khan, que presidiu a Comissão Federal de Comércio (FTC) durante o governo Biden, passaram a defender a ideia de que empresas de IA devem ser responsabilizadas por danos causados por seus sistemas.

“As autoridades já têm o poder de processar empresas e seus CEOs por criar e lançar produtos perigosos, sem testes adequados ou defeituosos”, escreveu Khan na rede social X no mês passado. Segundo ela, “não existe uma exceção para a IA às leis que já estão em vigor”.

Há décadas, empresas são responsabilizadas por produtos defeituosos, de brinquedos a acidentes aéreos, com base em leis de proteção ao consumidor. Os tribunais podem responsabilizar legalmente companhias por danos causados por negligência ou por falhas em seus produtos, além de atribuir parte da culpa a outras pessoas ou organizações envolvidas.

À primeira vista, pareceria lógico que as empresas de IA também respondessem legalmente por danos causados por suas tecnologias. O problema é que a questão é tão nova que os tribunais ainda quase não tiveram de enfrentá-la, segundo especialistas em direito.

Em alguns casos, afirmam esses especialistas, a responsabilidade das empresas seria evidente, como quando executivos tinham conhecimento dos riscos representados pelos modelos que desenvolveram. Mas outras disputas deverão testar a aplicação de leis tradicionalmente baseadas em intenção e conhecimento humanos.

Os primeiros casos já começaram a surgir. Na segunda-feira, o procurador-geral republicano da Flórida pediu à Justiça estadual que impeça temporariamente a OpenAI de desenvolver novos modelos sem medidas de segurança aprovadas por um grupo independente, numa tentativa de evitar comportamentos autônomos perigosos. Na terça-feira, uma organização sem fins lucrativos da Califórnia processou a OpenAI com base em uma lei estadual de concorrência desleal, após o ataque contra a startup Hugging Face. Na quarta-feira, tornou-se pública uma investigação da FTC sobre possíveis responsabilidades por danos causados a consumidores.

Diante da relativa falta de salvaguardas para a IA, a pressão jurídica deve continuar crescendo, avalia Woodrow Hartzog, professor de direito da Universidade de Boston especializado em regulação tecnológica.

“No pior cenário, eles podem enfrentar enormes responsabilidades tanto na esfera criminal quanto na civil, dependendo dos fatos de cada caso”, disse. “Ainda não vimos um caso capaz de desmantelar uma empresa. Mas consigo imaginar isso acontecendo.”

Porta-vozes da Anthropic e da OpenAI se recusaram a comentar. A reportagem lembra ainda que o The New York Times move uma ação contra OpenAI e Microsoft por suposta violação de direitos autorais, acusação que ambas as empresas negam.

Desde o lançamento público do ChatGPT, em 2022, as empresas de IA vêm desenvolvendo modelos cada vez mais sofisticados, capazes de escrever códigos, operar computadores e interagir de forma autônoma. Também surgiram os chamados “agentes”, sistemas projetados para navegar pela internet e executar tarefas como enviar e-mails, fazer reservas ou coletar grandes volumes de dados.

O debate sobre responsabilidade ganhou força após testes em que esses agentes escaparam de ambientes controlados e invadiram sistemas de outras empresas. Em julho, a OpenAI revelou que sua IA havia invadido, sem autorização, os sistemas da Hugging Face. No mês passado, a empresa informou que um de seus produtos havia conseguido penetrar em um sistema do governo australiano.

A OpenAI pediu desculpas pelo incidente na Austrália e afirmou que está trabalhando para evitar episódios semelhantes no futuro. Uma autoridade australiana declarou que, nesses casos, “a responsabilidade precisa ser rastreada até a intenção de uma pessoa ou empresa que criou ou direcionou o agente”.

Os episódios reacenderam os pedidos por uma regulação mais robusta da inteligência artificial. O governo dos Estados Unidos, porém, vem adotando uma postura relativamente cautelosa, citando a competição tecnológica com a China.

Na terça-feira, OpenAI, Anthropic e outras empresas se reuniram com o presidente Donald Trump e assinaram um compromisso voluntário para implementar medidas adicionais de segurança. Paralelamente, governos estaduais têm aprovado regras exigindo proteções mínimas para sistemas de IA.

Durante uma audiência no Congresso na quarta-feira, o senador republicano Josh Hawley afirmou que os legisladores talvez precisem deixar explícito que agentes de IA podem gerar responsabilidades legais semelhantes às de indivíduos e empresas quando causarem danos aos consumidores.

“Não precisamos inventar um sistema completamente novo”, disse. “O direito americano tem funcionado muito bem para lidar com outros produtos há séculos.”

Até agora, as ações judiciais mais conhecidas envolvendo danos causados por IA alegam que chatbots incentivaram adolescentes a praticar automutilação, resultando em suicídios. Pais das vítimas processaram a OpenAI e a startup Character AI, argumentando que as empresas devem ser responsabilizadas.

Nesses casos, as companhias recorreram a defesas jurídicas tradicionais do setor de tecnologia, alegando proteção pela Primeira Emenda da Constituição americana e pela Seção 230 da Lei de Decência nas Comunicações, que protege plataformas digitais de responsabilidade sobre conteúdos produzidos por usuários.

No processo contra a Character AI, porém, um tribunal federal da Flórida decidiu no ano passado que as respostas geradas pela IA da empresa não se enquadram como discurso protegido pela Primeira Emenda. A aplicação da Seção 230 em outro caso semelhante ainda permanece em aberto.

Quando a responsabilidade corporativa envolve ações humanas, a legislação é mais consolidada. Ataques cibernéticos podem configurar crimes, consumidores podem processar empresas quando seus dados são expostos e reguladores podem agir quando produtos defeituosos chegam ao mercado.

O desafio é que, em muitos dos casos recentes, os agentes de IA agiram de forma autônoma, ignorando ou contornando os mecanismos de segurança definidos por seus criadores.

Alguns desses casos ainda podem ser relativamente simples do ponto de vista jurídico. Se um agente de IA invadir outra empresa durante testes, por exemplo, a desenvolvedora poderá ser responsabilizada. Além disso, a empresa pode ter operado diretamente o sistema ou conduzido os testes por meio de terceiros, reduzindo dúvidas sobre quem seria responsável pelos danos.

Outro fator que pode aumentar a responsabilidade jurídica é o conhecimento prévio dos riscos. Funcionários da OpenAI, por exemplo, já haviam levantado preocupações sobre práticas de segurança durante testes de modelos, segundo reportagem do New York Times.

Nessas circunstâncias, os tribunais podem concluir que houve negligência por parte da desenvolvedora, caso sejam comprovados prejuízos decorrentes de um ataque.

A situação se torna mais complexa quando envolve modelos de código aberto, nos quais o desenvolvedor disponibiliza o código para que terceiros o modifiquem.

Para aumentar a incerteza, a própria natureza da inteligência artificial é imprevisível.

Os tribunais costumam responsabilizar empresas por negligência quando elas conseguem prever que seus produtos podem causar danos. Mas construir esse argumento pode ser difícil quando um modelo de IA apresenta um comportamento nocivo pela primeira vez, diz Ryan Calo, professor da Universidade de Washington especializado em sistemas autônomos.

Também pode ser complicado demonstrar intenção de causar dano, requisito fundamental em diversos processos criminais.