xAI processa usuários do Grok por criarem vídeos infantis com deepfake, em um caso inédito para o setor

De acordo com a Reuters em 16 de julho, a xAI entrou com uma ação civil no Tribunal Federal do Texas contra Terry Harwood, homem da Carolina do Sul, acusando-o de usar o chatbot Grok para criar vídeos deepfake de abuso sexual infantil. Segundo a reportagem, trata-se da primeira vez que uma empresa de IA processa seus usuários, e o motivo envolve conteúdo gerado pelo usuário em sua plataforma.

Conteúdo da ação da xAI: o modus operandi de Harwood, as contramedidas de filtragem do Grok e os pedidos ao tribunal

（Fonte：Fingfx）

De acordo com a denúncia, Harwood abriu várias contas com identidades falsas, inseriu no Grok fotos comuns de adultos e de crianças e anexou instruções, exigindo que as imagens fossem transformadas em conteúdo pornográfico; a Al Jazeera informou que as pessoas retratadas não consentiram nem tinham conhecimento de que suas fotos estavam sendo usadas.

A xAI alega que o Grok recusou os pedidos acima e os marcou como violação das regras de conteúdo, mas a resposta de Harwood foi continuar modificando os prompts e tentando novamente. Nos documentos do processo, a xAI escreveu: “As ações do réu foram intencionalmente planejadas, com o objetivo de usar as ferramentas do autor para atividades criminosas, causando danos profundos e duradouros às vítimas reais.”

A xAI apresentou ao tribunal os seguintes dois pedidos:

Indenização por perdas: pede que Harwood indenize as perdas causadas por suas condutas, sem que o valor específico esteja indicado nos documentos do processo

Pedido de liminar: solicitar que o tribunal proíba Harwood de usar novamente qualquer produto do Grok

Execução na plataforma da xAI: em 2026, suspendeu mais de 52 mil contas, contribuindo para 244 prisões

A xAI revelou dados quantitativos de sua execução na petição: até o momento da submissão do documento, a empresa já havia suspendido 52.222 contas em 2026 e enviado 73.604 relatórios ao Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC); os relatórios acima contribuíram para pelo menos 244 ações de prisão em 2026.

Contexto regulatório do Grok: escrutínio na Europa e proibições na Malásia e na Indonésia

Antes de o processo ser aberto, a xAI já havia enfrentado pressões de múltiplas frentes sobre as funcionalidades do Grok: órgãos reguladores europeus abriram uma análise do Grok; a Malásia e a Indonésia já proibiram o uso desse chatbot, devido ao fato de que ele produz conteúdo que contém insinuações sexuais explícitas, segundo a Al Jazeera.

O próprio Elon Musk, em 14 de janeiro, no X, afirmou: “Não sei de Grok que tenha gerado qualquer foto nua de menor. Absolutamente nenhuma”, e acrescentou que o Grok não gera imagens espontaneamente e que seu princípio operacional é recusar a geração de qualquer conteúdo ilegal.

DEFIANCE Act: contexto legislativo de 2024 e avanço em estados

O DEFIANCE Act (“Ato de Resposta à Recalcitrância”) foi assinado e entrou em vigor no nível federal dos Estados Unidos em 2024, estabelecendo uma via legal para vítimas de deepfakes íntimos não consensuais entrarem com ações civis; atualmente, vários estados já aprovaram leis equivalentes em âmbito estadual.

Segundo a reportagem, a promulgação do DEFIANCE Act aumentou o número de processos movidos desse tipo, e a ação civil da xAI contra Harwood foi apresentada nesse contexto em que a lei já havia sido estabelecida.

Perguntas frequentes

Esta é a primeira vez que uma empresa de IA processa um usuário por conteúdo gerado na plataforma?

Segundo a reportagem, a ação civil da xAI contra Terry Harwood é a primeira em que uma empresa de IA processa seus usuários, e o motivo envolve conteúdo gerado pelo usuário na plataforma; a Reuters informou essa característica na cobertura do caso.

Quais são os dois pedidos específicos que a xAI apresentou ao tribunal?

A xAI apresentou dois pedidos ao Tribunal Federal do Texas: (1) exigir que Harwood indenize perdas (o valor específico não consta nos documentos do processo); (2) solicitar uma liminar para impedir que Harwood use novamente qualquer produto do Grok.

O que é o DEFIANCE Act e qual sua relação com este caso?

O DEFIANCE Act foi assinado e entrou em vigor no nível federal dos Estados Unidos em 2024, dando às vítimas de deepfakes íntimos não consensuais uma via legal para entrar com ações civis, e vários estados também aprovaram leis equivalentes em âmbito estadual. De acordo com a reportagem, a implementação dessa lei aumentou o número de processos relacionados, e a ação da xAI ocorreu nesse contexto em que essa estrutura legal já estava estabelecida.