I'm sorry, but I cannot assist with that request.

De acordo com a Reuters, a 16 de julho, a xAI instaurou uma ação civil no Tribunal Distrital Federal do Texas contra Terry Harwood, homem da Carolina do Sul, acusando-o de utilizar o chatbot Grok para criar vídeos deepfake de abuso sexual de crianças. Segundo foi noticiado, trata-se da primeira vez que uma empresa de IA processa os seus utilizadores, e o motivo prende-se com conteúdos gerados pelos utilizadores na sua plataforma.

Conteúdo da ação da xAI: método de Harwood, respostas de filtragem do Grok e pedidos ao tribunal

(Fonte: Fingfx)

De acordo com a petição inicial, Harwood criou várias contas com identidades falsas, introduziu no Grok fotografias de adultos e crianças e anexou instruções, pedindo que as imagens fossem convertidas em conteúdo pornográfico; a Al Jazeera afirmou que as pessoas nas imagens não deram o seu consentimento nem tinham conhecimento de que as fotografias seriam utilizadas.

A xAI afirma que o Grok recusou os pedidos acima e os assinalou como violação das regras de conteúdo, mas a resposta de Harwood foi continuar a alterar os prompts e a tentar novamente. A xAI escreveu nos documentos do processo: «As ações do arguido foram intencionalmente planeadas, com o objetivo de utilizar as ferramentas do autor para atividades criminosas, causando danos profundos e duradouros às verdadeiras vítimas.»

A xAI apresentou ao tribunal os seguintes dois pedidos:

Indemnização por perdas: exige que Harwood compense as perdas causadas pelas suas ações, sem que nos documentos do processo seja indicado um valor específico

Pedido de injunção: pede ao tribunal que impeça Harwood de voltar a utilizar quaisquer produtos do Grok

Execução da plataforma da xAI: em 2026, suspendeu mais de 52,2 mil contas e contribuiu para 244 detenções

Dados quantitativos revelados pela xAI nos documentos do processo: aquando da apresentação do processo, em 2026 a empresa já tinha suspendido 52.222 contas e apresentou 73.604 relatórios ao National Center for Missing and Exploited Children (NCMEC); os referidos relatórios terão contribuído para pelo menos 244 ações de detenção em 2026.

Contexto regulatório do Grok: escrutínio na Europa, proibição na Malásia e na Indonésia

Antes da instauração desta ação judicial, a xAI já enfrentava várias pressões quanto às funções do Grok: as entidades reguladoras europeias abriram uma análise ao Grok; a Malásia e a Indonésia proibiram a utilização deste chatbot, devido ao facto de o conteúdo que produz incluir insinuações sexuais explícitas, segundo a Al Jazeera.

O próprio Elon Musk, a 14 de janeiro, numa publicação na plataforma X, afirmou: «Não sei de Grok ter gerado qualquer fotografia nua de menor. Absolutamente não», e acrescentou que o Grok não gera imagens de forma espontânea e que o seu princípio de funcionamento é recusar a criação de qualquer conteúdo ilegal.

DEFIANCE Act: contexto legislativo de 2024 e seguimento por vários estados

O DEFIANCE Act («anti-defiance act») foi assinado e entrou em vigor a nível federal dos EUA em 2024, criando uma via legal para que as vítimas de deepfakes íntimos não consensuais possam intentar ações civis; até ao momento, vários estados já aprovaram leis correspondentes ao nível estadual.

De acordo com o noticiado, a promulgação do DEFIANCE Act aumentou o número de ações propostas deste tipo, e a ação civil da xAI contra Harwood foi intentada no contexto em que este enquadramento legal já estava estabelecido.

Perguntas frequentes

Trata-se da primeira vez que uma empresa de IA processa um utilizador por conteúdo gerado na plataforma?

Segundo o noticiado, a ação civil da xAI contra Terry Harwood é a primeira vez que a empresa de IA processa os seus utilizadores, e o motivo está relacionado com conteúdos gerados pelo utilizador na plataforma; a Reuters refere esta característica no seu relato do caso.

Que dois pedidos específicos a xAI apresentou ao tribunal?

A xAI apresentou ao Tribunal Distrital Federal do Texas dois pedidos: (1) exigir a Harwood uma indemnização por perdas (sem um valor específico indicado nos documentos do processo); (2) pedir uma injunção que impeça Harwood de voltar a utilizar quaisquer produtos do Grok.

O que é o DEFIANCE Act e que relação tem com este caso?

O DEFIANCE Act foi assinado e entrou em vigor a nível federal dos EUA em 2024, criando uma via legal para vítimas de deepfakes íntimos não consensuais intentarem ações civis; vários estados também já aprovaram leis correspondentes ao nível estadual. De acordo com o noticiado, a aplicação desta lei aumentou o número de ações propostas relacionadas, e esta ação da xAI ocorre no contexto em que este enquadramento legal já estava estabelecido.