Gate News Notícias, 25 de março, a cidade de Baltimore, nos Estados Unidos, entrou com uma ação contra a X Company, de Elon Musk, bem como contra xAI e SpaceX, acusando-os de desenvolverem a ferramenta de IA generativa Grok, que supostamente gera imagens sexualizadas sem consentimento, incluindo conteúdo envolvendo menores, violando as leis de proteção ao consumidor locais. Este caso é visto como um teste importante para a regulamentação da inteligência artificial por governos locais, na ausência de legislação federal específica.
A ação afirma que o Grok possui a capacidade de alterar imagens de pessoas reais com poucos comandos, incluindo funções de “desvestimento”, o que pode causar sérios danos à privacidade e ao bem-estar psicológico dos usuários. O escritório de advocacia DiCello Levitt, representante, declarou que o sistema apresenta riscos evidentes de exposição, sem medidas adequadas de restrição. O prefeito de Baltimore, Brandon M. Scott, destacou que conteúdos de deepfake envolvendo menores podem causar traumas duradouros.
No âmbito legal, Ishita Sharma, sócia da Fathom Legal, afirmou que a questão central é a responsabilidade do sistema de IA. Se o tribunal determinar que o Grok é um “criador de conteúdo ativo” e não uma ferramenta neutra, a xAI poderá enfrentar responsabilidades legais mais elevadas. Essa decisão pode redefinir os limites jurídicos para empresas de IA na geração de conteúdo.
A denúncia cita dados que indicam que, entre o final de dezembro de 2025 e o início de janeiro de 2026, o Grok gerou entre 1,8 e 3 milhões de imagens sexualizadas, das quais aproximadamente 23 mil envolviam menores. Além disso, a quantidade de imagens geradas na plataforma aumentou significativamente após as interações públicas de Musk, aumentando a pressão regulatória.
Atualmente, várias investigações sobre o Grok estão em andamento nos Estados Unidos e na Europa. O foco do mercado está mudando de inovação tecnológica para conformidade e gestão de riscos, e o resultado final deste caso pode fornecer um importante precedente para a regulamentação da geração de conteúdo por IA.
Related Articles
Casa Branca Media Disputa de Stablecoin da Clarity Act, Witt Revela Cronograma Legislativo
Comitê de Investimentos da SFC de Hong Kong Adverte que Negociação em Mercado de Previsão Pode Constituir Jogo de Azar Ilegal
Economista Propõe Stablecoin Nacional em USD para Eliminar Controles de Moeda na Venezuela
Elizabeth Warren acusa o presidente da SEC, Paul Atkins, de enganar o Congresso sobre a queda na fiscalização
Atraso do CLARITY Act Continua à medida que o Senador Thom Tillis Sinaliza Conversas em Andamento
Senadores democratas questionam supervisão fraca de AML de grande CEX sobre fluxos cripto ligados ao Irã de mais de US$ 1,7B