Processo acusa Elon Musk de treinar Grok com imagens de abuso sexual infantil

Uma nova ação coletiva nos Estados Unidos acusa a xAI, empresa de inteligência artificial de Elon Musk, de treinar o chatbot Grok com imagens de abuso sexual infantil. A autora, identificada apenas como Jane Doe, afirma que fotos da violência sexual sofrida por ela na infância foram usadas nesse processo e resultaram na criação de novos conteúdos ilegais por IA.

Segundo a denúncia, Jane Doe é acompanhada pelo Child Exploitation Notification Program, programa do FBI que monitora vítimas de exploração infantil.

O que diz a ação

A ação sustenta que a xAI projetou o Grok para responder a pedidos de conteúdo sexual como estratégia para atrair usuários ao chatbot e à rede social X. De acordo com a denúncia, as políticas internas da empresa tratam como elegível para treinamento qualquer material publicado abertamente no X, incluindo respostas geradas pelo próprio Grok.

Essa prática teria criado um ciclo: conteúdos ilegais produzidos pela ferramenta voltavam a alimentar o treinamento do sistema. Para a defesa de Jane Doe, a remoção pontual de imagens não resolve o problema enquanto o Grok mantiver a capacidade técnica de gerar esse tipo de material.

"Não existe exceção de inteligência artificial para as leis federais de proteção infantil", afirmou Margaret Mabie, do escritório Marsh Law Firm e uma das advogadas da autora, segundo comunicado enviado à imprensa. Sarah London, sócia do escritório Girard Sharp e também representante da vítima, declarou que a xAI precisa responder pelo uso das imagens no treinamento do modelo.

A ação pede indenização às vítimas e a destruição de todo o material de abuso sexual infantil gerado pelo Grok, incluindo arquivos ainda públicos e conteúdos que possam servir de base para o treinamento de modelos futuros.

xAI processa os próprios usuários

Enquanto responde a essa e outras ações, a xAI adotou uma estratégia pouco comum entre empresas de tecnologia: processar usuários que teriam usado o Grok para gerar material ilegal.

A Politico revelou que a companhia moveu ações contra Russell Bloodworth, fotógrafo do Arkansas que responde a mais de cem acusações criminais por alterar fotos profissionais de crianças com o chatbot, e Terry Wayne Harwood, da Carolina do Sul, também réu criminal por exploração sexual de menor. Ambos negam as acusações.

Nos processos, a xAI pede que os dois usuários arquem com despesas legais da empresa em ações movidas por vítimas, incluindo indenizações por dano à reputação. John Coyle, professor de direito da Universidade da Carolina do Norte, avaliou à Politico que esse tipo de ação judicial contra clientes é raro no setor justamente porque prejudica a imagem das companhias.

Advogados de vítimas questionam a estratégia. Sophia Rios, que representa a autora de outra ação identificada como South Carolina Roe, classificou o processo contra Harwood como tardio e insuficiente. Derek Potts, que representa vítimas ligadas ao caso Bloodworth, disse à Politico que as ações da xAI contra usuários funcionam como forma de transferir a responsabilidade.

Outras ações e restrições impostas

O Grok já enfrenta investigações governamentais, processos individuais e ao menos três ações coletivas relacionadas à criação de imagens sexuais sem consentimento, parte delas envolvendo crianças. Diante da repercussão, a xAI restringiu o recurso que permitia remover roupas de pessoas em fotos e o colocou atrás de pagamento, embora a função conhecida como "modo picante" continue disponível com mais limitações.

Em documentos judiciais citados pela Politico, a empresa afirma ter feito quase 74 mil denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) somente em 2026, resultando em mais de 240 prisões.

No Brasil, autoridades recomendaram no início do ano que o X impedisse o Grok de gerar imagens sexualizadas sem consentimento. A ferramenta passou a ser monitorada no país, mas o caso ainda não resultou em ação judicial.

{{WHATSAPP_CHANNEL}}