Investigação mostra que IA de Elon Musk continua a gerar nudes falsos

O chatbot Grok, desenvolvido pela xAI de Elon Musk, ainda é utilizado para criar e hospedar imagens e vídeos pornográficos gerados por inteligência artificial (IA) sem o consentimento das vítimas.

• Quais são os países onde o X é bloqueado e por quê
• Não quer que suas fotos sejam editadas com IA pelo Grok? Veja como bloquear

Uma investigação publicada pela revista americana WIRED revelou que a plataforma mantém conteúdos explícitos acessíveis publicamente em seu site, descumprindo promessas anteriores de implementar salvaguardas contra abusos virtuais.

A análise jornalística revisou centenas de links hospedados diretamente no domínio da ferramenta e encontrou dezenas de materiais contendo simulações explícitas de nudez de celebridades e da congressista dos Estados Unidos, Alexandria Ocasio-Cortez.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

Em testes comparativos, os comandos de texto (prompts) utilizados no Grok foram rejeitados de forma automática por sistemas concorrentes como o ChatGPT (OpenAI), Meta AI e Claude (Anthropic), que barram pedidos de cunho sexual.

Riscos financeiros e processos judiciais

A persistência dessas falhas de moderação resultou em desdobramentos jurídicos e financeiros para o ecossistema de empresas de Elon Musk. Em documentos enviados a potenciais investidores, a SpaceX confirmou que provisionou US$ 530 milhões para lidar com litígios e perdas legais em andamento, associando o montante diretamente aos riscos reputacionais e operacionais gerados pelas modalidades de conteúdo explícito do Grok. O anúncio ocorreu às vésperas da oferta pública inicial de ações (IPO) da companhia aeroespacial.

Entre as ações judiciais que a xAI enfrenta desde o início do ano está um processo aberto por Ashley St. Clair, ex-parceira de Musk, após deepfakes que simulavam sua imagem em trajes sumários circularem na rede social X.

Além disso, uma ação civil coletiva protocolada na Califórnia em março alega que as ferramentas da xAI foram utilizadas de maneira recorrente para sexualizar imagens de menores de idade.

Pressão regulatória internacional

As mudanças nas políticas de segurança da xAI implementadas após os incidentes de janeiro não convenceram órgãos de fiscalização internacionais.

O Comissariado de Privacidade do Canadá divulgou conclusões preliminares de um inquérito apontando que a startup violou leis federais de privacidade do país por não estruturar barreiras de proteção eficazes antes do lançamento comercial do produto.

A autoridade regulatória canadense informou que a empresa de Musk não demonstrou a eficácia prática das novas checagens proativas e filtros de texto alegados pela defesa.

Enquanto grandes concorrentes do mercado de tecnologia restringem termos sensíveis para evitar a manipulação de imagens de pessoas reais, os termos de serviço oficiais da xAI continuam prevendo respostas que envolvam situações sexuais e nudez de adultos, mantendo os critérios de exibição alinhados com produções cinematográficas de classificação restrita.

Leia a matéria no Canaltech.