YouTube e X viram portas de entrada para criar nudes falsos com IA

Um estudo do Institute for Strategic Dialogue (ISD) mapeou o ecossistema de aplicativos de nudify (apps usados para criar imagens falsas sensuais de outras pessoas) e identificou que YouTube e X são duas “portas de entradas” que permitem acessar ferramentas do tipo rapidamente e sem restrições. 

Criar deepfakes de outras pessoas sem consentimento é crime e teve a pena aumentada no Brasil no ano passado. É proibido divulgar plataformas de nudify em lojas como App Store e Play Store, mas o relatório indica que esses apps ainda são difundidos em redes sociais populares, contrariando uma ideia de que só seriam distribuídos em nichos menores.

O ISD identificou que existe todo um ecossistema para criar nudes falsos, o que envolve a distribuição em canais grandes e uma infraestrutura para evitar fiscalizações de autoridades. As imagens criadas vão além de motivações sexuais reforçam dinâmicas de poder e padrões de misoginia online.

Ferramentas cada vez mais acessíveis

O relatório alerta para a facilidade de acesso aos softwares de nudify. Ao todo, 181 sites com recursos para criar deepfakes foram identificados durante um período de seis meses e essas páginas receberam mais de 40 milhões de visitantes únicos mensais. 

A maior parte do tráfego aos sites vem de visitas diretas, enquanto redes sociais populares foram responsáveis por mais de 5,7 milhões de visitas às ferramentas, lideradas por YouTube e X. Existem vídeos e posts com instruções para acessar os apps ou com links diretos para as plataformas.

Em nota publicada ao site Wired, o porta-voz do YouTube Boot Bullwinkle reforçou que a plataforma tem “políticas rigorosas que proíbem conteúdo que inclua sexualização indesejada, como imagens íntimas compartilhadas sem consentimento”, incluindo materiais publicados no próprio YT e links externos. O antigo Twitter não comentou o tema.

Vale lembrar também que o X já esteve no centro de uma polêmica com deepfakes no começo do ano por conta do gerador de imagens da própria IA, que foi usado para editar fotos de mulheres na rede. A empresa aplicou restrições de conteúdo ao Grok depois disso.

Os apps de nudify cobram valores baixos, com média de US$ 1 por deepfake (cerca de R$ 5 em conversão direta) e as transações são feitas por criptomoedas, o que dificulta o rastreamento.

Brasil pressionou Big Techs sobre o tema 

O Presidente da República, Luiz Inácio Lula da Silva, assinou um decreto no mês de maio com novas regras para a operação de Big Techs no Brasil. Uma delas exige a criação de um canal específico para receber denúncias de divulgação de imagens íntimas sem consentimento.

A medida vale para imagens reais ou deepfakes criados com IA. Após o relato, cada plataforma teria um prazo de duas horas para retirar o material do ar.

O decreto está válido, mas ainda pode receber ajustes após contestações no Supremo Tribunal Federal (STF).

 

O que fazer ao ser vítima de um ataque com deepfake?

Caso você tenha sido vítima de um golpe com imagens falsas ou publicação de conteúdos íntimos sem consentimento, o ideal é registrar todas as provas possíveis (prints da publicação e de eventuais ameaças), denunciar a publicação na respectiva plataforma e registrar um Boletim de Ocorrência online. 

 

{{WHATSAPP_CHANNEL}}