Imagens de abuso infantil criadas por IA explodem e faz autoridades alertarem famílias

Aviso: esta matéria aborda violência sexual contra crianças e adolescentes. O texto não contém descrições gráficas.

A quantidade de imagens de abuso sexual infantil criadas com inteligência artificial cresceu de forma acelerada em 2026. Somente no primeiro semestre, a Internet Watch Foundation (IWF) identificou mais de 6,3 mil imagens geradas por IA que se enquadravam na definição legal de material de abuso sexual infantil, número 40% maior que o registrado durante todo o ano de 2025.

Os dados levaram organizações de proteção e autoridades britânicas a reforçar um alerta às famílias: fotos comuns de crianças publicadas abertamente nas redes sociais podem ser capturadas e manipuladas com ferramentas de IA.

A recomendação da IWF e da National Crime Agency (NCA), do Reino Unido, é revisar quem pode acessar essas imagens e evitar deixá-las disponíveis publicamente.

O problema também ganhou atenção no Brasil. Além do ECA Digital, em vigor desde março, uma lei sancionada em agosto passou a enquadrar expressamente materiais produzidos, manipulados ou gerados com inteligência artificial que simulem violência sexual contra crianças e adolescentes.

IA facilita criação de novas imagens de abuso

Os números mais recentes da IWF consideram imagens estáticas. Em 2025, a organização havia contabilizado 4.512 delas. Nos seis primeiros meses de 2026, o volume chegou a 6.310.

Entre os casos nos quais foi possível registrar idade e gênero, meninas apareciam em 98% das imagens identificadas. Crianças entre sete e 13 anos representavam 79% do material analisado pela organização no período.

Há duas frentes de preocupação. Ferramentas generativas podem produzir imagens inteiramente sintéticas, mas também permitem modificar fotografias de crianças reais. Nesse segundo cenário, uma imagem comum publicada na internet pode servir como matéria-prima para criar um conteúdo falso.

O serviço Report Remove, usado para ajudar jovens a impedir a circulação de imagens íntimas, recebeu neste ano 420 relatos de menores de idade envolvendo fotos que acreditavam ter sido falsificadas ou manipuladas para parecer explícitas. O volume já superou os 397 registros de todo o ano passado, segundo o Guardian.

Por isso, a NCA e a IWF recomendam que pais e responsáveis verifiquem as configurações de privacidade de suas redes, revisem quem tem acesso às fotos dos filhos e considerem grupos restritos, como a opção de “amigos próximos”, para compartilhá-las.

Também vale revisar imagens antigas e autorizações dadas a escolas, clubes e outras instituições para publicar fotografias.

Grok já entrou no centro da discussão

O risco deixou de ficar restrito a ferramentas obscuras de geração de imagens. No início de 2026, o Grok, inteligência artificial da xAI integrada ao X (antigo Twitter), entrou em uma crise após ser usado para produzir imagens sexualizadas a partir de fotografias de pessoas reais.

Uma apuração da Reuters encontrou casos envolvendo mulheres e menores de idade. Na época, o próprio Grok atribuiu parte dos resultados envolvendo crianças a falhas em suas proteções, enquanto a xAI afirmou que trabalhava para reforçar os sistemas de segurança.

Em março, três adolescentes entraram com uma ação contra a xAI nos Estados Unidos. O processo acusa o gerador de imagens do Grok de ter utilizado fotografias das jovens para criar e distribuir material sexualizado sem consentimento. O caso ainda tramita na Justiça.

O que o Brasil está fazendo

O Brasil passou a ter duas camadas recentes de legislação relacionadas ao tema. A primeira é o ECA Digital, Lei nº 15.211/2025, que entrou em vigor em 17 de março deste ano e criou obrigações de prevenção e mitigação de riscos para plataformas e outros serviços digitais acessados por crianças e adolescentes. A fiscalização ficou sob responsabilidade da Agência Nacional de Proteção de Dados (ANPD).

A regulamentação também criou, dentro da Polícia Federal, o Centro Nacional de Proteção à Criança e ao Adolescente (CNCA). O órgão foi projetado para receber e tratar denúncias de violência sexual encaminhadas por plataformas digitais diretamente às autoridades brasileiras.

Em agosto, a Lei nº 15.487/2026 avançou especificamente sobre o uso de IA. A norma atualizou o Estatuto da Criança e do Adolescente e passou a considerar material de violência sexual também aquele produzido, manipulado ou gerado digitalmente, inclusive quando a representação é inteiramente fictícia.

A legislação também prevê responsabilização de provedores envolvidos na criação, hospedagem, administração ou moderação desses ambientes e criou a chamada “ronda virtual”, mecanismo que permite às autoridades rastrear arquivos disponibilizados em espaços digitais públicos.

O avanço da IA acrescenta uma dificuldade técnica ao combate desse material. Sistemas baseados em “hashes”, espécies de impressões digitais de arquivos já identificados, conseguem bloquear cópias conhecidas.

Uma imagem inédita gerada por IA, porém, ainda não possui esse registro e precisa ser localizada e classificada antes que possa entrar nessas bases de detecção.

Veja também no Canaltech: 7 pontos para entender o ECA Digital

{{WHATSAPP_CHANNEL}}