TikTok distribui mais vídeos falsos de IA do que o YouTube Shorts

Uma pesquisa da plataforma de edição de vídeo Kapwing revelou que o TikTok distribui três vezes mais conteúdos de baixa qualidade gerados por inteligência artificial (IA), popularmente chamados de "AI slop", do que o YouTube Shorts.

• TikTok recua em recurso de IA após erros bizarros em vídeos
• Sabia que os funcionários do TikTok podem ler suas mensagens privadas no app?

O estudo aponta que 59% dos vídeos recomendados para contas novas no TikTok são gerados por ferramentas automatizadas. No YouTube Shorts, o índice registrado para o mesmo cenário de novos usuários é de 21%.

Os pesquisadores analisaram um total de 10.742 vídeos no TikTok distribuídos em 20 categorias populares. A análise também monitorou especificamente os primeiros 500 vídeos exibidos na página "Para Você" (For You) de um perfil recém-criado, sem histórico prévio de navegação.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

Os dados indicam que o sistema de recomendação do TikTok expõe o usuário a produções sintéticas antes de sequer coletar preferências de consumo. Caso a conta interaja com esse material inicial, o algoritmo intensifica a entrega de conteúdos similares.

Conteúdo infantil concentra maior volume de materiais sintéticos

O relatório da Kapwing identificou que a categoria voltada para o público infantil possui a maior densidade de conteúdos automatizados de baixa qualidade. No monitoramento da hashtag #CartoonKids, 97 de cada 100 vídeos analisados foram produzidos por IA, restando apenas três criações de origem humana.

Outras marcações populares do segmento registraram índices elevados: as hashtags #cartoons e #babysong atingiram 83% de vídeos sintéticos, enquanto a tag #forkids alcançou 79%.

Essas produções infantis costumam exibir personagens conhecidos inseridos em cenários incomuns, vozes sintéticas e animações com distorções visuais frequentes. Erros conceituais práticos, como lições de contagem com a numeração incorreta, também foram identificados nas publicações de caráter educativo.

O problema se estende para as áreas de ciência, saúde e história, nas quais a propagação de dados incorretos ou deepfakes estruturados compromete a precisão factual e facilita a desinformação.

As empresas responsáveis pelas plataformas adotaram medidas distintas para gerenciar o volume de publicações automatizadas.

O TikTok disponibilizou uma ferramenta de controle que permite aos usuários aumentar ou diminuir a exibição de conteúdos criados por IA em seus feeds, além de investir em iniciativas de alfabetização digital. Jade Nester, diretora de políticas públicas da empresa na Europa, afirmou que o objetivo da função é dar autonomia de escolha com base nas preferências individuais dos usuários.

Já o YouTube implementou diretrizes para a rotulagem obrigatória de vídeos gerados por IA, porém a regra não altera os critérios de recomendação do algoritmo ou a qualificação do material para monetização.

Leia a matéria no Canaltech.