Farsa: processo revela que TikTok deu ferramenta de segurança falsa para jovens usuários

O TikTok é acusado de ter fornecido uma ferramenta de segurança falsa para milhares de usuários, incluindo crianças e adolescentes, durante testes realizados em 2023. Segundo documentos de um processo judicial divulgados nesta quarta-feira (7), a rede social permitia que jovens ativassem uma função para redefinir os vídeos recomendados, mas, em alguns casos, o algoritmo continuava funcionando normalmente.

As informações foram reveladas pela Reuters e repercutidas pelo The Next Web nesta quinta-feira (8). As acusações fazem parte de uma ação movida pela procuradora-geral de Nova York, Letitia James, contra a empresa.

O processo, iniciado em 2024, acusa o TikTok de desenvolver mecanismos que estimulam o uso excessivo da plataforma entre menores de idade e de enganar usuários sobre a eficácia de suas ferramentas de proteção.

A empresa nega as acusações e afirma que realiza testes frequentes para avaliar o funcionamento de novos recursos.

Como funcionava a ferramenta falsa do TikTok?

O recurso investigado é chamado de Algo Refresh, lançado em março de 2023. Ele permite que os usuários redefinam as recomendações da aba "Para Você", fazendo com que o algoritmo volte a sugerir conteúdos como se a pessoa tivesse acabado de criar uma conta.

A ferramenta pode ser utilizada, por exemplo, por alguém que deseja deixar de receber vídeos sobre determinados assuntos.

Entretanto, segundo o processo, o TikTok realizou experimentos nos quais parte dos usuários recebia uma versão funcional do recurso, enquanto outros eram incluídos em um grupo de teste com uma versão inoperante.

Neste segundo grupo, as pessoas acreditavam ter redefinido suas recomendações, mas os vídeos continuavam sendo selecionados pelo algoritmo anterior.

A prática foi classificada como um experimento de "placebo". A intenção, de acordo com os documentos judiciais, era comparar o comportamento dos dois grupos para avaliar quanto tempo permaneciam no aplicativo e os possíveis impactos sobre a receita publicitária.

Os testes teriam sido repetidos ao longo de 2023 e envolveram milhares de pessoas.

A investigação também aponta que um gerente de produto da equipe de bem-estar digital do TikTok questionou internamente a decisão. Em uma conversa citada no processo, o funcionário alertou que utilizar um grupo placebo contrariava a proposta da ferramenta, que deveria oferecer maior controle e transparência sobre o algoritmo.

A acusação vai além dos testes. Segundo a procuradoria, o TikTok também teria enganado usuários sobre os efeitos do Algo Refresh, já que as mudanças nas recomendações seriam temporárias.

Em resposta à Reuters, um porta-voz da empresa afirmou que as alegações apresentam uma interpretação incorreta do funcionamento do recurso. O TikTok também defendeu a realização de experimentos para avaliar a experiência dos usuários.

Outros testes afetaram 15 milhões de pessoas

Os documentos divulgados nesta semana também apresentam detalhes de outra investigação sobre os mecanismos de segurança do TikTok.

Segundo informações publicadas anteriormente pela Bloomberg, a empresa realizou um experimento no qual deixou de aplicar uma atualização de segurança para aproximadamente 10% dos usuários nos Estados Unidos, o equivalente a 15 milhões de pessoas.

O objetivo seria avaliar se as mudanças na distribuição de conteúdos afetariam o tempo de permanência na plataforma.

Entre os participantes estava um adolescente de 16 anos, de Nova York, que morreu por suicídio em 2022. Conforme a investigação, análises internas identificaram que o jovem havia recebido uma quantidade elevada de conteúdos relacionados a automutilação e suicídio.

Os documentos, porém, não estabelecem que o experimento tenha causado a morte do adolescente.

As novas acusações ampliam a pressão judicial sobre o TikTok nos Estados Unidos. Atualmente, mais de 24 estados americanos processam a plataforma por supostamente utilizar mecanismos que estimulam o uso compulsivo entre crianças e adolescentes.

Em setembro, a empresa concordou em pagar até US$ 300 milhões para encerrar uma ação no Alabama, além de realizar alterações no funcionamento da plataforma para adolescentes naquele estado.

No caso de Nova York, as novas alegações ainda estão sendo analisadas pela Justiça. Portanto, não há uma decisão definitiva que comprove todas as acusações contra a empresa.

{{WHATSAPP_CHANNEL}}