Virou bagunça: detector de IA do Instagram rotula fotos reais e ignora imagens 100% falsas

O sistema de rotulagem de inteligência artificial da Meta está gerando situações contraditórias no Instagram. Fotografias reais que receberam apenas pequenas edições ou foram ajustadas com ferramentas assistivas de IA podem ganhar automaticamente o rótulo “Conteúdo de IA”, enquanto imagens totalmente criadas por modelos generativos conseguem aparecer na plataforma sem qualquer aviso. 

A inconsistência não é exatamente nova. Em 2024, poucos meses após lançar o selo “Made by AI”, a Meta já havia enfrentado críticas por identificar como conteúdo gerado por IA imagens que tinham passado por alterações consideradas simples pelos próprios criadores.

Na época, a empresa afirmou que ajustaria o sistema para levar em conta a “quantidade de IA usada em uma imagem” e citou padrões da indústria, como metadados IPTC e C2PA. Mesmo assim, a companhia não detalha quais sinais são analisados atualmente, e novos relatos mostram que o problema continua.

Usuários relatam rótulo de IA em fotos reais

No Threads, há relatos de pessoas que receberam o rótulo “Conteúdo de IA” depois de usar o removedor de fundo do Canva ou recursos para eliminar pequenas imperfeições de uma fotografia. Inclusive, a página de ajuda do Canva afirma que a ferramenta de remoção de fundo não adiciona metadados de conteúdo gerado por IA ao design.

A estrategista de conteúdo Jess Bruno relatou, no Threads, um caso semelhante com o Canva. Segundo ela, algumas ferramentas da plataforma faziam o Instagram identificar as imagens como conteúdo gerado por IA. O Canva afirmou que corrigiu o problema, mas outros usuários continuaram relatando casos parecidos. 

Um dos casos envolve a About Face, marca de cosméticos de Halsey. A empresa relatou que fotografias reais, feitas com iPhone e submetidas a edições leves, foram identificadas pelo Instagram como conteúdo de IA. A marca destacou que as imagens utilizavam pessoas e artistas reais, sem geração de personagens ou fotografias sintéticas.

Isso é especialmente problemático porque recursos desse tipo já fazem parte do fluxo de trabalho de fotógrafos, designers, marcas e criadores de conteúdo. A utilização de uma ferramenta baseada em aprendizado de máquina não significa necessariamente que a imagem tenha sido criada por inteligência artificial.

Já o portal The Verge fez testes com diferentes ferramentas de edição e geração de imagens. A publicação testou o recurso de apagar fundos do Photoshop, funções generativas do Adobe Firefly, o modelo Google Nano Banana no Gemini e recursos do Apple Intelligence. No entanto, apenas as imagens editadas ou geradas pelas ferramentas de IA da Meta foram as que ativaram o rótulo de forma consistente.

Para fotógrafos, marcas e criadores, receber um aviso de que uma imagem é gerada por IA pode passar ao público uma impressão errada sobre como aquele conteúdo foi produzido. Uma fotografia registrada por uma câmera e posteriormente editada com uma ferramenta de remoção de objetos, por exemplo, não necessariamente deveria ser apresentada da mesma forma que uma cena criada inteiramente por um modelo generativo.

Do outro lado, quando uma imagem totalmente sintética não recebe identificação, o público pode não ter nenhuma indicação de que aquela cena nunca existiu fora do computador.

Se você gostou do conteúdo, talvez também se interesse por saber “Como evitar que os dados do Instagram sejam usados para treinar a IA da Meta”.

{{WHATSAPP_CHANNEL}}