Erro de IA cria pássaro “fantasma” no Brasil e acende alerta na ciência

Uma imagem de um pássaro norte-americano registrado no Brasil chamou atenção na plataforma iNaturalist, mas o caso acabou revelando um problema crescente para a ciência: imagens alteradas por inteligência artificial. O suposto registro de um graúna-de-asa-vermelha, espécie que não ocorre na região, era na verdade um sargento (epaulet oriole), ave comum no local.

O caso foi citado em um alerta publicado na revista Nature Ecology & Evolution pelos pesquisadores Alexander Lees, ecologista da Manchester Metropolitan University e autor principal do estudo, e Tony Iwane, coautor da pesquisa e representante do iNaturalist. Os autores destacaram o avanço do chamado “AI slop”, termo usado para descrever conteúdos de baixa qualidade gerados por IA.

Segundo eles, o problema inclui imagens totalmente falsas e pequenas edições que parecem inofensivas, mas podem comprometer registros usados em estudos de biodiversidade. A foto do pássaro brasileiro foi alterada com uma ferramenta de IA para melhorar a qualidade da imagem. Durante o processo, o sistema modificou características do animal e criou uma aparência semelhante à de outra espécie. 

Ao remover galhos, melhorar foco ou corrigir imperfeições, ferramentas de IA podem reconstruir partes dos animais e modificar detalhes importantes para a identificação científica, como cores e padrões das penas. Essas alterações podem comprometer registros usados para acompanhar mudanças no comportamento e na distribuição de espécies.

Registros científicos são ameaçados por imagens falsas

Plataformas, como iNaturalist, Macaulay Library e WikiAves, reúnem milhões de fotos feitas por observadores amadores e pesquisadores. Esses dados ajudam cientistas a monitorar impactos das mudanças climáticas e acompanhar deslocamentos de animais. 

Quando uma imagem alterada por IA entra nesses sistemas, ela pode indicar de forma errada que uma espécie apareceu em uma nova região ou mudou seu comportamento. Além disso, registros incorretos podem afetar modelos de inteligência artificial usados para identificar animais.

Segundo os pesquisadores, imagens completamente geradas por IA costumam ser mais fáceis de detectar. O maior desafio está nas alterações discretas, feitas para melhorar a aparência de uma foto, mas que acabam modificando informações importantes para a pesquisa. 

Plataformas começam a criar filtros contra IA

O iNaturalist começou a sinalizar imagens com diferentes níveis de intervenção tecnológica. As fotos totalmente geradas por IA podem ser ocultadas da plataforma e os registros com excesso de edição deixam de ser considerados adequados para bases usadas em pesquisas. 

Atualmente, a plataforma tem mais de 610 milhões de imagens, mas apenas cerca de 1.400 possuem algum tipo de identificação relacionada ao uso de IA — desse total, aproximadamente 600 são marcadas como imagens totalmente geradas por IA. Os pesquisadores acreditam que o número real de imagens modificadas pode ser maior, já que alterações sutis continuam difíceis de identificar.

Para os autores do estudo, o combate ao problema depende de ferramentas mais robustas de autenticação de imagens, análise de metadados e orientação dos observadores. Eles alertam que o uso de IA para “melhorar” fotos pode alterar informações importantes e comprometer registros usados pela ciência.

Se você gostou do conteúdo, talvez também se interesse pelo texto “Cansado de ‘slop’? Veja se tem como fugir de imagens sem sentido feitas por IA”.

{{WHATSAPP_CHANNEL}}