Especialista em deepfake usa a física para identificar imagens feitas por IA

O especialista em forense digital Hany Farid utiliza princípios básicos da física e da geometria para identificar imagens geradas por inteligência artificial. A metodologia foca na análise de linhas paralelas e projeções de sombras, elementos que os modelos generativos atuais ainda não conseguem replicar com exatidão matemática.

Farid, que atua como professor na Universidade da Califórnia em Berkeley e acumula mais de duas décadas de experiência na validação de mídias digitais, aponta que a simulação do mundo real envolve variáveis complexas.

O sistema visual humano costuma ignorar pequenas distorções geométricas em fotografias, o que reduz o incentivo para que as empresas de tecnologia aperfeiçoem a física de seus modelos generativos. No entanto, a análise pericial rigorosa consegue expor essas inconsistências por meio de reconstruções tridimensionais.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

O princípio fundamental se baseia na regra de que linhas que correm paralelas na realidade precisam convergir para um único ponto de fuga na imagem. Isso se aplica tanto a estruturas lineares do cenário quanto à direção dos raios solares. Como o Sol está distante da Terra, os seus raios chegam de forma paralela à superfície, o que exige que as linhas que conectam os pontos de um objeto às suas respectivas sombras também se cruzem exatamente no mesmo ponto de fuga.

Em uma imagem autêntica, as linhas paralelas de estruturas físicas convergem de forma precisa para um único ponto de fuga.

Já as imagens geradas por inteligência artificial costumam falhar na correspondência geométrica, fazendo com que as linhas de projeção das sombras se cruzem de forma desordenada

Métodos gerais para identificar mídias sintéticas

Além da verificação geométrica e física, o mercado de segurança digital desenvolve soluções automatizadas para rastrear a origem de arquivos manipulados. O sistema SynthID, criado pelo Google, surge como uma das principais ferramentas institucionais ao aplicar uma marca-d'água digital imperceptível diretamente nos pixels de imagens, áudios e vídeos gerados por inteligência artificial.

Essa tecnologia resistirá a edições comuns, como cortes ou compressões de arquivo, permitindo que plataformas verifiquem a procedência do conteúdo de forma automatizada.

Especialistas do setor também utilizam softwares de leitura labial automatizada para identificar deepfakes em formato de vídeo. Esse método confronta os movimentos da boca com as frequências sonoras do áudio, revelando incompatibilidades difíceis de mitigar manualmente pelos clonadores de voz.

A rápida evolução dos modelos generativos

Os critérios visuais utilizados para desmascarar falsificações enfrentam o desafio da obsolescência rápida das técnicas de detecção. No início do desenvolvimento das ferramentas de IA generativa, os sistemas apresentavam falhas evidentes, como a renderização de mãos humanas com seis dedos ou a incapacidade de gerar textos legíveis em placas e cenários.

Essas limitações técnicas foram corrigidas de forma acelerada pelos desenvolvedores nas versões mais recentes dos softwares. Por esse motivo, os analistas de segurança digital alertam que os sinais visuais eficazes no cenário atual perderão a utilidade no futuro, exigindo inovação constante nas metodologias de perícia digital.

Leia a matéria no Canaltech.