Deepfakes e desinformação: o direito está preparado para a nova fraude digital?

*Juliana Sene Ikeda

A evolução e ampla difusão da inteligência artificial generativa cria muitas soluções, mas também cria alguns problemas. Entre seus efeitos mais preocupantes está a disseminação de deepfakes — conteúdos audiovisuais manipulados com alto grau de realismo, capazes de simular falas, expressões e comportamentos de indivíduos reais. Se, por um lado, a tecnologia amplia possibilidades legítimas de criação, por outro inaugura uma nova categoria de fraude digital, mais sofisticada, escalável e difícil de detectar. Diante disso, impõe-se uma pergunta central: o direito está preparado para enfrentar esse fenômeno? 

• 80% dos brasileiros já viram deepfakes, mas quase ninguém os detecta
• 8 sinais para identificar um deepfake quando até as ferramentas falham

A desinformação não é novidade no ambiente digital. Contudo, os deepfakes representam uma mudança qualitativa relevante. Ao deslocar o problema da esfera textual para a audiovisual — historicamente percebida como mais confiável —, essa tecnologia fragiliza um dos principais pilares da prova contemporânea: a evidência visual. A consequência é uma erosão progressiva da confiança social, em que até conteúdos verdadeiros passam a ser questionados, fenômeno conhecido como liar’s dividend. 

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

O impacto dos deepfakes na disputa eleitoral

No campo eleitoral, os riscos assumem dimensão crítica. Vídeos manipulados de candidatos, áudios falsificados e imagens adulteradas podem ser disseminados em larga escala em questão de minutos, influenciando percepções e decisões do eleitorado. A lógica algorítmica das plataformas digitais, orientada por engajamento, tende a amplificar conteúdos sensacionalistas — justamente aqueles mais propensos à manipulação. Em cenários de alta polarização, o impacto desses materiais é ainda mais intenso, pois reforça vieses e dificulta o contraditório. 

Com foco nas Eleições Gerais de 2026, o Tribunal aprovou alterações na resolução que trata da propaganda eleitoral para regulamentar, entre outros pontos, o uso de inteligência artificial (IA) pelos partidos, candidatos e provedores de internet.  Entre as principais medidas, destaca-se a proibição expressa de deepfakes, a exigência de rotulagem clara de conteúdos gerados por IA e a responsabilização de candidatos e plataformas (condicionada à inércia/descumprimento de dever de remoção de conteúdo ilícito) em caso de descumprimento.  

A norma também prevê consequências severas: o uso de conteúdo para difundir fatos notoriamente inverídicos ou descontextualizados com potencial de afetar a integridade do pleito pode configurar abuso de meios de comunicação, ensejando cassação de registro ou mandato.  

Trata-se de uma das regulações mais abrangente no plano comparado, ao menos no âmbito eleitoral, ao reconhecer explicitamente o potencial disruptivo da IA na formação da vontade política. Ainda assim, persistem desafios estruturais. A própria Justiça Eleitoral enfrenta limitações técnicas para identificar deepfakes com rapidez e segurança, especialmente diante da constante evolução dos modelos generativos. Além disso, há limites constitucionais: o TSE pode regulamentar, mas não criar novos tipos penais — tarefa que depende do legislador.  

Regulação digital entra em uma nova fase

Fora do contexto eleitoral, o ordenamento jurídico brasileiro oferece respostas fragmentadas. Na esfera civil, a utilização indevida da imagem, voz ou identidade pode ensejar reparação por danos morais, com fundamento nos direitos da personalidade. Na esfera penal, condutas envolvendo deepfakes podem ser enquadradas em crimes contra a honra, falsidade ideológica ou estelionato, a depender do caso concreto. No entanto, tais enquadramentos são indiretos e nem sempre capturam a especificidade da manipulação sintética. 

O problema se agrava diante da dificuldade de atribuição de autoria. A produção e disseminação de deepfakes pode envolver cadeias complexas de agentes, muitas vezes operando de forma anônima e, inclusive, de diferentes países. Isso desafia mecanismos tradicionais de responsabilização. Soma-se a isso a velocidade de propagação: mesmo quando há resposta judicial, o dano reputacional ou informacional frequentemente já se consolidou. 

Outro ponto sensível diz respeito ao papel das plataformas digitais. O modelo do Marco Civil da Internet, baseado na necessidade de ordem judicial para remoção de conteúdo (art. 19), foi concebido em um contexto anterior à IA generativa. Hoje, discute-se se esse modelo é suficiente para lidar com conteúdos sintéticos potencialmente danosos que se disseminam em tempo real. A regulamentação eleitoral do TSE, na linha da decisão do julgamento do STF, que decidiu pela inconstitucionalidade parcial do art. 19, sinaliza uma tendência de maior responsabilização e de atuação mais célere das plataformas, ao menos em períodos críticos. 

Para além do direito, o enfrentamento dos deepfakes exige abordagem multidimensional. Do ponto de vista tecnológico, há uma corrida entre sistemas de geração e ferramentas de detecção, sem garantia de vitória definitiva de qualquer lado. Do ponto de vista social, a alfabetização midiática torna-se indispensável: usuários precisam desenvolver habilidades críticas para avaliar a autenticidade de conteúdos digitais. 

Diante desse cenário, é possível afirmar que o direito não está inerte, mas ainda opera em regime de adaptação. Iniciativas como a regulamentação do TSE representam avanços importantes, especialmente ao reconhecer o problema e estabelecer parâmetros mínimos de responsabilização. No entanto, a complexidade e a velocidade da fraude digital contemporânea exigem respostas mais integradas, que combinem legislação específica, cooperação institucional e inovação tecnológica. 

Os deepfakes não desafiam apenas normas jurídicas — desafiam a própria ideia de verdade verificável no espaço público. Se o direito pretende continuar a desempenhar seu papel de estabilizador social, precisará evoluir na mesma velocidade das tecnologias que buscam subvertê-lo.

Leia mais sobre a crise das provas digitais na era da IA e saiba como advogados estão usando a ferramenta.

Leia a matéria no Canaltech.