Microsoft Teams terá detector de deepfake em tempo real para barrar golpistas

O Microsoft Teams vai ganhar uma nova camada de proteção para identificar deepfakes durante reuniões. Previsto para começar a ser liberado em novembro, o recurso vai analisar sinais de áudio e vídeo manipulados ou gerados por inteligência artificial e avisar os participantes quando houver indícios de falsificação.

A detecção será feita em tempo real por soluções de empresas terceirizadas certificadas, segundo o cronograma oficial do Microsoft 365. Esses serviços poderão identificar, por exemplo, vozes clonadas ou rostos sintéticos usados para tentar se passar por executivos, colegas de trabalho ou outras pessoas durante uma chamada.

O Teams ficará responsável por integrar os resultados à própria reunião e oferecer controles para que os usuários possam reagir a uma possível fraude. A novidade está em desenvolvimento e tem lançamento global previsto para novembro de 2026 em Windows, macOS, Android e iOS.

Como o detector de deepfake do Teams vai funcionar

Segundo a Microsoft, provedores certificados poderão analisar o áudio e o vídeo de uma reunião em busca de sinais de mídia sintética. Quando uma possível manipulação for identificada, o serviço enviará essa informação ao Teams, que poderá exibi-la aos participantes dentro da chamada.

Uma documentação técnica da Microsoft já prevê que bots de detecção certificados sinalizem participantes cujo conteúdo tenha sido identificado como gerado ou manipulado por IA. O alerta pode então ser propagado para os demais integrantes da reunião.

A análise, portanto, não será realizada por um modelo próprio do Teams. A Microsoft funcionará como a plataforma que recebe e apresenta os sinais produzidos pelos sistemas de detecção compatíveis.

Ainda não há uma lista oficial de empresas que participarão desse sistema quando ele for lançado. O marketplace da Microsoft já oferece ferramentas de terceiros voltadas à identificação de deepfakes no Teams, incluindo soluções capazes de procurar por rostos sintéticos, clonagem de voz e outras formas de falsificação audiovisual.

Também não há indicação de que qualquer conteúdo suspeito será bloqueado automaticamente. Os sinais de detecção servem para alertar usuários e oferecer elementos adicionais para decidir se uma reunião deve continuar ou se determinado participante merece uma verificação adicional.

Teams reforça proteção contra golpes

A atualização chega enquanto criminosos ampliam o uso de plataformas corporativas em ataques de engenharia social. A própria Microsoft informou neste ano que grupos maliciosos têm utilizado o Teams para se passar por equipes de suporte técnico e convencer funcionários a liberar acesso remoto a computadores ou fornecer informações sensíveis.

O aplicativo já possui uma proteção contra falsificação de identidade em chamadas externas. Quando o sistema identifica um possível impostor, o Teams pode mostrar o aviso “Suspeito de fraude” e recomendar que o usuário encerre a ligação caso não consiga confirmar quem está do outro lado.

A plataforma também passou a identificar determinados bots externos que tentam entrar em reuniões. Esses participantes automatizados podem ser enviados para a sala de espera e precisam da aprovação do organizador para ingressar, dependendo das configurações adotadas pela empresa.

A futura detecção de deepfakes amplia essa proteção para outro tipo de ameaça: golpes em que a aparência ou a voz de uma pessoa conhecida é reproduzida artificialmente durante uma reunião para aumentar a credibilidade de pedidos envolvendo dinheiro, credenciais ou informações confidenciais.

 Veja também no Canaltech: Golpe usa site oficial do ChatGPT para infectar PCs com Windows

{{WHATSAPP_CHANNEL}}