ONU revela como terroristas burlam filtros de IA para fabricar armas

Os grupos extremistas e organizações terroristas estão usando inteligência artificial para buscar informações que ajudam no planejamento de ataques e na fabricação ou adaptação de armas. Segundo um relatório da Tech Against Terrorism, organização apoiada pelo Escritório de Contraterrorismo da ONU, alguns criminosos conseguem driblar os filtros de segurança de modelos de IA usando técnicas conhecidas como jailbreaking.

O estudo avaliou 27 modelos de inteligência artificial com mais de 2.300 pedidos baseados em casos reais de terrorismo. Em parte dos testes, os chatbots deram respostas que os pesquisadores consideraram úteis para extremistas, com orientações sobre fabricação de armas, planejamento de ataques e formas de esconder atividades criminosas. Quando os mesmos pedidos eram apresentados como pesquisas acadêmicas, a taxa de respostas úteis era ainda maior.

Os pesquisadores afirmam que a IA pode acelerar o acesso a informações que antes exigiam buscas em diferentes fontes e interação com outros extremistas. Além disso, grupos terroristas compartilham prompts para burlar restrições, trocam links de conversas com chatbots e até dividem assinaturas de serviços de IA para ampliar o acesso às ferramentas.

Terroristas usam IA para planejar ataques

De acordo com a Tech Against Terrorism, organizações, como Estado Islâmico e Al-Qaeda, ampliaram o uso da inteligência artificial. Além da produção de propaganda, essas ferramentas agora também são empregadas em atividades de apoio operacional, como planejamento de ataques, análise de alvos, vigilância e adaptação de armamentos.

O documento também cita investigações e processos judiciais nos Estados Unidos, Canadá, Israel, Finlândia e Áustria envolvendo o uso de IA por suspeitos ligados ao extremismo. Em outro caso, o grupo Jama'at Nusrat al-Islam wal-Muslimin (JNIM), afiliado à Al-Qaeda no Mali, teria recorrido à tecnologia para ajudar na modificação de drones.

Os pesquisadores também identificaram comunidades no Telegram dedicadas ao compartilhamento de técnicas de jailbreaking. Nesses canais, os extremistas trocam prompts capazes de contornar os mecanismos de segurança dos chatbots, compartilham conversas bem-sucedidas e dividem os custos de assinaturas de ferramentas de IA.

Para os autores do relatório, a IA funciona como um assistente durante a conversa. Em vez de apenas encontrar documentos na internet, o chatbot responde perguntas, explica o assunto de diferentes formas e tira dúvidas, facilitando o acesso a esse tipo de informação.

IA pode acelerar processo de radicalização

Segundo a pesquisadora Emily Klein, os chatbots podem reforçar ressentimentos e crenças que o usuário já possui, incentivando o processo de radicalização antes mesmo da fase de planejamento de um ataque.

Já Adam Hadley, diretor da Tech Against Terrorism, afirma que esse cenário preocupa porque uma parcela significativa das pessoas radicalizadas nos Estados Unidos, na Europa e no Reino Unido é composta por adolescentes e crianças, que já passam grande parte do tempo na internet.

A IA também está mudando a forma como as pessoas agem sozinhas. De acordo com Rueben Dass, da Escola de Estudos Internacionais S. Rajaratnam, antes esse apoio era oferecido por integrantes de grupos extremistas por meio das redes sociais.

Hoje, alguns usuários recorrem a chatbots para tirar dúvidas e buscar orientações. Para o pesquisador, a IA não substituiu o contato humano, mas passou a funcionar como uma fonte de apoio para esses indivíduos.

Segundo Moustafa Ayad, do Institute for Strategic Dialogue, o Estado Islâmico chegou a divulgar orientações sobre como usar inteligência artificial. O pesquisador afirma que grupos jihadistas utilizam a tecnologia para produzir memes, vídeos e outros materiais de propaganda.

Se você gostou do conteúdo, talvez se interesse por saber "O que é jailbreak? Prática é explorada para burlar restrições de segurança da IA".

{{WHATSAPP_CHANNEL}}