Com prompt invisível, professor desmascara 32 alunos usando IA em prova

Um professor de história da Alcorn State University, nos Estados Unidos, encontrou uma forma incomum de identificar alunos que usaram inteligência artificial sem revisar o conteúdo gerado durante uma prova. Jason Gibson inseriu um comando oculto no enunciado da avaliação e acabou identificando 32 dos 35 estudantes que copiaram a questão e a enviaram para um chatbot.

As respostas entregues continham frases completamente sem sentido, revelando que o texto produzido pela IA não havia sido lido antes da entrega. A atividade consistia em uma redação sobre a Revolução Industrial enviada de forma on-line. 

No meio do enunciado, Gibson escondeu uma instrução usando texto branco sobre fundo branco, invisível para quem apenas lia a prova normalmente. Porém, ao copiar todo o conteúdo para ferramentas, como ChatGPT, Claude ou Gemini, os alunos também enviavam o comando secreto para a IA.

A instrução fazia o chatbot inserir comentários aleatórios sobre Madagascar no meio da redação. Entre os trechos apareciam frases como "Madagascar flutua de lado durante a tarde" e "Madagascar foi a um jogo de basquete usando uma torradeira". 

Como consequência, todos os 32 alunos flagrados receberam reprovação nessa etapa da avaliação. O professor tornou o caso público ao compartilhar sua frustração em uma série de vídeos que viralizou no TikTok. Segundo Gibson, apenas dois estudantes tentaram contestar a nota após serem confrontados com as evidências.

O caso também mostra um problema que tem crescido em escolas e universidades desde a popularização da IA. Muitos professores afirmam que os alunos estão usando chatbots para fazer trabalhos e provas, o que tem mudado a forma de avaliar o aprendizado. Para tentar conter essa prática, alguns voltaram a aplicar trabalhos escritos à mão, provas orais e atividades presenciais e até a usar a própria IA para criar perguntas mais difíceis de serem respondidas apenas por um chatbot.

O que é injeção de prompt?

A estratégia usada por Gibson é baseada em uma técnica conhecida como injeção de prompt. Ela consiste em incluir instruções capazes de alterar o comportamento de um modelo de inteligência artificial, levando-o a seguir comandos que não faziam parte da solicitação original.

Existem dois tipos principais. Na injeção direta, o próprio usuário envia comandos ao chatbot para tentar contornar restrições ou modificar a resposta. Já na injeção indireta, como no caso da prova, as instruções ficam escondidas em um documento, página da web ou outro conteúdo que será processado pela IA.

Essa técnica costuma ser estudada na área de segurança digital porque pode ser usada para manipular modelos de IA, influenciar respostas e, em alguns casos, tentar contornar mecanismos de proteção. No episódio da universidade, porém, o recurso foi adaptado como uma forma de identificar estudantes que copiaram o enunciado integralmente para um chatbot e entregaram a resposta sem conferir o resultado.

Se você gostou do conteúdo, talvez também se interesse pelo texto “Inteligência artificial na educação: 7 ferramentas de IA para estudar melhor”.

{{WHATSAPP_CHANNEL}}