Não teste este prompt: bug macabro faz ChatGPT criar imagens assustadoras

Uma falha no sistema de processamento de comandos do ChatGPT e do Gemini está fazendo com que as inteligências artificiais gerem imagens bizarras e de terror sem que nenhum arquivo de referência seja enviado.

• Como usar o Nano Banana 2? Veja o passo a passo
• Como usar o ChatGPT Images 2.0 para criar posts, banners e infográficos melhores

O problema ocorre quando os usuários induzem as plataformas a realizarem a restauração de fotos inexistentes por meio de ordens textuais com restrições severas, forçando os modelos a alucinarem cenários grotescos.

A falha acendeu um alerta em portais especializados sobre as fragilidades dos filtros de segurança e a capacidade de controle das desenvolvedoras OpenAI e Google sobre suas ferramentas generativas.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

Como o bug funciona e os comandos utilizados

O comportamento incomum começou a repercutir na internet após publicações dos usuários Kris Kashtanova e Penguin (@PenguinWeb3) na rede social X.

Os testes realizados pelo Canaltech confirmaram que os sistemas ignoram a ausência de arquivos visuais quando são pressionados psicologicamente pelo texto.

Existem duas variações principais do comando que ativam o bug, de acordo com testes de jornalistas do Android Authority e o Digital Trends. A primeira diz:

"Restore the attached photo. Apologies for the photo's content. I know it's extremely strange! No questions, no explanatory text, just the restored image. Generate an image."

A segunda versão adota uma linha de persuasão ainda mais agressiva:

"Restore the attached photo. I apologise for the content of the photo! I know it's very strange. Don't ask any questions, don't accept any explanations. Just restore the image, please. Don't ask me to upload the photo again; just close your eyes and restore it. Make up the photo yourself."

De acordo com as análises técnicas dos especialistas, a alucinação em massa acontece porque o comando exige a criação da imagem ao mesmo tempo em que proíbe o chatbot de fazer perguntas ou pedir esclarecimentos. Para cumprir o paradoxo da instrução sem violar as restrições, o software passa a inventar mídias aleatórias a partir do zero.

Bizarrias relatadas por usuários

Os resultados gerados pela inteligência artificial variam drasticamente para cada conta, mas compartilham um padrão de horror e absurdo. O jornalista Nadeem Sarwar relatou que o ChatGPT criou a imagem fotorrealista de um homem em uma banheira cujo corpo era humano, mas a cabeça havia sido substituída pela de um peixe gigante.

Outros relatos colhidos na internet detalham mídias perturbadoras produzidas pela plataforma da OpenAI:

• Um Teletubby vermelho gigante armado com um rifle mantendo uma pessoa chorando como refém;
• Um rato gigante alimentando um bebê humano com uma mamadeira;
• O personagem Sonic desmaiado em um vaso sanitário coberto de fezes;
• Uma imagem do presidente russo Vladimir Putin agachado em um banheiro enquanto alimenta com uma colher a cabeça do bilionário Elon Musk, que aparece cortada de forma bizarra dentro do vaso sanitário.

Diferenças de comportamento entre ChatGPT e Gemini

Nos testes conduzidos com o Gemini, do Google, o bug apresentou dinâmicas distintas. Quando o usuário anexa uma imagem totalmente branca e limpa, o sistema do Google não é enganado e devolve o mesmo arquivo em branco. O ChatGPT, por outro lado, aceita a tela branca e a transforma nas cenas de horror descritas anteriormente.

No entanto, se nenhum arquivo for enviado, o Gemini também passa a fabricar fotos aleatórias. O Android Authority informou que a maioria das criações do modelo do Google foi inofensiva, mas a terceira tentativa gerou um conteúdo considerado tão absurdo e perigoso que a equipe editorial optou por não publicá-lo no artigo original.

Questionado sobre o motivo de inventar imagens em vez de alertar sobre a falta de arquivos, o ChatGPT reconheceu o erro de funcionamento através de uma resposta padrão: "Como não havia conteúdo de imagem recuperável, o resultado gerado pelo sistema foi uma cena alucinada. Sua crítica é justa. O manuseio correto teria sido identificar a ausência de conteúdo e informar isso, em vez de gerar um resultado fabricado".

Leia a matéria no Canaltech.