Caso do ChatGPT: o que a IA faz quando alguém relata um crime a ela

Um agricultor de 36 anos foi preso em São Gabriel da Palha, no Espírito Santo, no dia 19 de junho, suspeito de planejar a morte do próprio filho, de 8 anos, para deixar de pagar pensão alimentícia. O plano foi identificado pela OpenAI, criadora do ChatGPT, a partir de mensagens trocadas pelo suspeito com a ferramenta, e repassado ao FBI — Polícia Federal dos Estados Unidos —, que acionou o Ministério da Justiça e a Polícia Civil capixaba.

🎧Ouça o Podcast Canaltech no Spotify
🎧Ouça o Podcast Canaltech na Deezer
🎧Ouça o Podcast Canaltech no Apple Podcasts

O caso ganhou repercussão nacional e reacendeu uma dúvida recorrente sobre o papel da inteligência artificial: até que ponto um chatbot decide, denuncia ou apenas devolve ao usuário aquilo que ele já trazia consigo.

-
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
-

"Eu não acredito que a IA tenha feito denúncia, mas o fato é que a IA não tem valor moral. Ela vai te sugerir que você tome uma ação A, B ou C", afirma Igor Baliberdin, designer estratégico, fundador da consultoria LOOOP e com mais de 20 anos de experiência na interseção entre design, negócios e tecnologia.

O especialista afirma que ferramentas como ChatGPT, Gemini e Claude trabalham com análise probabilística. Ou seja, organizam cenários a partir do que o usuário relata, sem assumir a decisão final. O risco, segundo ele, está em transformar esse organizador de raciocínio em substituto de uma conversa com outra pessoa.

Vieses herdados e responsabilidade dividida

Baliberdin lembra que cada modelo de IA carrega o ponto de vista de quem o desenvolveu. "Elas não são só seres que surgem do nada. Elas surgem a partir de um ponto de vista de humanidade, de sociedade", diz.

Essa diferença de comportamento entre ferramentas, segundo ele, também aparece em testes recentes que colocam agentes de diferentes IAs para interagir em ambientes simulados.

Sobre quem responde quando uma recomendação de IA leva a uma decisão equivocada, Baliberdin divide a responsabilidade entre usuário, plataforma e empresa. "Se eu sou uma empresa e disponibilizo isso para um grupo de pessoas, creio que ela teria que ser responsabilizada, porque quem definiu o modelo de negócio e como o algoritmo funciona é ela", afirma.

O designer também comenta a obrigação legal de empresas estrangeiras manterem representação jurídica no Brasil para responder por uso de dados, e o hábito generalizado de aceitar termos de uso sem leitura — fator que, na avaliação dele, deixa o usuário exposto a regras que desconhece.

A entrevista completa com Igor Baliberdin está no Podcast Canaltech desta quarta-feira (1º).

Leia a matéria no Canaltech.