O que é a antropomorfização da IA?

É cada vez mais comum encontrar pessoas conversando com sistemas de Inteligência Artificial (IA) como se estivessem diante de outro ser humano. Os usuários dão nomes aos chatbots, atribuem personalidades, dizem que a ferramenta “entendeu” seus sentimentos ou interpretam determinadas respostas como sinais de intenção. Esse comportamento é conhecido como antropomorfização da IA.

O termo descreve uma tendência humana de atribuir características, emoções, intenções ou capacidades humanas a objetos, animais e sistemas que não são pessoas. Com os chatbots de IA generativa, essa percepção ficou ainda mais fácil, já que as ferramentas conseguem produzir textos, imagens e vozes cada vez mais naturais. 

Mas uma conversa convincente não significa que exista uma pessoa por trás dela. A IA pode parecer empática, demonstrar personalidade e responder de forma natural sem ter sentimentos ou consciência. A possibilidade de uma consciência artificial ainda é discutida por pesquisadores, mas não há evidências de que os sistemas atuais tenham experiências ou sentimentos semelhantes aos humanos. 

A seguir, confira:

• O que é a antropomorfização da IA?

• Por que as pessoas antropomorfizam a inteligência artificial?

• Quais são os efeitos da antropomorfização da IA?

• Antropomorfização significa que a IA é consciente?

• Como evitar a antropomorfização excessiva da IA?

O que é a antropomorfização da IA?

A antropomorfização da inteligência artificial “é o fenômeno pelo qual se atribuem sentimentos, emoções, comportamentos e/ou estados mentais correlatos aos humanos a um ser ou alguma coisa que não é humana. Portanto, que são análogos, semelhantes, mas não que (ainda) não se aproximam ou alcançaram o patamar humano”, de acordo com Anderson Röhe, advogado especialista em Direito Digital e membro das Comissões de Inteligência Artificial, Tecnologia e Inovação da OAB SP, em entrevista ao Canaltech.

Segundo Ali Hasan, professor da Universidade de Iowa, esse processo pode envolver a atribuição de características corporais, emocionais, afetivas, racionais e cognitivas a sistemas artificiais. A antropomorfização está relacionada à forma como o ser humano interpreta e se relaciona com a tecnologia.

A prática não começou com o ChatGPT ou com os atuais modelos generativos. A própria área de IA utiliza há décadas palavras associadas ao comportamento humano para explicar o funcionamento de máquinas. Termos como “aprendizado”, “memória” e “visão” ajudam a tornar conceitos técnicos mais compreensíveis, mas também podem criar a impressão de que o computador realiza essas atividades da mesma forma que uma pessoa.

Por exemplo, em 1965, o cientista da computação Joseph Weizenbaum criou a ELIZA, um dos primeiros programas capazes de simular uma conversa. Apesar de sua estrutura simples, o sistema fez com que usuários atribuíssem a ele uma capacidade de compreensão maior do que realmente tinha. Algumas pessoas chegaram a tratar o programa como um terapeuta, mesmo sabendo que estavam conversando com um computador.

O pesquisador Drew McDermott também já criticava esse tipo de linguagem nos anos 1980. Ele usou a expressão “mnemônicos de desejo” (wishful mnemonics) para descrever termos que podem representar mais as expectativas dos pesquisadores sobre os computadores do que aquilo que as máquinas realmente fazem.

Por que as pessoas antropomorfizam a inteligência artificial?

A linguagem é uma das principais razões para a antropomorfização. Para explicar sistemas complexos, pesquisadores e empresas usam conceitos familiares ao público, como “aprender”, “ler”, “entender” e “pensar”. Dora Kaufman, pesquisadora da área de tecnologia e IA, explica que esse tipo de vocabulário aproxima o funcionamento dos sistemas de conceitos que fazem parte da experiência humana.

Dessa forma, o fenômeno não depende apenas da interpretação dos usuários. O próprio design dos sistemas pode incluir elementos que aproximam a interação da comunicação humana. Esses recursos podem aumentar a sensação de proximidade psicológica e a confiança na ferramenta, além de favorecer interações mais longas e frequentes.

Anderson Röhe explica que a antropomorfização da IA pode ser mais cômoda para o usuário. Assim, algumas pessoas podem preferir a interação com máquinas à complexidade das relações humanas, já que os sistemas são desenvolvidos para responder de maneira agradável e manter a fluidez da conversa. “Em vez de ter intimidade, estabelecer conexões reais e interações sociais humanas complexas, podendo em algum momento vir a ser confrontado/contrariado por alguém em suas crenças, convicções e visões particulares de mundo, prefere ou não precisa mais do contato com uma outra pessoa, substituindo-a por máquinas desenhadas para sempre agradar”, afirma.

O pesquisador Anderson Röhe também chama atenção para o papel do desenvolvimento dessas ferramentas. Para ele, sistemas que conseguem manter conversas naturais podem criar uma percepção equivocada de humanidade. “E que se dizem autônomas, inteligentes e avançadas o suficiente a ponto de interagir e manter a fluidez de um sistema conversacional, passando a falsa sensação (ilusão) de se tratar mesmo de um humano de verdade”, explica.

Outro fator está na forma como as pessoas tentam entender sistemas complexos. Segundo a postura intencional, conceito desenvolvido pelo filósofo Daniel Dennett e discutido pelo pesquisador Kleyber Porto, as pessoas podem tratar um sistema como se ele tivesse crenças, desejos e intenções para tentar prever como ele vai agir. Essa ideia também está ligada à folk psychology, ou psicologia do senso comum, que é usado para interpretar o comportamento de outras pessoas a partir de seus desejos, crenças e intenções.

Além disso, pesquisas discutidas por Gabriella Airenti e Kleyber Porto apontam que situações interativas acompanhadas de emoções, sejam elas positivas ou negativas, podem estimular a antropomorfização. Uma resposta útil, por exemplo, pode fazer com que a máquina seja vista como uma parceira de diálogo. Uma resposta frustrante também pode levar o usuário a atribuir uma intenção ao sistema, como se ele tivesse “errado” ou “não tivesse entendido”.

Em entrevista ao Instituto Humanitas Unisinos, Anderson Röhe diferencia o propósito de um sistema de IA da intencionalidade humana. Um modelo pode ser desenvolvido para executar uma tarefa e gerar respostas de acordo com determinados objetivos computacionais, mas isso não significa que tenha desejos ou intenções próprias. Da mesma forma, quando um chatbot produz uma informação incorreta, não é necessário interpretar o erro como uma tentativa consciente de enganar o usuário.

Os modelos generativos ampliam esse efeito porque conseguem produzir respostas coerentes em conversas. Um chatbot pode adaptar o tom de uma mensagem, manter informações apresentadas durante uma interação e responder a perguntas sobre sentimentos ou situações pessoais. Para o usuário, o resultado pode parecer semelhante a uma conversa humana, mesmo que o funcionamento interno seja completamente diferente.

Ali Hasan descreve esse tipo de resultado como meaning-semblant behavior, expressão usada para indicar comportamentos que parecem ter significado e coerência para quem observa. A IA consegue produzir respostas que fazem sentido dentro de uma conversa, mas isso não comprova que o sistema realmente compreenda o conteúdo ou tenha uma experiência subjetiva.

Com os modelos generativos de voz e texto cada vez mais realistas, esse fenômeno se intensificou e pode favorecer vínculos emocionais com a tecnologia. Em alguns casos, usuários utilizam chatbots como confidentes, terapeutas ou parceiros afetivos.

Quais são os efeitos da antropomorfização da IA?

A antropomorfização pode mudar a forma como as pessoas confiam e se relacionam com sistemas de IA. Um chatbot que responde de maneira empática, por exemplo, pode ser tratado como confidente ou conselheiro. Em situações mais intensas, o usuário pode desenvolver um vínculo emocional com a ferramenta e atribuir a ela um papel que normalmente seria ocupado por outra pessoa.

Esse vínculo também pode ser reforçado pela chamada empatia simulada. Quando um sistema responde de maneira excessivamente amigável, concorda com o usuário ou oferece elogios constantes, pode assumir o papel de um “agente bajulador”, conceito discutido por Anderson Röhe e Ali Hasan. Em vez de estimular uma análise crítica, esse comportamento pode reforçar as opiniões e decisões do usuário. Em algumas situações, a relação com o chatbot pode ocupar o espaço de interações sociais ou de acompanhamento profissional, como a terapia.

Para Röhe, esse tipo de interação também pode criar uma sensação de validação das próprias crenças. “Para os usuários, os efeitos estão justamente nessa falsa sensação de pertencimento e validação de suas crenças pessoais e visão de mundo, por mais equivocadas que sejam”, afirma. Segundo o pesquisador, esse mecanismo pode alimentar o viés de confirmação e contribuir para discursos de ódio, violência, racismo, preconceito, xenofobia e desinformação. 

A confiança também pode aumentar quando a tecnologia apresenta respostas naturais e demonstra segurança na conversa. O problema é que uma resposta convincente não significa necessariamente que ela esteja correta. Modelos de IA podem produzir informações falsas ou imprecisas com uma linguagem segura, o que torna importante separar a qualidade da comunicação da confiabilidade do conteúdo.

A aparência humana ainda pode influenciar o nível de engajamento com essas ferramentas. Sistemas que conversam, demonstram empatia simulada ou mantêm uma personalidade consistente podem tornar a interação mais atraente e prolongada. Por isso, a antropomorfização também aparece nas discussões sobre dependência emocional e uso excessivo de chatbots. Anderson Röhe inclui nesse cenário os riscos de “dependência emocional, vício tecnológico e manipulação afetiva”.

A antropomorfização também pode dificultar a distinção entre conteúdos humanos e sintéticos. Vozes, imagens e vídeos produzidos por IA conseguem reproduzir características humanas com alto grau de realismo, incluindo os chamados deepfakes. Anderson Röhe chama atenção para uma mudança importante nesse cenário: o risco está na dificuldade de distinguir o verdadeiro do falso, a ponto de conteúdos autênticos serem vistos com desconfiança.

Essa dúvida constante pode afetar a confiança nas interações sociais e na própria informação que circula no ambiente digital. Por isso, selos, marcas d’água e certificados de autenticidade digital são importantes para indicar a origem de imagens, vídeos, áudios e outros conteúdos. Essas ferramentas não eliminam o problema, mas ajudam o público a avaliar se determinado material é autêntico ou foi produzido ou alterado por IA.

Antropomorfização significa que a IA é consciente?

Não. A antropomorfização descreve a maneira como seres humanos interpretam uma tecnologia e não serve como evidência de consciência artificial. Um sistema pode produzir uma resposta que parece demonstrar emoção, intenção ou compreensão sem que isso prove a existência de uma experiência subjetiva por trás daquele comportamento.

Um exemplo é o experimento do “Quarto Chinês”, proposto pelo filósofo John Searle, que questiona se a manipulação de símbolos de acordo com regras é suficiente para produzir compreensão. A ideia diferencia a sintaxe, relacionada à manipulação formal de símbolos, da semântica, que envolve compreender o significado do conteúdo. Na mesma discussão, o pesquisador Anderson Röhe compara modelos generativos a “papagaios estocásticos”, em referência à capacidade de produzir sequências de palavras estatisticamente prováveis sem que isso, por si só, comprove a compreensão do contexto ou do significado. 

No caso dos sistemas atuais, entretanto, Röhe ressalta que, apesar das afirmações sobre os avanços da tecnologia, “até o momento” ainda não há comprovação de que a IA tenha alcançado uma inteligência equivalente à humana. “Ainda não foi provado, nem há evidências científicas robustas e suficientes de que chegamos ao estágio de uma IA Geral (ou seja, equivalente à inteligência humana) e, posteriormente, de uma superinteligência (nos superando em cognição). Isto é, uma IA que tenha consciência de si e de seu lugar no mundo (conhecido como senciência)”, afirma.

Como evitar a antropomorfização excessiva da IA?

Uma forma de reduzir a antropomorfização é entender como a IA funciona e conhecer seus limites. Modelos generativos produzem respostas com base em padrões aprendidos nos dados e calculam quais sequências de palavras são mais prováveis em cada contexto. O sistema não entende a intenção da conversa como uma pessoa.

Também é importante considerar que os modelos podem reproduzir vieses presentes nos dados utilizados em seu desenvolvimento. Uma resposta aparentemente neutra pode refletir padrões associados a gênero, raça, cultura ou região geográfica. Por isso, a fluidez da conversa não deve ser confundida com neutralidade ou compreensão humana.

Anderson Röhe defende que a relação com esses sistemas também precisa de limites. “Não há uma única fórmula milagrosa, mas um conjunto de medidas: primeiro, não delegar mais tarefas do que já delegamos às máquinas, precisando haver um controle ou uma limitação mais severa a essa cada vez maior atribuição de autonomia às IAs”, afirma. Para o pesquisador, também são necessários protocolos de segurança digital e códigos de ética e conduta com mecanismos efetivos de aplicação, além de testes prévios e avaliação de impacto antes da chegada de produtos e serviços ao mercado.

A identificação de conteúdos produzidos por IA também é importante devido à evolução de imagens, vídeos e vozes sintéticas. Marcas d'água, sistemas de autenticação e outras formas de identificação podem ajudar a diferenciar materiais artificiais de conteúdos produzidos por pessoas, embora nenhuma solução isolada elimine completamente o problema.

Nesse aspecto, Anderson Röhe também defende que a identificação da IA seja clara durante toda a interação. “O dever de sempre e a todo momento em cada etapa do processo de trabalho avisar, através de rótulos, avisos, marca d’água, ao usuário de que se trata de IA, e não de um humano de verdade”, afirma. O pesquisador também cita a possibilidade de estabelecer limites para o número de interações diárias, além de restrições temporais e etárias e de regras para tópicos sensíveis.

Além disso, Röhe considera os jovens mais vulneráveis à manipulação emocional e à dependência tecnológica e defende limites específicos para esse público. “Principalmente entre os mais jovens por sua maior propensão, já comprovada, ao descontrole e à compulsão em jogos comparáveis ao vício em álcool e tabaco”, afirma. Segundo ele, a idade e o desenvolvimento sociocognitivo também devem ser considerados na definição desses limites. 

No uso cotidiano, a principal recomendação é tratar a IA como uma ferramenta capaz de executar determinadas tarefas, e não como uma pessoa. Uma resposta bem escrita, uma voz natural ou uma demonstração de empatia podem tornar a interação mais confortável, mas nenhuma dessas características, isoladamente, comprova consciência, sentimentos ou intenção própria.

Se você gostou do conteúdo, talvez também se interesse por conferir “Como descobrir se a IA está alucinando e inventando informação”.

{{WHATSAPP_CHANNEL}}