Cientistas criam IA capaz de entender quando deu resposta errada

Os pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST), em parceria com a Microsoft Research Asia, desenvolveram um sistema de inteligência artificial capaz de identificar, a partir de sinais cerebrais, quando interpretou de forma errada a intenção de uma pessoa. A tecnologia usa dados captados por eletroencefalograma (EEG) para detectar respostas associadas a erros e ajustar o comportamento da IA sem depender de novos comandos de voz ou gestos.

Chamado Neural Value Alignment (NVA), o método ainda está em fase de pesquisa e não é um produto comercial. A proposta é usar sinais cerebrais para ajudar sistemas de IA a diferenciar quando o objetivo interpretado está errado e quando o objetivo está correto, mas a estratégia escolhida para alcançá-lo não corresponde ao que a pessoa esperava.

Nos testes de simulação apresentados no estudo, o método conseguiu se adaptar mais rapidamente do que abordagens tradicionais em situações com maior incerteza. Os pesquisadores também avaliaram cenários nos quais os objetivos do usuário mudavam de forma repentina ou os sinais de feedback neural ficavam temporariamente indisponíveis.

A pesquisa não significa que a IA consiga ler pensamentos de forma geral. O sistema trabalha com padrões específicos de atividade cerebral relacionados à percepção de erro durante uma interação. Os sinais são processados para classificar se o problema está no objetivo interpretado ou na estratégia utilizada pela IA.

A tecnologia pode ter aplicações futuras em robôs, veículos autônomos, sistemas de educação personalizada e equipamentos de reabilitação. O uso de sinais cerebrais também pode ser especialmente relevante em situações nas quais uma pessoa tem dificuldade para se comunicar por voz ou por movimentos.

O trabalho, publicado em agosto de 2026, foi liderado por Sang Wan Lee, professor do KAIST, com participação de pesquisadores da Microsoft Research Asia. Xin Xu, doutorando do KAIST, aparece como primeiro autor, ao lado de Yansen Wang, Dongqi Han e Dongsheng Li.

Como a IA identifica o erro?

O estudo parte de um problema conhecido como ambiguidade entre objetivo e ação. Uma mesma ação pode representar intenções diferentes, assim como uma mesma intenção pode ser alcançada por estratégias distintas.

Para lidar com essa dificuldade, o NVA analisa sinais de atividade cerebral associados ao chamado erro de predição. O sistema usa aprendizado profundo (deep learning) para identificar dois tipos de resposta:

• Erro de Predição de Recompensa (RPE): indica que a IA provavelmente interpretou errado o objetivo que a pessoa queria alcançar. Nesse caso, o sistema precisa rever a própria interpretação e buscar outra meta;

• Erro de Predição de Estado (SPE): indica que o objetivo estava correto, mas a estratégia escolhida para alcançá-lo não correspondia ao esperado. A IA mantém a meta e modifica a forma de agir.

Além de identificar o RPE e o SPE separadamente, a tecnologia também encontrou padrões distintos de ondas cerebrais quando os dois tipos de erro ocorrem ao mesmo tempo. Essa diferenciação ajuda o sistema a interpretar situações mais complexas durante a interação entre a pessoa e a IA.

Se você gostou do conteúdo, talvez também se interesse por conferir “Em que a IA ainda erra feio e como perceber antes de confiar”. 

{{WHATSAPP_CHANNEL}}