Nova IA da Meta está mapeando e fichando todos os seus amigos e familiares

Um pesquisador identificou que o Muse, agente de IA pessoal da Meta, cria perfis detalhados sobre os familiares e amigos de cada conta. Os registros trazem o nível de proximidade com cada conta, aniversários e outras preferências de cada pessoa, de acordo com o site Wired.

A informação foi identificada pelo pesquisador de IA e cibersegurança Karan Joshi, após vasculhar pelo system prompt (conjunto de regras que estabelecem o comportamento e a personalidade de uma IA) do assistente.

As instruções mencionam uma habilidade de criar uma “página para cada pessoa na vida do usuário” e compilar os respectivos dados a cada hora. O objetivo seria incorporar as informações à memória da IA para criar respostas personalizadas. 

As pessoas perfiladas incluem familiares, colegas, contas seguidas e amigos. A medida levanta preocupações sobre privacidade e exposição de outras pessoas, além de um potencial para reforçar a IA como uma ferramenta capaz de resolver dilemas pessoais. A Meta ainda não comentou o caso.

 

Assistente repleto de polêmicas

O Muse foi lançado há menos de um mês e já acumula uma série de controvérsias. A Amazon já bloqueou a ferramenta de acessar a sua plataforma após navegar e fazer compras sem se identificar como um agente automatizado, por exemplo.

Em outra ocasião, o agente da Meta inicou conversas com um comprador pelo marketplace e combinou um encontro na casa do vendedor sem o consentimento do usuário. A criadora do Facebook ainda precisou afirmar que a IA não espiona as conversas das pessoas.

Por enquanto, a ferramenta está disponível apenas nos Estados Unidos.

 

{{WHATSAPP_CHANNEL}}