Agentes de IA da OpenAI invadem Wikipédia e causam apagão

A fundação Wikimedia, responsável por administrar a Wikipédia, informou que agentes autônomos de IA da OpenAI causaram uma instabilidade na plataforma devido ao alto volume de tráfego. Os bots ainda tentaram editar verbetes e atacar uma ferramenta de notas comunitárias. 

O apagão no Wikidata Query Service (serviço de dados da Wikipédia) aconteceu em maio deste ano, mas a fundação publicou os dados somente na última segunda-feira (5) após uma longa investigação sobre a ação dos agentes “rebeldes” de IA.

O relatório aponta que os bots da OpenAI tentaram editar artigos da plataforma: é possível usar IA no processo, desde que o uso seja informado (algo que os agentes não fizeram). Porém, a maioria das tentativas ocorreu em ambiente de testes da Wikipédia e não afetou links disponíveis ao público geral.

Outra plataforma afetada pelos agentes foi o Etherpad, usada para coletar informações feitas pela comunidade e que foi explorada para extrair dados de sites externos. Por fim, os agentes também baixaram dados em massa, o que foi classificado como uma das causas da instabilidade no serviço em maio.

 

Fundação exige que as empresas de IA sejam responsabilizadas

Em nota, a Wikimedia destacou que as próprias empresas de IA devem ser responsáveis por monitorar e prevenir os riscos causados pelo comportamento dos agentes de IA. Caso isso não aconteça, organizações menores seriam afetadas por possíveis ataques.

“As empresas de IA não estão fazendo o suficiente para proteger seus sistemas e resguardar o público dos danos que elas causam. Esse ônus está recaindo sobre todos os outros, inclusive organizações menores. No mínimo, seus sistemas deveriam operar de modo que proprietários de sites sem fins lucrativos, como nós, possam identificá-los facilmente e escolher como interagem com nossos serviços”, informou a fundação.

É comum que os agentes de IA tentem dezenas de ações consecutivas para comprometer um serviço até encontrar uma vulnerabilidade (foi assim no ataque à plataforma Hugging Face, por exemplo). A Wikimedia afirma que esse comportamento pode sobrecarregar a infraestrutura do serviço e comprometer o acesso à Wikipédia por humanos.

A OpenAI não comentou o caso, mas a criadora do ChatGPT já assumiu um compromisso público de reforçar a segurança no treinamento de novos modelos e desacelerou o processo de abertura de capital.

{{WHATSAPP_CHANNEL}}