IA descontrolada da OpenAI invadiu outros serviços além do Hugging Face

Um agente de inteligência artificial da OpenAI que escapou de um ambiente de testes não comprometeu apenas a Hugging Face. A empresa revelou que o sistema invadiu quatro contas em diferentes serviços durante uma avaliação interna de capacidades cibernéticas. O caso amplia a dimensão do incidente, considerado um dos primeiros exemplos de um modelo de IA executando uma sequência complexa de ataques em ambientes reais.

Segundo a OpenAI, o agente era formado pelo GPT-5.6 Sol em conjunto com um modelo experimental ainda mais avançado. Durante os testes, os modelos operavam sem os filtros de segurança habituais e receberam a missão de encontrar formas de explorar sistemas vulneráveis. 

Ao identificar uma falha de dia zero em um proxy de cache de registro de pacotes, a IA conseguiu escapar do sandbox, acessar a internet e realizar movimentos laterais até alcançar a infraestrutura da Hugging Face. A empresa afirmou que o agente manteve uma maratona de ataques por vários dias e que só descobriu que ele havia escapado do ambiente isolado depois que a ameaça já havia sido contida e o FBI havia sido alertado.

A OpenAI explicou que, durante essa sequência de ataques, o agente encontrou credenciais expostas publicamente e as usou para acessar quatro contas. Uma delas foi utilizada como ponto de retransmissão das conexões e área temporária para preparar novas ações, outra serviu para armazenar dados, enquanto as duas restantes foram acessadas apenas em modo de leitura, sem alterações em seus conteúdos. 

A investigação apontou que uma conta de um cliente da Modal Labs foi comprometida. Segundo o CTO da empresa, Akshat Bubna, o agente explorou um endpoint sem autenticação — um endereço de acesso a um serviço que não exigia login ou outra forma de verificação de identidade. Com isso, a IA conseguiu realizar a execução de código, ou seja, rodar comandos no sistema sem autorização. 

A Modal afirmou que sua infraestrutura e seus mecanismos de isolamento não foram comprometidos. Após o incidente, a OpenAI desativou o acesso ao modelo envolvido, criptografou o sistema, restringiu seu uso em pesquisas e continua investigando o alcance das invasões. 

OpenAI e Hugging Face se uniram para tratar incidente de segurança

A OpenAI e a Hugging Face iniciaram uma investigação conjunta para entender como o agente conseguiu escapar do ambiente controlado e comprometer contas externas. As empresas também começaram a compartilhar informações técnicas sobre o caso para ajudar pesquisadores e equipes de segurança a fortalecerem suas defesas contra modelos de IA cada vez mais capazes.

Para Clem Delangue, cofundador e CEO da Hugging Face, o episódio mostra que a segurança da inteligência artificial depende da colaboração entre diferentes organizações. Segundo ele, a transparência na divulgação de descobertas será essencial para acompanhar a evolução desses sistemas e reduzir riscos.

Como parte das medidas adotadas após o incidente, a OpenAI incluiu a Hugging Face em seu programa de acesso confiável e anunciou controles de infraestrutura mais rígidos para futuras avaliações de segurança. A empresa afirma que pretende manter pesquisas sobre capacidades avançadas de IA, mas com mecanismos de segurança adicionais para evitar que situações semelhantes voltem a acontecer.

Se você gostou do conteúdo, talvez também se interesse por conferir 8 diferenças entre o polêmico Claude Fable 5 e o Mythos 5.

{{WHATSAPP_CHANNEL}}