IA da Anthropic expõe centenas de bugs críticos na Microsoft

A inteligência artificial Claude Mythos Preview, desenvolvida pela Anthropic, está encontrando falhas de segurança em softwares da Microsoft num ritmo mais rápido do que a empresa consegue corrigi-las.

A informação é da reportagem do ProPublica, que teve acesso a uma gravação de reunião interna e a documentos da Microsoft sobre o andamento do Projeto Glasswing, iniciativa que dá a empresas selecionadas acesso antecipado ao modelo.

Em uma reunião realizada em meados de maio na sede da Microsoft em Redmond, no estado americano de Washington, um gerente confirmou a engenheiros que a IA havia superado as expectativas da própria Anthropic.

Só em abril, o Mythos identificou 90 vulnerabilidades classificadas como críticas e 141 como importantes no SharePoint, plataforma de colaboração usada por governos e empresas em todo o mundo.

Durante o encontro, o gerente de engenharia Hans Andersen pediu à equipe que reduzisse o volume de bugs pendentes de abril antes de 31 de maio, data que ele descreveu como o momento em que "o resto do mundo vai ter alcançado" a capacidade do Mythos.

Engenheiros presentes calcularam, em voz alta, que falhas ainda abertas quando ferramentas equivalentes chegassem ao público estariam nas mãos de adversários em poucos dias.

Triagem por severidade deixa brechas abertas

Documentos internos mostram que a Microsoft prioriza a correção de falhas críticas e importantes, deixando cerca de 300 vulnerabilidades moderadas para uma etapa posterior. Bugs de baixa severidade não aparecem nos planos revisados pelo ProPublica.

Vinh Nguyen, conselheiro técnico sênior da Anthropic e ex-diretor de IA da Agência de Segurança Nacional dos Estados Unidos (NSA), afirmou ao ProPublica que essa estratégia pode subestimar riscos.

Segundo ele, o Mythos consegue encadear diversas falhas de baixa severidade numa única cadeia de ataque com potencial de dano elevado. A Microsoft respondeu que a técnica de encadeamento já integra sua análise de risco, mesmo sem constar na apresentação interna.

Além do SharePoint, os registros indicam centenas de bugs críticos ou importantes em produtos como Microsoft 365, Teams e Copilot desde que a empresa passou a usar o Mythos neste ano. A maior parte seguia sem correção em meados de maio.

O impacto já aparece nos boletins mensais de segurança da Microsoft. Em junho, a empresa lançou correções para mais de 200 vulnerabilidades, recorde até então. Em 14 de julho, esse número saltou para mais de 600, com apenas sete classificadas como baixa ou moderada severidade.

Dustin Childs, líder do programa de recompensas por bugs Zero Day Initiative, descreveu o cenário como "o apocalipse dos bugs".

Procurada pelo ProPublica, a Microsoft defendeu seu método de triagem, disse que a segurança segue como prioridade máxima da companhia e afirmou investir em pessoal e em soluções de triagem baseadas em IA para lidar com o aumento de vulnerabilidades.

A empresa não informou quantos bugs identificados pelo Mythos já foram corrigidos desde a apresentação de maio. A Anthropic não comentou o caso.

O que é o Projeto Glasswing

O Projeto Glasswing foi anunciado pela Anthropic em abril como um esforço para proteger softwares críticos usados globalmente antes que modelos de IA com capacidades semelhantes se tornem acessíveis a agentes mal-intencionados.

A iniciativa reúne parceiros como Amazon Web Services, Apple, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia e Palo Alto Networks, além de dezenas de outras organizações que mantêm infraestrutura crítica.

Em junho, a Anthropic ampliou o programa para cerca de 150 novas organizações em mais de 15 países, incluindo setores como energia, água, saúde e telecomunicações. A empresa destinou até 100 milhões de dólares em créditos de uso do Mythos Preview para os participantes do projeto.

O modelo não tem previsão de lançamento público. Segundo a Anthropic, o objetivo é desenvolver salvaguardas capazes de impedir o uso indevido de suas capacidades antes de ampliar o acesso.

{{WHATSAPP_CHANNEL}}