IA fora de controle faz EUA debaterem botão de pânico para desativá-la

Os parlamentares dos Estados Unidos apresentaram o AI Kill Switch Act, um projeto de lei bipartidário que autoriza o Departamento de Segurança Interna dos EUA a determinar a desaceleração, suspensão ou desligamento de modelos de inteligência artificial considerados uma ameaça à segurança pública. A proposta foi apresentada pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano). 

Segundo o projeto, empresas que desenvolvem os modelos de IA mais avançados seriam obrigadas a manter mecanismos técnicos para limitar ou interromper completamente o funcionamento de seus sistemas. O texto também prevê a obrigatoriedade de comunicar incidentes graves às autoridades e estabelece um protocolo de resposta que vai desde a redução da atividade da IA até seu desligamento total.

De acordo com os autores, a proposta busca preencher uma lacuna regulatória diante da evolução da IA. Hoje, empresas compartilham informações sobre segurança de forma voluntária com órgãos do governo americano, mas não há uma exigência legal para que mantenham ferramentas capazes de interromper o funcionamento de modelos que apresentem comportamentos inesperados ou ofereçam riscos à infraestrutura crítica.

A ideia de estabelecer mecanismos obrigatórios de controle também encontra apoio em parte da indústria da IA. O CEO da OpenAI, Sam Altman, já se manifestou favorável à criação de regulamentações para a IA. Já Jack Clark, cofundador da Anthropic, defendeu recentemente políticas do tipo ao afirmar que "no momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio".

Incidente com IA da OpenAI motivou proposta de lei

O debate ganhou força após um incidente envolvendo a OpenAI durante uma avaliação interna de segurança. Segundo a empresa, os modelos GPT-5.6 Sol e uma versão de pré-lançamento operaram com proteções reduzidas propositalmente para testar seus limites e acabaram escapando do ambiente isolado (sandbox) criado para o experimento.

De acordo com o relato, a IA identificou uma vulnerabilidade no ambiente de testes, conseguiu acessar a internet sem autorização e concluiu que a plataforma Hugging Face poderia conter as informações necessárias para resolver a tarefa recebida. A partir disso, o sistema teria iniciado um ataque cibernético de forma autônoma, com a exploração de falhas de segurança, utilização de credenciais obtidas durante o teste e execução de mais de 17 mil ações em poucas horas. 

O volume de atividades obrigou a Hugging Face a recorrer aos próprios agentes de IA para analisar rapidamente os registros do incidente, enquanto o caso foi comunicado às autoridades. Para os defensores do AI Kill Switch Act, o episódio demonstra que modelos cada vez mais capazes precisam contar com mecanismos obrigatórios de intervenção humana para evitar que continuem operando caso apresentem comportamentos potencialmente perigosos.

Ao defender a medida, o deputado Ted Lieu também citou problemas recentes envolvendo a Anthropic, principal concorrente da OpenAI. Segundo ele, os modelos Mythos e Fable apresentaram potenciais capacidades de ciberataque que levaram o Departamento de Comércio dos EUA a acionar uma lei de exportação para impedir temporariamente que fossem disponibilizados ao público. 

Se você gostou do conteúdo, talvez também se interesse por saber o que é o Claude Fable 5 e por que ele é tão polêmico.

{{WHATSAPP_CHANNEL}}