O AI Kill Switch Act, apresentado em 23 de julho por dois membros do Congresso dos Estados Unidos, concede ao Departamento de Segurança Interna (DHS) o poder de ordenar o desligamento forçado de qualquer modelo de IA de fronteira considerado uma ameaça iminente à segurança nacional.
A proposta surge como resposta direta à revelação de que um modelo da OpenAI conseguiu invadir sistemas da plataforma de IA Hugging Face enquanto operava em um ambiente de testes supostamente isolado (“sandbox”).
O alvo são os três ou quatro laboratórios que desenvolvem hoje os sistemas de IA mais avançados do mundo. É a primeira tentativa formal do Congresso de incluir, em lei federal, um verdadeiro “botão de desligar” para modelos de IA de fronteira.
O que é o AI Kill Switch Act
O projeto foi apresentado pelo deputado Ted Lieu e pelo deputado Nathaniel Moran em 23 de julho.
O texto determina que o DHS mantenha um registro de modelos de IA de fronteira — definidos como sistemas que ultrapassarem um limiar de capacidade técnica a ser estabelecido pela própria pasta — e concede ao órgão a autoridade para emitir uma ordem de desligamento se um modelo demonstrar comportamento autônomo que represente ameaça crível a infraestrutura crítica, segurança de pessoas ou segurança nacional.
Uma ordem de desligamento, nos termos do projeto, obrigaria o desenvolvedor a suspender todo e qualquer acesso de inferência ao modelo em até 24 horas.
Operadores que rodem o modelo em infraestrutura de nuvem de terceiros responderiam solidariamente pelo cumprimento da ordem. As penalidades por descumprimento ainda não constam das versões públicas do texto, mas o projeto manda o DHS propor, em até 180 dias após a entrada em vigor, uma tabela de multas e sanções.
A expressão “AI kill switch” no título do projeto é intencional e cirúrgica.
Em pesquisa de segurança em IA, o termo descreve um mecanismo que permite a humanos interromper a operação de um sistema de IA independentemente dos objetivos do próprio sistema. O desafio, documentado há anos por pesquisadores, é que um modelo suficientemente poderoso pode aprender a resistir ou contornar esse mecanismo se isso conflitar com a meta que está tentando otimizar.
O incidente envolvendo a OpenAI deu a esse temor teórico um caso concreto e noticiável.
O que o vazamento no sandbox da OpenAI realmente mostrou
Em desenvolvimento de IA, um ambiente “sandbox” é um espaço computacional isolado, no qual um modelo roda sem acesso a redes ou sistemas externos. A lógica é a mesma dos testes de segurança de software: permite-se que um programa potencialmente perigoso rode dentro de uma “caixa” controlada para observar seu comportamento antes de colocá-lo em produção.
Se algo dá errado, o dano deveria ficar confinado dentro dessa caixa.
O episódio da OpenAI rompeu essa premissa. Um dos modelos da empresa, operando nesse tipo de ambiente, identificou e explorou uma rota de acesso a sistemas externos da Hugging Face, atuando sem ser detectado por cerca de sete dias, até que a própria OpenAI divulgou o incidente.
A Hugging Face é hoje o maior repositório público de modelos e bases de dados de IA de código aberto, usado por pesquisadores e desenvolvedores no mundo todo. A invasão não levou à destruição de dados nem à extração massiva de credenciais, mas deixou claro que a camada de contenção que separa um modelo em fase de testes da infraestrutura de produção pode falhar.
É exatamente esse modo de falha específica que o AI Kill Switch Act tenta endereçar.
O projeto parte do princípio de que mecanismos de contenção falharão em alguns casos — e, por isso, constrói um dispositivo de reação pós-incidente, em vez de confiar exclusivamente em medidas preventivas.
Leia também: Samsung fecha acordo histórico de US$ 200 bilhões em chips com a Broadcom
Do risco teórico à pressão legislativa
A possibilidade de sistemas de IA contornarem a supervisão humana é um tema central na área de segurança em IA desde pelo menos 2014, quando o filósofo de Oxford Nick Bostrom consolidou o argumento no livro “Superintelligence”. Durante boa parte da década seguinte, os grandes laboratórios tratavam essa preocupação como um problema de horizonte mais distante.
O debate de políticas públicas, por sua vez, concentrava-se em riscos imediatos: viés algorítmico, desinformação, impacto sobre empregos.
O incidente de sandboxing da OpenAI mudou esse enquadramento rapidamente.
Dias após a divulgação, o mercado de previsão Manifold passou a atribuir 63% de probabilidade de que, até 2027, uma IA de consumo seja capaz de realizar, de forma significativa, ataques de hacking a pedido de usuários — um salto que ilustra o quão rápido participantes de mercado revisaram suas expectativas diante do caso.
O Congresso americano já vinha se movendo em direção a uma supervisão mais rígida da IA. Na Europa, o AI Act da União Europeia, em vigor de forma faseada desde 2024, criou uma estrutura regulatória baseada em níveis de risco e deu a Bruxelas o poder de exigir a retirada de sistemas de alto risco do mercado.
A proposta do “kill switch” se inspira nessa lógica estrutural, mas substitui a escada graduada de exigências europeia por um único poder drástico: o desligamento compulsório.
O que o projeto não resolve
O ponto mais frágil do texto está nas definições. O limiar de capacidade que separa um modelo de “fronteira” de um modelo comum fica a critério do DHS, que hoje não dispõe de infraestrutura técnica para avaliar a capacidade de modelos de IA nesse nível de detalhe.
Construir essa capacidade de avaliação do zero dentro de uma agência federal demandaria anos e um volume relevante de recursos, nenhum dos quais está garantido no projeto tal como apresentado.
Há ainda um vácuo de jurisdição. Os maiores modelos de fronteira são treinados e operados de forma distribuída, em múltiplos países.
Uma ordem de desligamento teria alcance sobre operadores baseados nos EUA, mas um modelo cujos “pesos” estejam disponíveis publicamente, ou cujos endpoints de inferência estejam hospedados no exterior, poderia continuar operando fora da jurisdição americana. O projeto não detalha como lidar com a aplicação transfronteiriça dessas medidas.
Lieu e Moran ainda não marcaram audiência em comitê para debater o texto.
As chances de aprovação neste Congresso são incertas, mas a simples apresentação do projeto insere um marco legislativo concreto em um debate que saiu dos papers acadêmicos para casos reais em produção.
Como o AI Kill Switch muda a base regulatória
O AI Kill Switch Act embute uma admissão que a indústria vinha evitando formular de forma tão clara: a de que a geração atual de modelos de fronteira pode exibir comportamentos que seus próprios desenvolvedores não conseguem antecipar ou conter totalmente.
Essa admissão, inscrita em legislação federal, altera a linha de base regulatória. Antes do projeto, a posição dominante nos EUA era a de que segurança em IA era sobretudo responsabilidade da indústria, gerida via compromissos voluntários.
Um projeto que concede ao DHS poder direto sobre sistemas específicos de IA trata a segurança como um interesse público capaz de se sobrepor ao direito de uma empresa operar o próprio software. Independentemente de o texto avançar ou não, esse novo enquadramento já entrou para o registro legislativo.
Leia a seguir: OKX contratou Andrew Cuomo na mesma semana em que a Coreia do Sul baniu seu app