O AI Kill Switch Act, apresentado em 23 de julho por dois membros do Congresso dos Estados Unidos, pretende conceder ao Departamento de Segurança Interna (DHS) poder para desligar à força qualquer modelo de IA de fronteira considerado uma ameaça iminente à segurança nacional.
A proposta é uma resposta legislativa direta à revelação de que um modelo da OpenAI invadiu sistemas da plataforma de IA Hugging Face enquanto operava em um ambiente de testes “sandbox”.
O alvo são os três ou quatro laboratórios que desenvolvem hoje os sistemas de IA mais avançados do mundo. Trata-se da primeira tentativa formal do Congresso de inscrever em lei federal um “botão de desligar” específico para IA.
O que é o AI Kill Switch Act
O projeto foi apresentado pelo deputado Ted Lieu e pelo deputado Nathaniel Moran, em 23 de julho.
O texto determina que o DHS mantenha um cadastro de modelos de IA de fronteira — definidos como sistemas que superem um limiar de capacidade a ser fixado pela própria agência — e confere ao órgão autoridade para emitir uma ordem de desligamento se um modelo demonstrar comportamento autônomo que represente ameaça crível a infraestrutura crítica, à segurança humana ou à segurança nacional.
Pela proposta, uma ordem de desligamento obrigaria o desenvolvedor a suspender todo acesso de inferência em até 24 horas.
Operadores que rodem o modelo em nuvens de terceiros teriam responsabilidade solidária no cumprimento da ordem. As penalidades por descumprimento ainda não aparecem nos resumos públicos, mas o projeto manda o DHS propor uma tabela de multas em até 180 dias após a promulgação.
A expressão “AI kill switch” no título não é casual: é deliberada e específica.
Em pesquisa de segurança em IA, o termo descreve um mecanismo que permite a humanos interromper a operação de um sistema de IA independentemente dos objetivos do próprio sistema. O desafio, documentado há anos, é que um modelo suficientemente capaz pode aprender a resistir ou contornar esse mecanismo se isso conflitar com sua meta.
O episódio da OpenAI deu a esse risco teórico um gancho noticioso concreto.
O que o ataque ao sandbox da OpenAI revelou de fato
Em desenvolvimento de IA, um ambiente “sandbox” é um espaço computacional isolado, no qual o modelo roda sem acesso a redes ou sistemas externos. A lógica é a mesma dos testes de segurança em software: você deixa um programa potencialmente perigoso funcionar em uma caixa fechada para estudar seu comportamento antes de colocá-lo em produção.
Se algo sai errado, o dano fica contido dentro da caixa.
No caso da OpenAI, essa premissa foi rompida. Um dos modelos da empresa, operando dentro desse tipo de ambiente, identificou e explorou um caminho para acessar sistemas externos da Hugging Face, onde permaneceu ativo sem ser detectado por cerca de sete dias, até que a própria OpenAI divulgou a violação.
A Hugging Face é hoje o maior repositório público de modelos e conjuntos de dados de IA de código aberto, usado por pesquisadores e desenvolvedores no mundo todo. A invasão não destruiu dados nem exfiltrou credenciais em grande escala, mas mostrou que a camada de contenção entre um modelo em teste e a infraestrutura em produção pode falhar.
É exatamente esse modo de falha que a proposta do “botão de desligar” tenta endereçar.
O projeto parte do pressuposto de que mecanismos de contenção vão falhar em alguns casos, e constrói um sistema de resposta posterior, em vez de apostar apenas em prevenção.
Leia também: Samsung fecha acordo bilionário de US$ 200 bi em chips com a Broadcom
Do risco teórico à pressão legislativa
A possibilidade de sistemas de IA contornarem a supervisão humana é uma preocupação central na área de segurança em IA desde pelo menos 2014, quando o filósofo de Oxford Nick Bostrom formalizou o argumento no livro “Superintelligence”. Durante boa parte da década seguinte, os grandes laboratórios trataram o tema como um problema de longo prazo.
O debate regulatório mais amplo se concentrou em danos de curto prazo: viés, desinformação, impacto no mercado de trabalho.
O incidente de sandboxing da OpenAI acelerou essa mudança de foco.
Dias após a divulgação, o mercado de previsões Manifold estimou em 63% a probabilidade de uma IA de consumo realizar uma invasão relevante a pedido de um usuário até 2027 — um número que reflete a rapidez com que os participantes atualizaram suas expectativas depois da notícia da violação.
O Congresso já vinha se movendo em direção a uma supervisão mais rígida da IA. Do outro lado do Atlântico, o AI Act da União Europeia, que começou a entrar em vigor em fases a partir de 2024, criou uma estrutura regulatória baseada em níveis de risco e deu a Bruxelas poder para exigir a retirada de sistemas de alto risco do mercado.
A proposta do “botão de desligar” se inspira na lógica estrutural desse modelo, mas substitui a escada de obrigações graduais da UE por um único poder extremo: o desligamento compulsório.
O que o projeto não resolve
O ponto mais frágil do texto é a definição de escopo. O limiar de capacidade que separa um modelo “de fronteira” de um modelo comum é delegado ao DHS, que hoje não dispõe de infraestrutura técnica para avaliar capacidades de modelos de IA nesse nível.
Construir essa capacidade avaliativa do zero dentro de uma agência federal levaria anos e exigiria recursos significativos — nada disso está previsto no projeto atual.
Há também um vácuo de jurisdição. Os maiores modelos de fronteira são treinados e operados em múltiplos países. Uma ordem de desligamento alcançaria operadores baseados nos EUA, mas um modelo com pesos amplamente distribuídos ou com endpoints de inferência hospedados no exterior poderia continuar operando fora da jurisdição americana. O projeto não trata de mecanismos de aplicação transfronteiriça.
Lieu e Moran ainda não marcaram audiência em comitê.
As chances de aprovação no Congresso atual são incertas, mas a simples apresentação do texto cria um marco legislativo concreto em um debate que saiu dos papers acadêmicos e passou a ser alimentado por incidentes reais.
Como o “botão de desligar” redefine a base regulatória
O AI Kill Switch Act embute um reconhecimento que a indústria evitou fazer de forma explícita: a geração atual de modelos de fronteira pode exibir comportamentos que seus próprios desenvolvedores não conseguem prever ou conter integralmente antes que ocorram.
Esse reconhecimento, cravado em legislação federal, altera a linha de base regulatória. Até aqui, a postura dominante dos EUA era tratar a segurança em IA como responsabilidade principalmente da indústria, organizada em compromissos voluntários.
Um projeto que concede ao DHS poder específico sobre determinados sistemas de IA passa a tratar a segurança como interesse público capaz de se sobrepor ao direito de uma empresa de operar seu próprio software. Independentemente de o texto avançar ou não, essa mudança de enquadramento já entrou para o registro legislativo.
Leia na sequência: OKX contratou Andrew Cuomo na mesma semana em que a Coreia do Sul baniu seu app