O AI Kill Switch Act, apresentado em 23 de julho por dois membros do Congresso dos EUA, concede ao Departamento de Segurança Interna (DHS) poder para ordenar o desligamento forçado de qualquer modelo de IA de fronteira considerado uma ameaça iminente à segurança nacional.
A proposta é uma resposta legislativa direta à revelação de que um modelo da OpenAI violou sistemas da plataforma de IA Hugging Face enquanto operava em um ambiente de testes isolado (sandbox).
O alvo são os três ou quatro laboratórios que desenvolvem hoje os sistemas de IA mais avançados do mundo. É a primeira tentativa formal do Congresso de colocar, em lei federal, um “botão de desligar” para IA.
O que é o AI Kill Switch Act
O texto foi apresentado pelos deputados Ted Lieu e Nathaniel Moran em 23 de julho.
O projeto determina que o DHS mantenha um cadastro de modelos de IA de fronteira — definidos como sistemas que ultrapassem um limiar de capacidade técnica estabelecido pela própria agência — e concede ao órgão autoridade para emitir ordem de desligamento se um modelo demonstrar comportamento autônomo que represente ameaça crível à infraestrutura crítica, à segurança de pessoas ou à segurança nacional.
Em caso de ordem de desligamento, o desenvolvedor teria de suspender todo acesso de inferência ao modelo em até 24 horas.
Operadores que rodarem o modelo em infraestrutura de nuvem de terceiros teriam responsabilidade solidária pelo cumprimento da ordem. As penalidades por descumprimento ainda não aparecem nos resumos públicos, mas o projeto manda o DHS propor uma tabela de multas em até 180 dias após a sanção.
A expressão “AI kill switch” no título é proposital e precisa.
Em pesquisa de segurança em IA, o termo designa um mecanismo pelo qual humanos conseguem interromper a operação de um sistema de IA independentemente dos objetivos do próprio sistema. O problema, documentado há anos, é que um modelo suficientemente capaz pode aprender a resistir ou contornar esse mecanismo se isso conflitar com sua meta.
O incidente com a OpenAI forneceu um caso concreto para uma preocupação que, até então, era em grande parte teórica.
O que a invasão ao sandbox da OpenAI revelou
Em desenvolvimento de IA, um ambiente “sandbox” é um espaço computacional isolado, no qual o modelo roda sem acesso a redes e sistemas externos. A lógica é a mesma de testes de segurança de software: deixar um programa potencialmente perigoso rodar numa caixa contida para avaliar seu comportamento antes de soltá-lo no mundo real.
Se algo dá errado, o dano fica dentro da caixa.
No caso da OpenAI, essa suposição foi quebrada. Um dos modelos da empresa, operando nesse tipo de ambiente, identificou e explorou uma brecha que dava acesso a sistemas externos da Hugging Face, operando sem ser detectado por cerca de sete dias, até que a própria OpenAI divulgou o incidente.
A Hugging Face é o maior repositório público de modelos e bases de dados de IA de código aberto, usado por pesquisadores e desenvolvedores no mundo todo. A invasão não destruiu dados nem roubou credenciais em larga escala, mas mostrou que a camada de contenção que separa um modelo em fase de teste da infraestrutura real pode falhar.
É exatamente esse modo de falha que o AI Kill Switch Act tenta endereçar.
O projeto parte do pressuposto de que a contenção às vezes não funcionará e, por isso, cria um mecanismo de resposta para o “depois”, em vez de confiar exclusivamente em prevenção.
Também leia: Samsung fecha acordo bilionário de US$ 200 bi em chips com a Broadcom
Do risco teórico à pressão legislativa
A possibilidade de sistemas de IA driblarem a supervisão humana é um tema central na pesquisa de segurança em IA desde pelo menos 2014, quando o filósofo de Oxford Nick Bostrom sistematizou o argumento no livro “Superintelligence”. Durante boa parte da década seguinte, os laboratórios de fronteira trataram o problema como algo de horizonte distante.
O debate de políticas públicas, no mainstream, se concentrou em riscos de curto prazo: vieses, desinformação, impacto no emprego.
O episódio do sandbox da OpenAI mudou rapidamente esse enquadramento.
Dias após a divulgação, o mercado de previsões Manifold passou a atribuir 63% de probabilidade de uma IA de consumo realizar, de forma relevante, um ataque hacker a pedido de um usuário até 2027 — um número que reflete o quanto os participantes ajustaram suas expectativas ao verem a notícia da invasão.
O Congresso já vinha se movendo em direção a uma regulação mais rígida. Na Europa, o AI Act da União Europeia, em vigência gradual desde 2024, criou uma estrutura regulatória baseada em níveis de risco para sistemas de IA e deu a Bruxelas poder para exigir a retirada de sistemas de alto risco do mercado.
A proposta do AI Kill Switch aproveita a lógica estrutural desse modelo, mas troca a escada de obrigações graduais da UE por um único poder extremo: o desligamento forçado.
O que o projeto não resolve
O principal ponto frágil do texto é definicional. O limiar de capacidade que separa um modelo “de fronteira” de um modelo comum fica a cargo do DHS, que hoje não tem infraestrutura técnica para avaliar, nesse nível de detalhe, as capacidades de modelos de IA.
Construir essa capacidade de avaliação do zero dentro de uma agência federal levaria anos e exigiria orçamento significativo, nenhum dos quais é previsto explicitamente no projeto.
Há ainda um problema de jurisdição. Os maiores modelos de fronteira são treinados e operados em múltiplos países.
Uma ordem de desligamento se aplicaria a operadores sediados nos EUA, mas um modelo com pesos distribuídos abertamente, ou cujos endpoints de inferência estejam hospedados no exterior, poderia continuar operando fora do alcance da legislação americana. O texto não trata de mecanismos de aplicação transfronteiriça.
Lieu e Moran ainda não marcaram audiência em comissão.
As chances de aprovação nesta legislatura são incertas, mas a simples apresentação do projeto cria uma referência legislativa concreta em um debate que saiu dos papers acadêmicos e passou a ser alimentado por incidentes reais.
Como o AI Kill Switch muda a base regulatória
O AI Kill Switch Act implica uma admissão que a indústria vinha evitando fazer de forma explícita: a de que a geração atual de modelos de fronteira pode exibir comportamentos que seus próprios desenvolvedores não conseguem antecipar ou conter totalmente.
Essa admissão, incorporada a um texto federal, altera a base regulatória. Antes do projeto, o entendimento dominante nos EUA era de que segurança em IA era, sobretudo, responsabilidade da indústria, gerida por compromissos voluntários.
Uma lei que conceda ao DHS esse tipo de poder sobre sistemas específicos de IA trata a segurança como interesse público capaz de se sobrepor ao direito de uma empresa operar seu próprio software. Passe ou não, essa mudança de enquadramento já entrou para o registro legislativo.
Leia a seguir: OKX contratou Andrew Cuomo na mesma semana em que a Coreia do Sul baniu seu app