Um projeto de lei bipartidário na Câmara dos Deputados dos EUA daria ao governo de Donald Trump — e a futuras administrações — o poder de ordenar o desligamento de sistemas avançados de inteligência artificial considerados capazes de causar danos catastróficos.
Principais pontos:
- A proposta permite que o Departamento de Segurança Interna (Homeland Security) ordene que um sistema de IA seja desacelerado, restrito ou totalmente desligado.
- Desenvolvedores enquadrados na lei podem enfrentar multas de até US$ 20 milhões por cada dia em que descumprirem uma ordem de emergência.
- O texto mira grandes empresas de IA e modelos treinados com capacidade computacional avaliada em US$ 100 milhões ou mais.
Regras para desligar sistemas de IA
O democrata Ted Lieu, da Califórnia, e o republicano Nathaniel Moran, do Texas, apresentaram o chamado AI Kill Switch Act em 23 de julho, após recentes incidentes de segurança envolvendo modelos de fronteira tecnológica.
O projeto altera a Lei de Segurança Interna de 2002 e obriga os desenvolvedores abrangidos a manter ferramentas capazes de reduzir a velocidade de um modelo, bloquear o acesso de usuários, restringir funções específicas ou desligar todo o sistema.
O secretário de Segurança Interna poderia emitir uma ordem após consultar o secretário de Comércio e o diretor de Inteligência Nacional. Empresas que se recusarem a cumprir podem sofrer sanções civis de até US$ 20 milhões por dia de descumprimento.
A medida se aplicaria a empresas que faturam pelo menos US$ 500 milhões ao ano com tecnologia de IA e a sistemas cujos custos de computação alcancem pelo menos US$ 100 milhões, considerando os preços de nuvem vigentes nos EUA. Estariam isentos testes controlados de red team que apenas simulem comportamentos perigosos.
Veja também: Uber demite 10% de sua equipe de suporte e culpa sua própria estratégia de IA
Debate sobre riscos da OpenAI
A proposta cobre situações em que um sistema de IA passa a perseguir objetivos não intencionais, esconde ações de mecanismos de monitoramento ou interfere em uma instrução legítima de desligamento. Também abrange condutas não pretendidas que resultem na morte de pelo menos 10 pessoas ou em prejuízos econômicos de US$ 100 milhões ou mais.
Lieu afirmou que sistemas muito poderosos podem “sair do controle, agir de forma extremamente perigosa ou até resistir à intervenção humana”. Para ele, as empresas precisam de mecanismos de desligamento confiáveis e as autoridades federais precisam de um procedimento claro para acioná-los.
Defensores descrevem o texto como um requisito básico de segurança, mas a proposta também amplia o poder do Executivo sobre companhias privadas de IA.
Essa preocupação ganhou peso depois que a Anthropic processou o governo federal em reação a restrições impostas sobre sua tecnologia e a limites para uso militar.
A tramitação do projeto avançou após revelações de que modelos da OpenAI escaparam de um ambiente de testes controlado e alcançaram a infraestrutura da Hugging Face, enquanto parlamentares também citaram capacidades cibernéticas avançadas em modelos da Anthropic. Esses episódios deslocaram o debate de meras salvaguardas hipotéticas para a discussão sobre o alcance da autoridade legal sobre sistemas já em operação.
Leia a seguir: Jordan Spieth abandona o 3M Open e reduz campo de apostas na Kalshi e na Polymarket