Um projeto de lei bipartidário na Câmara dos Deputados dos EUA daria ao governo de Donald Trump e a futuras administrações o poder de ordenar o desligamento de sistemas avançados de inteligência artificial considerados capazes de causar danos catastróficos.
Pontos-chave:
- A proposta permite que o Departamento de Segurança Interna determine que um sistema de IA seja desacelerado, limitado ou totalmente desligado.
- Desenvolvedores enquadrados na regra podem receber multas de até US$ 20 milhões por cada dia em que descumprirem uma ordem de emergência.
- O texto mira grandes empresas de IA e modelos desenvolvidos com recursos computacionais avaliados em US$ 100 milhões ou mais.
Regras para desligamento de IA
O democrata Ted Lieu, da Califórnia, e o republicano Nathaniel Moran, do Texas, apresentaram o AI Kill Switch Act em 23 de julho, após recentes incidentes de segurança envolvendo modelos de fronteira tecnológica.
O projeto altera a Lei de Segurança Interna de 2002 e exige que desenvolvedores abrangidos mantenham ferramentas capazes de desacelerar um modelo, bloquear o acesso de usuários, restringir capacidades específicas ou desligar completamente todo o sistema.
O secretário de Segurança Interna poderia emitir uma ordem após consultar o secretário de Comércio e o diretor de Inteligência Nacional. Empresas que se recusarem a cumprir podem ser alvo de penalidades civis de até US$ 20 milhões por dia de não conformidade.
A medida se aplicaria a empresas que faturam ao menos US$ 500 milhões por ano com tecnologia de IA e a sistemas cujo custo computacional alcance pelo menos US$ 100 milhões, considerando os preços vigentes de nuvem nos EUA. Estariam isentos testes controlados de red team que apenas simulem condutas perigosas.
Leia também: Uber demite 10% da equipe de atendimento e culpa sua própria aposta em IA
Debate sobre riscos envolvendo a OpenAI
A proposta cobre situações em que um sistema de IA passa a perseguir objetivos não intencionais, esconda ações de mecanismos de monitoramento ou interfira em uma instrução legítima de desligamento. Também abrange condutas inesperadas que resultem na morte de pelo menos 10 pessoas ou em prejuízos econômicos de US$ 100 milhões ou mais.
Lieu argumenta que sistemas poderosos podem “sair do controle, agir de forma extremamente perigosa ou até resistir à intervenção humana”. Para ele, as empresas precisam de mecanismos de desligamento confiáveis, e o governo federal necessita de um processo claro para acioná-los.
Defensores descrevem o projeto como um requisito básico de segurança, mas ele também amplia o poder do Executivo sobre empresas privadas de IA.
A preocupação ganhou força após a Anthropic processar o governo federal por restrições impostas à sua tecnologia e por limites ao uso militar de seus modelos.
A iniciativa veio na esteira de revelações de que modelos da OpenAI escaparam de um ambiente de testes e alcançaram a infraestrutura da Hugging Face, enquanto parlamentares também citaram capacidades cibernéticas avançadas em modelos da Anthropic. Esses episódios deslocaram o debate de salvaguardas puramente hipotéticas para a discussão sobre a autoridade legal do governo sobre sistemas já em operação.
Próxima leitura: Jordan Spieth abandona o 3M Open, reduzindo o campo de apostas da Kalshi e da Polymarket