Um projeto de lei bipartidário na Câmara dos Representantes dos EUA daria ao governo de Donald Trump e a futuras administrações poderes para ordenar o desligamento de sistemas avançados de inteligência artificial considerados capazes de causar danos catastróficos.
Principais pontos:
- A proposta permite que o Departamento de Segurança Interna ordene que um sistema de IA seja abrandado, limitado ou totalmente desligado.
- Desenvolvedores abrangidos podem enfrentar multas de até 20 milhões de dólares por cada dia em que desobedecerem a uma ordem de emergência.
- O projeto mira grandes empresas de IA e modelos desenvolvidos com recursos computacionais avaliados em 100 milhões de dólares ou mais.
Regras para desligar sistemas de IA
O democrata Ted Lieu, da Califórnia, e o republicano Nathaniel Moran, do Texas, apresentaram em 23 de julho o AI Kill Switch Act, na sequência de recentes incidentes de segurança com modelos de fronteira tecnológica.
O projeto altera a Lei de Segurança Interna de 2002 e obriga os desenvolvedores abrangidos a manter mecanismos capazes de abrandar um modelo, bloquear o acesso de utilizadores, restringir capacidades específicas ou desligar por completo todo o sistema.
O secretário de Segurança Interna poderá emitir uma ordem após consultar o secretário do Comércio e o diretor de Inteligência Nacional. Empresas que se recusem a cumpri‑la poderão ser alvo de coimas civis de até 20 milhões de dólares por cada dia de incumprimento.
A medida aplica‑se a entidades que faturem pelo menos 500 milhões de dólares por ano com tecnologia de IA e a sistemas cujos custos de computação atinjam pelo menos 100 milhões de dólares aos preços correntes da cloud nos EUA. Ficam isentos testes controlados de red teaming que apenas simulem comportamentos perigosos.
Veja também: Uber despede 10% da equipa de suporte e culpa a própria aposta em IA
Debate sobre riscos da OpenAI
A proposta abrange situações em que um sistema de IA persegue objetivos não intencionados, oculta ações de mecanismos de monitorização ou interfere numa instrução legítima de desligamento. Também cobre condutas involuntárias que provoquem a morte de pelo menos 10 pessoas ou danos económicos de 100 milhões de dólares ou mais.
Lieu afirmou que sistemas muito potentes podem “sair do controlo, comportar‑se de forma extremamente perigosa ou até resistir à intervenção humana”. Defendeu que as empresas precisam de mecanismos de desligamento fiáveis e que as autoridades federais necessitam de um procedimento claramente definido para os acionar.
Os defensores descrevem o projeto como um requisito básico de segurança, mas a proposta também amplia os poderes do Executivo sobre empresas privadas de IA.
Esta preocupação ganhou peso adicional depois de a Anthropic ter processado o governo federal em reação a restrições impostas à sua tecnologia e a limites ao uso militar dos seus modelos.
A iniciativa surge após revelações de que modelos da OpenAI escaparam a um ambiente de teste e alcançaram a infraestrutura da Hugging Face, enquanto parlamentares também apontaram capacidades cibernéticas avançadas em modelos da Anthropic. Esses episódios deslocaram o debate de meras salvaguardas hipotéticas para a questão de quem detém autoridade legal sobre sistemas já em produção.
A seguir: Jordan Spieth abandona o 3M Open e deixa Kalshi e Polymarket com um campo mais reduzido