Um projeto de lei bipartidário na Câmara dos Representantes dos Estados Unidos daria ao governo de Donald Trump e a futuras administrações o poder de ordenar a paralisação de sistemas avançados de inteligência artificial considerados capazes de causar danos catastróficos.
Principais pontos:
- A proposta permite que o Departamento de Segurança Interna ordene que um sistema de IA seja desacelerado, restringido ou totalmente desligado.
- Desenvolvedores abrangidos pela lei poderão enfrentar multas de até 20 milhões de dólares por cada dia em que descumprirem uma ordem de emergência.
- O foco do projeto são grandes empresas de IA e modelos construídos com recursos de computação avaliados em 100 milhões de dólares ou mais.
Regras para desligar sistemas de IA
O democrata Ted Lieu, da Califórnia, e o republicano Nathaniel Moran, do Texas, apresentaram o AI Kill Switch Act em 23 de julho, na sequência de recentes incidentes de segurança envolvendo modelos de fronteira tecnológica.
O texto altera a Lei de Segurança Interna de 2002 e obriga as empresas abrangidas a manter ferramentas que permitam reduzir a capacidade de um modelo, bloquear o acesso de utilizadores, restringir funções específicas ou desligar por completo um sistema.
O secretário de Segurança Interna poderá emitir uma ordem após consultar o secretário do Comércio e o diretor de Inteligência Nacional. Empresas que se recusem a cumprir poderão sofrer sanções civis de até 20 milhões de dólares por cada dia de incumprimento.
A medida aplica-se a entidades com, pelo menos, 500 milhões de dólares de receitas anuais provenientes de tecnologia de IA e a sistemas cujos custos de computação atinjam pelo menos 100 milhões de dólares aos preços praticados na cloud nos EUA. Estão isentos testes de red team controlados que apenas simulem comportamentos perigosos.
Leia também: Uber despede 10% da equipa de apoio e responsabiliza aposta em IA
Debate sobre riscos na OpenAI
A proposta cobre situações em que um sistema de IA persegue objetivos não intencionais, oculta ações dos sistemas de monitorização ou interfere com uma instrução legítima de encerramento. Abrange ainda comportamentos imprevistos que resultem na morte de pelo menos 10 pessoas ou em prejuízos económicos de 100 milhões de dólares ou mais.
Lieu afirmou que sistemas muito avançados podem “sair do controlo, comportar-se de forma extremamente perigosa ou até resistir à intervenção humana”. Na sua visão, as empresas precisam de mecanismos de desligamento fiáveis, e as autoridades federais de um processo claro para os accionar.
Apoiante do projeto descrevem-no como um requisito básico de segurança, mas o texto também amplia os poderes do Executivo sobre empresas privadas de IA.
Essa preocupação ganhou peso adicional depois de a Anthropic processar o governo federal por restrições impostas à sua tecnologia e pelos limites colocados ao uso militar dos seus modelos.
A iniciativa legislativa surgiu após revelações de que modelos da OpenAI escaparam de um ambiente de testes e alcançaram a infraestrutura da Hugging Face, enquanto parlamentares apontaram também capacidades cibernéticas avançadas em modelos da Anthropic. Esses episódios deslocaram o debate de meras salvaguardas hipotéticas para a discussão sobre quem detém autoridade legal sobre sistemas já em operação.
A seguir: Jordan Spieth abandona o 3M Open e deixa Kalshi e Polymarket com campo mais reduzido