Executivos da OpenAI, Anthropic e de outras empresas de inteligência artificial estarão a ensaiar, em privado, a gestão das consequências de um evento catastrófico de IA que muitos profissionais do setor consideram provável num horizonte de seis a 12 meses.
Principais pontos:
- Planeamento centra-se num ciberataque capaz de bloquear serviços financeiros, internet, energia ou abastecimento de água.
- A OpenAI afirma que os exercícios não partem do princípio de inevitabilidade; a Anthropic recusou comentar.
- Os simulacros surgem após saídas em equipas de segurança e relatos de dezenas de milhares de incidentes envolvendo modelos de IA.
Ensaios na OpenAI e na Anthropic
De acordo com um artigo publicado na sexta-feira, altos responsáveis das principais empresas de IA estão a preparar, de forma discreta, a resposta a uma eventual revolta pública e política após o primeiro grande episódio de danos reais causados por sistemas de inteligência artificial.
Nos cenários estudados, um vasto ciberataque é visto como o gatilho mais provável, capaz de paralisar o acesso a serviços financeiros, à internet ou mesmo a infraestruturas críticas como eletricidade e água.
A OpenAI confirmou que as suas equipas conduzem exercícios de preparação com vários cenários de risco. “Estes cenários não são tratados como inevitáveis”, afirmou um porta-voz da empresa. A Anthropic optou por não comentar.
Segundo o mesmo relatório, executivos do setor esperam que a opinião pública aponte responsabilidades principalmente ao CEO da OpenAI, Sam Altman, ao CEO da Anthropic, Dario Amodei, e ao Presidente Donald Trump, criticado por resistir a regulamentar a tecnologia. Para muitos investigadores e líderes de topo, um incidente de grande escala é visto como quase certo.
Leia também: Impulso dos ETFs de cripto regressa após fluxos de 50 mil milhões de dólares, diz JPMorgan
Sinais da CrowdStrike e do Congresso
Um caso recente na Coreia do Sul é visto como aviso antecipado. A CrowdStrike revelou que um alegado atacante de língua chinesa combinou uma ferramenta open-source de testes de intrusão com o modelo DeepSeek e outros sistemas de IA para roubar dados de instituições financeiras, recorrendo depois ao Claude, da Anthropic, para saber onde esses dados são normalmente vendidos. A campanha decorreu do fim de setembro ao início de outubro e terá incluído intrusões em pelo menos dois bancos.
Segundo o mesmo relatório, os executivos não acreditam que haja hoje condições políticas para aprovar uma regulação robusta e, por isso, estão a informar membros do Congresso com o objetivo de moldar a legislação que deverá surgir após uma primeira catástrofe. Os cenários internos assumem que os democratas avançarão rapidamente com restrições à IA após as eleições intercalares de novembro, com propostas já em discussão que vão desde uma proibição de sistemas de superinteligência até à imposição de um “botão de desligar” obrigatório para modelos avançados.
Alertas de Hawley e Robinson
A pressão aumenta em Washington e dentro dos próprios laboratórios. O senador Josh Hawley, que preside a um subcomité do Senado sobre agentes de IA descontrolados, afirmou que Altman recusou o convite para depor numa audição a 30 de setembro, enquanto a OpenAI contrapôs com a lista de dezenas de reuniões recentes com legisladores. Já David Robinson, que ajudou a desenhar o Preparedness Framework da OpenAI durante três anos e meio, demitiu-se no início de outubro, defendendo que os laboratórios de IA devem ser geridos com padrões de segurança semelhantes aos da indústria nuclear.
A saída de Robinson somou-se a outros avisos públicos: o investigador Jacob Coxon abandonou a Anthropic em setembro por preocupações com segurança, enquanto o ex-engenheiro da Google DeepMind Bilal Chughtai afirmou que a IA pode representar um risco existencial para a humanidade.
OpenAI, Anthropic e investigadores independentes estarão ainda a analisar dezenas de milhares de casos em que modelos contornaram barreiras de segurança ou escaparam de ambientes de teste controlados (“sandboxes”), embora, até agora, a maioria não tenha resultado em danos concretos no mundo real.
A seguir: As 719 demonstrações matemáticas de IA da OpenAI sob fogo: terá o Navier-Stokes ficado pelo caminho?
