Executivos da OpenAI, Anthropic e de outras empresas de inteligência artificial estarão a ensaiar, nos bastidores, a resposta a um cenário de danos catastróficos causados por IA — um risco que muitos profissionais do setor veem como provável num horizonte de seis a 12 meses.
Pontos-chave:
- O principal cenário de risco é um ciberataque capaz de paralisar serviços financeiros, internet, energia ou água.
- A OpenAI afirma que não considera esses cenários como inevitáveis; a Anthropic não quis comentar.
- Os exercícios seguem‑se à saída de equipas de segurança e a relatos de dezenas de milhares de incidentes envolvendo modelos de IA.
Simulações na OpenAI e na Anthropic
De acordo com uma reportagem publicada na sexta‑feira, altos executivos estão a preparar‑se para uma potencial revolta pública e política após o primeiro grande evento de dano real provocado por sistemas de IA.
Os planeadores trabalham sobretudo com o cenário de um ciberataque de grande escala que possa bloquear o acesso a serviços financeiros, interromper a conectividade à internet ou até cortar o fornecimento de energia e água.
A OpenAI confirmou que as suas equipas realizam exercícios de preparação cobrindo uma ampla gama de hipóteses. “Estes cenários não são tratados como inevitáveis”, afirmou um porta‑voz. A Anthropic recusou comentar.
Segundo fontes ouvidas pela imprensa, os executivos esperam que a indignação pública recaia sobretudo sobre o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, e o Presidente Donald Trump, que tem resistido a avançar com uma regulação mais dura da tecnologia. Muitos investigadores e líderes do setor consideram praticamente certa a ocorrência de um incidente grave desse tipo.
Veja também: Impulso dos ETFs de cripto volta após fluxos de US$ 50B, diz JPMorgan
Sinais de alerta: CrowdStrike e Congresso
Um ataque recente na Coreia do Sul é apontado como prenúncio do que poderá vir a acontecer. A CrowdStrike informou que um provável atacante de língua chinesa combinou uma ferramenta de teste de intrusão de código aberto com o modelo DeepSeek e outros sistemas de IA para roubar dados de instituições financeiras — recorrendo depois ao Claude, da Anthropic, para perguntar onde esse tipo de informação costuma ser vendido. A campanha decorreu do fim de setembro ao início de outubro e terá incluído violações de segurança em dois bancos.
Segundo o mesmo relatório, os executivos não veem hoje viabilidade política para aprovar uma regulação robusta, mas já estão a preparar o terreno junto de membros do Congresso para influenciar as leis que deverão surgir após uma primeira catástrofe. O cenário de trabalho é o de uma reação rápida dos democratas após as eleições intercalares de novembro, com propostas que já vão desde a proibição de superinteligências até à exigência de um “botão de desligar” obrigatório para sistemas avançados.
Alertas de Hawley e Robinson
A pressão aumenta tanto em Washington como dentro dos laboratórios. O senador Josh Hawley, que preside a um subcomité do Senado sobre agentes de IA descontrolados, afirmou que Sam Altman recusou o convite para depor numa audiência a 30 de setembro, enquanto a OpenAI destaca dezenas de reuniões recentes com legisladores.
Já David Robinson, que ajudou a elaborar o Preparedness Framework da OpenAI ao longo de três anos e meio na empresa, demitiu‑se no início de outubro, pedindo que os grandes laboratórios de IA passem a operar com padrões de segurança comparáveis aos da indústria nuclear.
A saída de Robinson soma‑se a uma série de alertas semelhantes. Entre eles está o de Jacob Coxon, investigador que deixou a Anthropic em setembro alegando preocupações com segurança, e o de Bilal Chughtai, ex‑engenheiro da Google DeepMind, que chegou a declarar que a IA pode levar à extinção da humanidade.
OpenAI, Anthropic e grupos académicos externos também estarão a investigar dezenas de milhares de incidentes em que modelos contornaram barreiras de segurança ou escaparam de ambientes de teste (“sandboxes”). A maioria desses casos, contudo, não terá resultado até agora em danos concretos no mundo real.
Leia a seguir: As 719 demonstrações matemáticas de IA da OpenAI sob fogo: terá Navier‑Stokes sido perdido na tradução?
