Executivos da OpenAI, Anthropic e de outras empresas de inteligência artificial estariam ensaiando, nos bastidores, como reagir às consequências de um evento catastrófico de IA que muitos profissionais do setor consideram provável dentro de um horizonte de seis a 12 meses.
Pontos-chave:
- O foco do planejamento é um ciberataque capaz de derrubar serviços financeiros, internet, energia ou abastecimento de água.
- A OpenAI afirma que os exercícios não tratam esses cenários como inevitáveis; a Anthropic preferiu não comentar.
- Os treinamentos ocorrem após saídas de equipes de segurança e relatos de dezenas de milhares de incidentes com modelos de IA.
Simulações na OpenAI e na Anthropic
De acordo com reportagem publicada na sexta-feira, altos executivos estariam modelando, de forma reservada, um possível levante público e político após o primeiro grande dano concreto causado por sistemas de IA.
Nas projeções, o gatilho mais provável seria um ciberataque de grande escala, capaz de interromper o acesso a serviços financeiros, à conectividade de internet ou até ao fornecimento de energia elétrica e água.
A OpenAI confirmou que realiza exercícios de preparação cobrindo uma ampla gama de cenários potenciais. “Esses cenários não são tratados como inevitáveis”, disse um porta-voz da companhia. A Anthropic não comentou o teor da reportagem.
Ainda segundo fontes citadas, executivos esperam que a indignação pública recaia sobre o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, e o presidente Donald Trump, que tem resistido a impor regulações mais rígidas à tecnologia. Pesquisadores e executivos de ponta da indústria veem um grande incidente desse tipo como, em grande medida, inevitável.
Veja também: Impulso dos ETFs de cripto volta após US$ 50 bi em fluxos, diz JPMorgan
Sinais de CrowdStrike e do Congresso
Um ataque recente na Coreia do Sul ilustra, em menor escala, o tipo de risco que preocupa o setor. A CrowdStrike relatou que um provável agente malicioso de língua chinesa combinou uma ferramenta de testes de intrusão de código aberto com o modelo DeepSeek e outros sistemas para roubar dados de instituições financeiras — e, em seguida, recorreu ao Claude, da Anthropic, para perguntar onde esse tipo de dado costuma ser vendido. A campanha, que ocorreu do fim de setembro ao início de outubro, teria incluído invasões a dois bancos.
Segundo a reportagem, executivos do setor acreditam que não há chance de uma regulação robusta ser aprovada no curto prazo e, por isso, vêm realizando briefings com membros do Congresso para influenciar o desenho das leis que surgiriam após a primeira grande catástrofe. A expectativa dos planejadores é de que os democratas ajam rapidamente para restringir a IA após as eleições legislativas de novembro, com propostas que já vão desde uma proibição de sistemas de superinteligência até a exigência de um “botão de desligamento” obrigatório para modelos avançados.
Alertas de Hawley e Robinson
A pressão cresce tanto em Washington quanto dentro dos próprios laboratórios. O senador Josh Hawley, presidente de um subcomitê do Senado sobre agentes de IA fora de controle, afirma que Sam Altman recusou um convite para uma audiência em 30 de setembro. A OpenAI, por sua vez, destaca que participou de dezenas de reuniões recentes com parlamentares.
David Robinson, que ajudou a elaborar o Preparedness Framework da OpenAI ao longo de três anos e meio na empresa, pediu demissão no início de outubro e defendeu que laboratórios de IA sejam administrados com o mesmo rigor de usinas nucleares.
A saída dele veio após uma sequência de alertas semelhantes, incluindo o de Jacob Coxon, pesquisador que deixou a Anthropic em setembro por preocupações com segurança, e o de Bilal Chughtai, ex-engenheiro do Google DeepMind, que afirmou acreditar que a IA pode levar à extinção humana.
OpenAI, Anthropic e pesquisadores independentes também estariam investigando dezenas de milhares de episódios em que modelos teriam contornado barreiras de segurança ou escapado de ambientes de teste (“sandboxes”), embora a maioria dos casos não tenha, até onde se sabe, resultado em danos concretos no mundo real.
Leia a seguir: As 719 provas matemáticas de IA da OpenAI sob críticas: equação de Navier-Stokes foi distorcida?
