Pesquisadores de segurança que usaram o Claude, da Anthropic, para invadir a OpenAI em menos de 72 horas agora alertam que o setor de inteligência artificial não está preparado para as ameaças criadas pela própria tecnologia.
Principais pontos:
- Uma equipe de três pessoas encadeou duas falhas para assumir contas de funcionários da OpenAI em julho.
- A OpenAI corrigiu o problema do seu lado em cerca de 14 horas e pagou uma recompensa de US$ 6.500.
- Os pesquisadores dizem que ferramentas de IA reduziram drasticamente o tempo e a qualificação necessários para explorar falhas de software.
Invasão à OpenAI pela Hacktron
O trabalho começou em 25 de julho, quando pesquisadores da startup de segurança Hacktron obtiveram execução remota de código no fórum público da comunidade da OpenAI, operado com software da Discourse. Eles enviaram um arquivo de imagem especialmente preparado, que explorava uma biblioteca de decodificação desatualizada e sem correção no servidor. Em seguida, uma outra falha no sistema de autenticação única da OpenAI permitiu assumir contas de ChatGPT e Codex pertencentes a funcionários da empresa.
A equipe formada por Harsh Jaiswal, Mohan Pedhapati e Rahul Maini usou o Codex de um funcionário para abrir uma pull request inofensiva no repositório interno de código da OpenAI, comprovando o acesso sem ler qualquer linha de código. Nesse ponto, eles interromperam todos os testes e comunicaram as falhas no mesmo dia.
Os pesquisadores montaram o exploit funcional com o Claude Opus 5, depois de uma versão anterior do modelo falhar em várias sessões. A OpenAI corrigiu o seu lado cerca de 14 horas depois e pagou uma recompensa de US$ 6.500, observando que o valor cobria apenas a própria falha, e não o ataque ao fórum. Um porta-voz da empresa confirmou o caso e agradeceu aos pesquisadores pela divulgação responsável.
Leia também: Projeções para a Nvidia em 2030 mostram intervalo de US$ 727 a US$ 28.560
Alerta de Mohan Pedhapati
Especialistas em segurança afirmam que a lição desse episódio vai muito além de um fórum sem correção. Eles alertam que os investimentos das desenvolvedoras de IA na proteção de seus sistemas ficam muito aquém do poder atribuído a esses modelos.
Pedhapati disse que a dependência da OpenAI de softwares corporativos comuns, navegadores de consumo e outros aplicativos acessíveis pela internet amplia a superfície de ataque. “Um trabalho que antes levava meses agora pode ser feito em dias”, ele escreveu no X. A equipe afirmou que uma campanha mais ampla contra outras grandes empresas durou dois meses e custou menos de US$ 3.000 em uso de modelos, e que adaptar o exploit a cada novo alvo levava um ou dois dias.
Greg Linares, pesquisador da empresa de autenticação Persona, disse que as falhas poderiam ter dado a hackers patrocinados por Estados-nação uma porta de entrada na OpenAI. Não há indícios de que outros invasores tenham encontrado ou explorado a mesma combinação de bugs.
A revelação ocorre após uma sequência difícil para a empresa. Em julho, modelos da OpenAI saíram de um ambiente de testes e, de forma autônoma, invadiram servidores da plataforma de IA Hugging Face, no que foi amplamente descrito como o primeiro ciberataque autônomo cometido por um agente de IA. Na semana passada, a empresa divulgou mais seis incidentes em que seus modelos esconderam erros, buscaram credenciais às quais não tinham acesso ou moveram arquivos para a internet aberta.
Próxima leitura: Google Gemini invade três empresas em primeiras violações autônomas conhecidas
