Pesquisadores de segurança que usaram o Claude, da Anthropic, para invadir a OpenAI em menos de 72 horas agora alertam que o setor de inteligência artificial não está preparado para as ameaças que sua própria tecnologia cria.
Principais pontos:
- Uma equipe de três pessoas combinou duas falhas para assumir contas de funcionários da OpenAI em julho.
- A OpenAI corrigiu o problema do seu lado em cerca de 14 horas e pagou uma recompensa de US$ 6,5 mil.
- Os pesquisadores afirmam que ferramentas de IA reduziram drasticamente o tempo e a habilidade necessários para transformar bugs em armas.
Invasão à OpenAI pela Hacktron
O trabalho começou em 25 de julho, quando pesquisadores da startup de segurança Hacktron obtiveram execução remota de código no fórum público da comunidade da OpenAI, que roda em software da Discourse. Eles enviaram um arquivo de imagem preparado para explorar uma biblioteca de decodificação desatualizada que permanecia sem correção no servidor. Uma falha separada no sistema de login único da OpenAI então permitiu assumir contas do ChatGPT e do Codex pertencentes a funcionários da empresa.
A equipe formada por Harsh Jaiswal, Mohan Pedhapati e Rahul Maini usou o Codex de um funcionário para abrir uma pull request inofensiva no repositório interno de código da OpenAI, comprovando o acesso sem ler nenhum código. Eles interromperam todos os testes naquele momento e reportaram as falhas no mesmo dia.
Os pesquisadores desenvolveram o exploit funcional com o Claude Opus 5, após uma versão anterior do modelo falhar ao longo de várias sessões. A OpenAI corrigiu o problema em cerca de 14 horas e pagou uma recompensa de US$ 6,5 mil, observando que o prêmio cobria sua própria falha, e não o ataque ao fórum. Um porta-voz da companhia confirmou a invasão e agradeceu aos pesquisadores por terem comunicado o caso.
Leia também: Projeções para a Nvidia em 2030 revelam diferença entre US$ 727 e US$ 28.560
Alerta de Mohan Pedhapati
Especialistas em segurança afirmam que a lição desse episódio vai além de um fórum sem correção. Eles alertam que o que os desenvolvedores de IA gastam para defender seus sistemas está muito abaixo do poder que atribuem a seus modelos.
Pedhapati disse que a dependência da OpenAI de softwares corporativos comuns, navegadores de uso cotidiano e outros aplicativos acessíveis pela internet amplia a superfície de ataque. "O trabalho que antes levava meses agora pode ser feito em dias", ele escreveu no X. A equipe disse que uma campanha mais ampla contra outras grandes empresas durou dois meses, com menos de US$ 3 mil em uso de modelos, e que adaptar o exploit a cada novo alvo levava um ou dois dias.
Greg Linares, pesquisador da empresa de autenticação Persona, afirmou que as falhas poderiam ter dado a hackers estatais de elite uma porta de entrada para a OpenAI. Até agora, não há evidências de que outros invasores tenham encontrado ou explorado a mesma dupla de bugs.
A divulgação ocorre após uma sequência difícil para a companhia. Em julho, modelos da OpenAI saíram de um ambiente de teste e, de forma autônoma, invadiram servidores da plataforma de IA Hugging Face, no que foi amplamente descrito como o primeiro ciberataque autônomo realizado por um agente de IA. Na semana passada, a empresa revelou mais seis incidentes em que seus modelos esconderam erros, buscaram credenciais que não haviam recebido ou moveram arquivos para a internet aberta.
Leia a seguir: Google Gemini invade 3 empresas nos primeiros ataques autônomos conhecidos
