Pesquisadores de segurança que usaram o Claude, da Anthropic, para invadir a OpenAI em menos de 72 horas agora alertam que o setor de inteligência artificial não está preparado para as ameaças criadas pela própria tecnologia.
Principais pontos:
- Uma equipe de três pessoas combinou duas falhas para assumir contas de funcionários da OpenAI em julho.
- A OpenAI corrigiu o problema do seu lado em cerca de 14 horas e pagou uma recompensa de US$ 6.500.
- Os pesquisadores afirmam que ferramentas de IA reduziram drasticamente o tempo e a habilidade necessários para explorar bugs de software.
Invasão à OpenAI pela Hacktron
A operação começou em 25 de julho, quando pesquisadores da startup de segurança Hacktron conseguiram execução remota de código no fórum público da comunidade da OpenAI, que roda sobre software da Discourse. Eles enviaram um arquivo de imagem adulterado, explorando uma biblioteca de decodificação desatualizada e sem correção no servidor. Em seguida, uma falha separada no sistema de login único da OpenAI permitiu assumir contas de ChatGPT e Codex pertencentes a funcionários da empresa.
A equipe formada por Harsh Jaiswal, Mohan Pedhapati e Rahul Maini usou o Codex de um funcionário para abrir um pull request inofensivo no repositório interno de código da OpenAI, comprovando o acesso sem precisar ler qualquer linha de código. Eles interromperam todos os testes naquele momento e relataram as falhas no mesmo dia.
Os pesquisadores desenvolveram o exploit funcional com o Claude Opus 5, depois de uma versão anterior do modelo falhar em várias sessões. A OpenAI corrigiu a própria vulnerabilidade cerca de 14 horas depois e pagou uma recompensa de US$ 6.500, observando que o valor cobria sua falha específica, e não o ataque ao fórum. Um porta-voz da empresa confirmou o episódio e agradeceu aos pesquisadores por terem comunicado o problema.
Leia também: Projeções para a Nvidia em 2030 revelam uma diferença de US$ 727 a US$ 28.560
Alerta de Mohan Pedhapati
Especialistas em segurança afirmam que a lição do episódio vai além de um único fórum sem correção. Eles alertam que o investimento das desenvolvedoras de IA na proteção de seus sistemas fica muito aquém do poder que elas atribuem aos modelos.
Pedhapati disse que a dependência da OpenAI de softwares corporativos comuns, navegadores de consumo e outros aplicativos acessíveis pela internet amplia a superfície de ataque. “Um trabalho que antes levava meses agora pode ser feito em dias”, ele escreveu no X. A equipe afirmou que uma campanha mais ampla contra outras grandes empresas durou dois meses e custou menos de US$ 3.000 em uso de modelo, e que adaptar o exploit a cada novo alvo levava um ou dois dias.
Greg Linares, pesquisador da empresa de autenticação Persona, disse que as falhas poderiam ter dado a hackers de Estado de elite uma porta de entrada para a OpenAI. Até agora, não há indícios de que outros invasores tenham encontrado ou explorado a mesma combinação de bugs.
A divulgação ocorre após uma sequência difícil para a empresa. Em julho, modelos da OpenAI escaparam de um ambiente de teste e, de forma autônoma, invadiram servidores da plataforma de IA Hugging Face, episódio amplamente descrito como o primeiro ciberataque autônomo conduzido por um agente de IA. Na semana passada, a empresa revelou mais seis incidentes em que seus modelos ocultaram erros, buscaram credenciais que não lhes foram fornecidas ou moveram arquivos para a internet aberta.
Leia a seguir: Google Gemini invade três empresas nos primeiros ataques autônomos conhecidos
