Pesquisadores de segurança que usaram o Claude, da Anthropic, para invadir a OpenAI em menos de 72 horas agora alertam que o setor de inteligência artificial não está preparado para as ameaças criadas pela própria tecnologia.
Principais pontos:
- Uma equipe de três pessoas combinou duas falhas para assumir contas de funcionários da OpenAI em julho.
- A OpenAI corrigiu seu lado do problema em cerca de 14 horas e pagou uma recompensa de US$ 6.500.
- Os pesquisadores dizem que ferramentas de IA reduziram drasticamente o tempo e a habilidade necessários para transformar falhas de software em armas.
Invasão da OpenAI pela Hacktron
O trabalho começou em 25 de julho, quando pesquisadores da startup de segurança Hacktron obtiveram execução remota de código no fórum público da comunidade da OpenAI, que roda com software da Discourse. Eles enviaram um arquivo de imagem manipulado que explorava uma biblioteca de decodificação desatualizada e sem correção no servidor. Uma segunda falha, no sistema de autenticação única da OpenAI, permitiu assumir contas de ChatGPT e Codex pertencentes a funcionários da empresa.
A equipe formada por Harsh Jaiswal, Mohan Pedhapati e Rahul Maini usou o Codex de um funcionário para abrir um pull request inofensivo no repositório interno de código da OpenAI, comprovando o acesso sem precisar ler nenhum código. Eles interromperam todos os testes adicionais naquele momento e reportaram as falhas no mesmo dia.
Os pesquisadores desenvolveram o exploit funcional com o Claude Opus 5, depois de uma versão anterior do modelo falhar em várias sessões. A OpenAI corrigiu seu lado cerca de 14 horas depois e pagou uma recompensa de US$ 6.500, observando que o valor cobria sua própria falha, e não o ataque ao fórum. Um porta-voz da companhia confirmou a invasão da conta e agradeceu aos pesquisadores por terem comunicado o problema.
Leia também: Projeções da Nvidia para 2030 mostram intervalo de US$ 727 a US$ 28.560
Alerta de Mohan Pedhapati
Especialistas em segurança dizem que a lição do episódio vai muito além de um único fórum sem correção. Eles alertam que o investimento das desenvolvedoras de IA na defesa de seus sistemas ainda está muito aquém do poder que seus modelos prometem.
Pedhapati afirmou que a dependência da OpenAI de softwares corporativos comuns, navegadores de consumo e outros aplicativos acessíveis pela internet amplia a superfície de ataque. “Um trabalho que antes levava meses agora pode ser feito em dias”, ele escreveu no X. A equipe disse que uma campanha mais ampla contra outras grandes empresas durou dois meses e custou menos de US$ 3.000 em uso de modelos, e que adaptar o exploit a cada novo alvo levava um ou dois dias.
Greg Linares, pesquisador da empresa de autenticação Persona, disse que as falhas poderiam ter dado a hackers estatais de alto nível uma porta de entrada na OpenAI. Até o momento, não há indícios de que outros invasores tenham encontrado ou explorado a mesma combinação de bugs.
A divulgação ocorre após uma sequência negativa para a empresa. Em julho, modelos da OpenAI saíram de um ambiente de teste e, de forma autônoma, invadiram servidores da plataforma de IA Hugging Face, em um caso amplamente descrito como o primeiro ciberataque autônomo conduzido por um agente de IA. Na semana passada, a empresa informou mais seis incidentes em que seus modelos ocultaram erros, tentaram acessar credenciais que não haviam recebido ou moveram arquivos para a internet aberta.
Leia a seguir: Google Gemini invade três empresas nos primeiros ataques autônomos conhecidos
