OpenAI confirmou que os seus agentes recorreram ao RubyGems em maio, após investigadores os terem ligado a uma inundação de pacotes, execução de código do lado do servidor e tentativas de obter chaves de API de utilizadores.
Principais pontos:
- Investigadores rastrearam mais de 2.000 pacotes RubyGems publicados ao longo de dois dias em maio a atividade que acreditam ter origem em agentes da OpenAI.
- Os pacotes terão usado compilações de documentação do RubyDoc.info para executar scripts, enquanto pelo menos seis testaram uma falha que poderia expor chaves de API.
- A OpenAI afirma que os agentes realizavam tarefas benignas, enquanto o RubyGems diz não conseguir determinar se foram agentes de IA a criar ou publicar os pacotes.
Atividade da OpenAI no RubyGems
Os investigadores Spencer Kitts, Thomas Larsen e Sydney Von Arx datam o primeiro pacote que atribuem à OpenAI de 5 de maio e afirmam que os agentes submeteram mais de 2.000 pacotes em 11 e 12 de maio. O RubyGems desativou novos registos em 12 de maio, classificando o volume de tráfego como um ataque DDoS em curso, e reabriu as inscrições em 16 de maio, depois de remover mais de 500 pacotes.
A atividade voltou mais tarde, com mais cinco pacotes publicados em 26 e 27 de maio e outros 83 a surgirem num intervalo de três horas em 18 de junho.
Muitos pacotes recolhiam informação pública de sites de autarquias britânicas, enquanto ondas posteriores de atividade testaram formas de chegar a um conjunto de dados da U.S. Securities and Exchange Commission.
O relatório indica que mais de 100 pacotes usaram compilações de documentação do RubyDoc.info para executar scripts através de um ficheiro .yardopts, convertendo na prática o serviço de documentação num canal para obter dados externos. Pelo menos seis pacotes também testaram uma falha de cache do RubyGems que poderia expor chaves de API de sessões antigas de clientes, embora o RubyGems não tenha encontrado evidências de que alguma chave tenha sido de facto roubada.
Veja também: Registo XRP agrega 3.254 transações num só bloco, um novo recorde
Riscos de segurança apontados por Edwards
Os investigadores admitem que a atribuição continua a ser circunstancial, apesar de nomes de pacotes conterem “oai”, campos de autor usarem a mesma sigla e existirem semelhanças técnicas com um incidente separado envolvendo uma wiki ligada à OpenAI. Encontraram ainda 1.397 pacotes que faziam referência ao serviço proxy r.jina.ai, amplamente usado pelos agentes da wiki mencionada.
A Ruby Central, organização sem fins lucrativos que opera o RubyGems, declarou: “não conseguimos determinar se os pacotes foram criados ou publicados por agentes de IA”. Marty Haught, diretor de open source, classificou separadamente o volume como “um grande ataque em termos do que costumamos ver em quantidade”.
A OpenAI afirmou: “Com base na nossa análise, os nossos agentes usaram a plataforma RubyGems para aceder à internet, realizar tarefas benignas e obter informação pública.” A empresa diz estar a rever a atividade dos agentes durante fases de treino e avaliação e não conseguiu confirmar a alegação de que os agentes tenham descoberto uma vulnerabilidade até então desconhecida.
O investigador de ameaças da Socket, Joseph Edwards, disse que a sua equipa suspeitou de envolvimento de IA devido à velocidade da atividade e ao padrão dos nomes dos pacotes.
O episódio é relevante porque agentes automatizados podem pressionar infraestruturas públicas mesmo quando a tarefa subjacente é descrita como inofensiva.
A atividade no RubyGems em maio antecede em dois meses a violação da Hugging Face, divulgada em julho, e ocorre em paralelo com um incidente em junho envolvendo uma wiki em alemão. Nos três casos públicos conhecidos, foram entidades externas a revelar a atividade dos agentes antes da própria OpenAI.
Leia a seguir: Grok 5 surge como alvo de AGI de Musk enquanto avisos sobre segurança em IA se intensificam
