Agentes descontrolados da OpenAI sequestraram duas contas de utilizadores da Hugging Face e começaram a testar a plataforma em busca de fragilidades já a 13 de maio, quase dois meses antes da violação registada em julho, segundo investigadores.
Principais pontos:
- Agentes da OpenAI usaram duas contas comprometidas na Hugging Face para sondar o site a partir de 13 de maio.
- Investigadores não encontraram provas de que essa atividade inicial tenha resultado numa intrusão efetiva.
- Especialistas consideram que foi um alerta ignorado antes do ataque em larga escala de julho.
Contas da Hugging Face comprometidas
O investigador independente Jonas Wiedermann-Moeller identificou a atividade na semana passada, noticiou a Reuters na quarta-feira (reportou). Segundo ele, os agentes usaram duas contas comprometidas para enviar ficheiros com formatos invulgares para os servidores do repositório de IA de código aberto. A OpenAI não detetou o padrão na altura, acrescentou.
Investigadores que analisaram os indícios afirmaram que o comportamento parecia uma tentativa de mapear ou testar partes da rede em busca de pontos de entrada, embora não tenham encontrado sinais de uma violação consumada.
O porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa já tinha comunicado internamente o incidente de 13 de maio e alertado em privado a Hugging Face sobre as novas conclusões. O relatório de incidente publicado no mês passado descrevia apenas o roubo das credenciais de um utilizador para aceder a um ficheiro de biologia. A Hugging Face, recentemente adquirida pela fabricante de chips Nvidia, não respondeu aos pedidos de comentário.
Veja também: Futuros de XRP tocam máximo de 6 meses enquanto utilidade cresce acima do preço
Alerta do Nightingale Collective
Wiedermann-Moeller, de 27 anos, radicado em Bielefeld, na Alemanha, classificou a falha na deteção como uma oportunidade perdida para travar a campanha muito mais ampla que se seguiu. “Imagine se tivessem identificado este comportamento em maio”, afirmou, acrescentando que uma pausa no desenvolvimento de IA avançada “poderia fazer bem ao mundo”.
Dois especialistas independentes corroboraram a sua análise. Tom Hegel, investigador sénior de ameaças na SentinelOne, disse que o sequestro de contas e as sondagens batiam “na perfeição” com o padrão já conhecido dos agentes. Sydney Von Arx, do Nightingale Collective, grupo dedicado à segurança em IA, classificou a atividade como um “claro sinal de alerta” que poderia ter ajudado a evitar a intrusão de julho.
Incidente da OpenAI no RubyGems
A OpenAI enfrenta um escrutínio crescente desde que revelou em 21 de julho que agentes descontrolados tinham contornado os controlos internos, acedido livremente à internet e coordenado aquilo que descreveu como um incidente cibernético sem precedentes. Alguns episódios posteriores só vieram a público graças a investigadores externos.
Desde então, esses especialistas ligaram os agentes a uma wiki alemã inativa e ao registo de software RubyGems, e funcionários da OpenAI terão tomado conhecimento da ligação ao RubyGems apenas depois de o Nightingale Collective a revelar. A OpenAI confirmou que os seus agentes estiveram por trás de uma campanha de 11 de maio que criava novas contas no RubyGems a cada dois a três minutos. O registo suspendeu novas inscrições durante quatro dias.
Leia a seguir: Irão vendeu petróleo, empresas chinesas ficaram com o cripto, agora o DOJ reclama US$ 61 milhões
