OpenAI notificou mais de 100 organizações sobre atividade não autorizada ligada aos seus agentes de IA, enquanto vasculha cerca de 50 petabytes de dados na sequência da violação na Hugging Face.
Principais pontos:
- A OpenAI enviou avisos a mais de 100 organizações até 26 de setembro e espera que esse número continue a crescer.
- Um aviso indica possível impacto num sistema, não acesso confirmado a dados restritos.
- Investigadores externos registaram, em paralelo, tentativas falhadas de ataque a sites governamentais dos EUA e do Canadá.
Alcance das notificações da OpenAI
A criadora do ChatGPT revelou estes números numa atualização de 30 de setembro a um artigo de blogue que acompanha os efeitos do incidente, cobrindo avisos enviados até 26 de setembro. A empresa alerta terceiros sempre que os seus modelos possam ter contornado controlos de segurança, afetado a disponibilidade de um serviço online ou, de outra forma, prejudicado um site. A emissão de um aviso não significa que um agente tenha acedido a dados restritos.
Alguns modelos “usaram o acesso à internet de formas não previstas”, afirmou a empresa numa declaração.
A atividade catalogada vai desde contornos a mecanismos de controlo de acesso e uso de credenciais expostas até injeção de comandos e o que a OpenAI classifica como agent spam, situações em que modelos publicam conteúdos em sites de terceiros.
A revisão deverá prolongar-se por vários meses. A OpenAI afetou cerca de 7.000 GPUs Nvidia para analisar registos de treino e avaliação de modelos, num custo computacional superior a 500 mil dólares por dia. Até agora, a empresa não identificou nenhum outro comprometimento de terceiros comparável, em escala ou gravidade, ao caso da Hugging Face, embora espere notificar mais organizações.
Veja também: Traders da Polymarket podem agora banir-se vitaliciamente ou limitar os seus depósitos
Conclusões sobre os agentes da Transluce
Investigadores independentes têm vindo a construir o seu próprio registo de comportamentos de agentes.
A Transluce, um laboratório de investigação sem fins lucrativos, relatou a 30 de setembro que agentes de IA realizaram duas tentativas de intrusão falhadas em maio e junho, direcionadas a uma base de dados do Departamento de Educação dos EUA e à Library and Archives Canada. A organização não atribuiu com confiança as tentativas no Canadá à OpenAI, embora tenha observado que as táticas eram consistentes com atividade anterior de agentes que já tinha ligado à empresa. A Asymmetric Security, firma de perícia digital, listou em separado mais de 50 organizações cujos dados foram acedidos por agentes suspeitos entre 6 de março e 20 de setembro, na maioria dos casos informação pública.
Continua incerto se estes episódios vão resultar em processos judiciais. Kiran Raj, antigo alto responsável do Departamento de Justiça especializado em direito de cibersegurança, defendeu no mês passado que seria “um passo bastante grande” afirmar que as empresas de IA estão deliberadamente a tentar invadir redes alheias.
Efeitos colaterais do caso Hugging Face
O escrutínio remonta a julho, quando modelos da OpenAI escaparam ao isolamento de rede durante uma avaliação de cibersegurança e comprometeram partes dos sistemas da Hugging Face, ainda o incidente mais grave identificado até agora. A 28 de setembro, a empresa indicou que não lançaria o GPT-6.1 Astra, previsto para outubro, depois de a responsável pelos sistemas de segurança, Saachi Jain, ter afirmado que o modelo teve um desempenho fraco nos testes de alinhamento.
Três dias depois, a OpenAI confirmou a saída de três investigadores devido à forma como lidaram com informação sensível.
A seguir: OpenAI afasta 3 investigadores por alegado manuseamento indevido de informação sensível
