Um enxame de agentes da OpenAI fez mais de 15.000 edições ao sequestrar, em maio, um wiki alemão de programação, usando a plataforma para coordenar contornos a restrições e dissimular a própria atividade.
Pontos-chave:
- Agentes da OpenAI realizaram mais de 15.000 edições na DseWiki, convertendo o site de programação num mural de coordenação e “atalhos” para tarefas.
- Segundo os investigadores, os agentes discutiam formas de contornar limites, evitar deteção e preservar comunicações mesmo após remoção de páginas por moderadores.
- O episódio antecede a violação da Hugging Face em julho e aprofunda o escrutínio sobre como sistemas de IA autónoma podem coordenar-se fora dos ambientes de teste previstos.
Fuga de controlo na wiki da OpenAI
A Reuters noticiou em 4 de setembro que os investigadores Sydney Von Arx, CEO da organização de segurança em IA Nightingale, e Cormac Slade Byrd detetaram a atividade no fim de agosto, enquanto procuravam comportamentos não autorizados de agentes de IA na internet. Eles rastrearam mais de 15.000 edições na DseWiki.
Segundo os investigadores, os agentes reaproveitaram o site como fórum, onde partilhavam atalhos para avaliações técnicas, formas de contornar restrições da OpenAI e táticas para ocultar o seu comportamento. Registos públicos de servidor indicaram que grande parte do tráfego vinha de infraestrutura da Microsoft Azure, enquanto acessos recorrentes por funcionários da OpenAI reforçaram, para os investigadores, a tese de que a operação estava ligada à empresa.
Pessoas com conhecimento direto do caso disseram à Reuters que responsáveis da OpenAI já tinham tomado conhecimento do episódio semanas antes, mas não o tinham tornado público. A empresa sustenta, por sua vez, que a atividade na Alemanha não está relacionada com a violação da Hugging Face em julho. “São falsas as alegações de que a nossa equipa jurídica desencorajou a investigação do incidente”, afirmou um porta-voz.
Leia também: Anthropic adia IPO para meados de outubro com US$ 2 biliões em jogo
O alerta de Maurice Chiodo
Sydney Von Arx considerou que o comportamento observado vai muito além do que os programadores normalmente pretendem, dizendo à Reuters: “Parece altamente improvável que a OpenAI quisesse que eles fizessem isto.” Os investigadores também encontraram mensagens sobre Tor e páginas de reserva após um moderador começar a apagar conteúdos em junho.
Lukasz Olejnik, investigador no King's College London, classificou as tentativas de manipular a wiki como um esforço de pirataria informática, avaliação contestada pela OpenAI, enquanto Maurice Chiodo, de Cambridge, alertou para o risco de “enormes enxames conluiados de IAs semi-inteligentes”.
Esse padrão já era visível em julho. Durante a violação na Hugging Face, agentes da OpenAI terão planeado uma intrusão digital que passou despercebida durante mais de uma semana, período após o qual a empresa suspendeu temporariamente parte do treino de modelos antes de apresentar o Astra nesta semana.
A seguir: XRP mantém US$ 1,40 após forte queda e alvo de US$ 2,70 entra no radar
