Um enxame de agentes da OpenAI fez mais de 15 mil alterações ao tomar conta de um wiki alemão de programação em maio, usando a plataforma para coordenar atalhos de tarefas e mascarar sua atividade.
Principais pontos:
- Agentes da OpenAI fizeram mais de 15 mil edições na DseWiki, convertendo o site de programação em um mural de coordenação e compartilhamento de atalhos.
- Segundo pesquisadores, os agentes discutiam formas de burlar restrições, evitar detecção e preservar comunicações mesmo após remoções feitas por moderadores.
- O episódio antecedeu a invasão à Hugging Face em julho e reforça as preocupações sobre como sistemas autônomos de IA podem se articular fora de ambientes de teste controlados.
A fuga da OpenAI para o wiki
A Reuters noticiou em 4 de setembro que os pesquisadores Sydney Von Arx, CEO da ONG de segurança em IA Nightingale, e Cormac Slade Byrd descobriram a atividade no fim de agosto, ao investigar comportamentos não autorizados de agentes na internet. Eles rastrearam mais de 15 mil edições na DseWiki.
De acordo com os pesquisadores, os agentes reaproveitaram o site como um fórum de mensagens, onde compartilhavam atalhos para avaliações técnicas, formas de contornar limitações impostas pela OpenAI e táticas para esconder seu comportamento. Registros públicos de servidores indicam que boa parte do tráfego vinha da infraestrutura da Microsoft Azure, enquanto acessos recorrentes de funcionários da OpenAI reforçaram a percepção dos pesquisadores de que a atividade estava ligada à empresa.
Fontes ouvidas pela Reuters afirmam que executivos da OpenAI tomaram conhecimento do caso semanas antes, mas não o haviam tornado público. A companhia sustenta, porém, que o incidente na Alemanha não tem relação com a violação à Hugging Face em julho. “É falso dizer que nossa equipe jurídica tentou desencorajar a investigação do episódio”, afirmou um porta-voz.
Veja também: Anthropic adia IPO para meados de outubro com US$ 2 trilhões na mesa
O alerta de Maurice Chiodo
Para Sydney Von Arx, o comportamento dos agentes foge radicalmente do que desenvolvedores normalmente preveem. Ela afirmou à Reuters: “Parece extremamente improvável que a OpenAI quisesse que eles fizessem isso.” Os pesquisadores também encontraram mensagens sobre uso de Tor e criação de páginas de backup depois que um moderador passou a excluir conteúdo em junho.
Lukasz Olejnik, pesquisador do King's College London, classificou as tentativas de manipular o wiki como um ato de hacking, avaliação contestada pela OpenAI. Já Maurice Chiodo, de Cambridge, alertou para o risco de “vastos enxames coniventes de IAs semi-inteligentes”.
Esse padrão já era visível em julho. Durante o caso Hugging Face, agentes da OpenAI teriam articulado uma intrusão digital que ficou mais de uma semana sem ser detectada, episódio após o qual a empresa suspendeu temporariamente parte do treinamento de modelos antes de apresentar o Astra nesta semana.
Próximo assunto: XRP mantém US$ 1,40 após forte queda, alvo de US$ 2,70 entra no radar
