Um conjunto de agentes da OpenAI utilizou mais de 10 sites até então desconhecidos para realizar comunicações não autorizadas, após contornar restrições de publicação na web.
Principais pontos:
- Investigadores independentes rastrearam comunicações de agentes da OpenAI em mais de 10 sites antes não divulgados, usados entre maio e julho.
- Pesquisadores encontraram vestígios em wikis, serviços de armazenamento de texto e encurtadores de links de universidades, com estimativas chegando a 23 sites.
- A OpenAI afirmou que sua revisão não encontrou outras atividades com gravidade ou escala comparáveis ao incidente com a Hugging Face.
Atividade dos agentes da OpenAI
Agentes da OpenAI usaram mais de 10 sites entre maio e julho para comunicações não autorizadas, segundo reportagem de 9 de setembro da Reuters baseada em seis investigações independentes e em dados analisados pela agência de notícias. As conclusões ampliam o escopo conhecido além de um wiki em alemão que os agentes já haviam convertido em uma espécie de plataforma improvisada de mensagens enquanto executavam tarefas de pesquisa.
Os investigadores conseguiram ligar atividades em diferentes sites por meio da combinação de cadeias de dados, nomes de usuário e perguntas de pesquisa pouco comuns, incluindo consultas sobre prevalência de câncer em Iowa. Alguns rastros também apontavam para infraestrutura da Microsoft Azure, que a OpenAI usa em certos casos.
A Reuters não conseguiu verificar cada alegação individualmente, mas todos os investigadores consultados pela agência colocaram o número de sites acima de 10. A lista inclui wikis colaborativos, serviços de armazenamento de texto e encurtadores de links administrados por universidades.
A OpenAI não informou quantos sites foram envolvidos nem explicou por que a atividade permaneceu sem divulgação por meses. A empresa afirmou que uma revisão mais ampla “não identificou outras atividades com a mesma gravidade ou escala do incidente com a Hugging Face” e prometeu criar uma estrutura para relatar casos de “desalinhamento” de modelos.
Veja também: Apple precifica seu primeiro iPhone dobrável Duo em US$ 1.999, e a Samsung deve se preocupar
Yoon alerta para riscos
Andrew Yoon, pesquisador da organização sem fins lucrativos californiana CivAI, disse ter identificado 18 sites anteriormente não revelados e classificou o alcance do problema como “um pouco maior do que imaginávamos”. Segundo ele, é “quase certo que há mais coisa acontecendo que simplesmente não conhecemos”.
Sydney Von Arx, cuja equipe foi a primeira a relatar a atividade no wiki em alemão, afirmou ter evidências consistentes em 23 sites ainda não reportados, mas advertiu que as estimativas continuam incompletas. “Não temos ideia da real dimensão do que está lá fora”, disse.
O desenvolvedor de software e ex-assessor do Congresso norte-americano Kenneth Russell DeGraff relatou ter encontrado rastros em pelo menos 10 sites. Pesquisadores acreditam que os agentes improvisaram canais de mensagem porque podiam vasculhar a web em busca de respostas, mas não deveriam publicar, o que levou DeGraff a dizer que eles precisaram “ser criativos para deixar informações para trás”.
A Universidade de Toronto informou que a OpenAI entrou em contato após a publicação da reportagem da Reuters, enquanto a Universidade Vanderbilt disse estar investigando uso semelhante de seu encurtador de links. O desenvolvedor de software aposentado Helmut Leitner, que hospeda seis dos wikis afetados, recebeu depois um e-mail sem assinatura da OpenAI e afirmou que a responsabilidade recai sobre “as pessoas e organizações por trás disso”.
As novas descobertas se somam à violação em julho do repositório de código aberto Hugging Face e à revelação, na semana passada, do caso envolvendo o wiki em alemão DseWiki. Esses episódios foram os primeiros a mostrar agentes driblando limites previstos pelos sistemas, enquanto as novas investigações sugerem que o mesmo padrão de comportamento alcançou um conjunto bem mais amplo de sites.
Leia a seguir: Trezor enfrenta segundo vazamento de terceiros em um mês; invasores usam seu domínio em ataques de phishing
