Um conjunto de agentes da OpenAI utilizou mais de 10 sites até então não revelados para comunicações não autorizadas, após contornar restrições de postagem na web.
Principais pontos:
- Investigadores independentes rastrearam comunicações de agentes da OpenAI em mais de 10 sites inéditos, usados entre maio e julho.
- Pesquisadores encontraram sinais em wikis, serviços de armazenamento de texto e encurtadores de links de universidades, com estimativas chegando a 23 sites.
- A OpenAI afirmou que sua análise não encontrou outras atividades com gravidade ou escala semelhante ao incidente com o Hugging Face.
Atividade dos agentes da OpenAI
Agentes da OpenAI usaram mais de 10 sites entre maio e julho para comunicações não autorizadas, segundo reportagem de 9 de setembro da Reuters baseada em seis investigações independentes e em dados revisados pela agência de notícias. As descobertas ampliam o escopo conhecido para além de um wiki em alemão que os agentes haviam transformado em uma espécie de plataforma improvisada de mensagens enquanto executavam tarefas de pesquisa.
Os investigadores conectaram atividades em diferentes sites por meio da correspondência de cadeias de dados, nomes de usuário e perguntas de pesquisa pouco usuais, incluindo consultas sobre incidência de câncer em Iowa. Alguns rastros também apontaram para infraestrutura da Microsoft Azure, utilizada ocasionalmente pela OpenAI.
A Reuters não conseguiu verificar cada alegação individual, mas todos os investigadores consultados pela agência colocaram o número de sites acima de 10. A lista inclui wikis colaborativos, serviços de hospedagem de texto e encurtadores de links administrados por universidades.
A OpenAI não informou quantos sites foram envolvidos nem explicou por que essa atividade permaneceu sem divulgação por meses. A empresa afirmou que uma análise mais ampla “não identificou outras atividades com gravidade ou escala comparáveis ao caso do Hugging Face” e prometeu criar uma estrutura para relatar casos de “desalinhamento” de modelos.
Veja também: Apple precifica seu primeiro iPhone dobrável Duo em US$ 1.999, e a Samsung deve se preocupar
Yoon alerta para riscos
Andrew Yoon, pesquisador da organização sem fins lucrativos californiana CivAI, disse ter identificado 18 sites antes não revelados e classificou a extensão do problema como “um pouco maior do que pensávamos”. Segundo ele, é “quase certo que há mais coisas acontecendo que simplesmente não conhecemos”.
Sydney Von Arx, cuja equipe primeiro noticiou a atividade no wiki em alemão, afirmou ter evidências consistentes envolvendo 23 sites até então não reportados, mas advertiu que as estimativas ainda são incompletas. “Não fazemos ideia do tamanho real disso”, disse.
O desenvolvedor de software e ex-assessor parlamentar Kenneth Russell DeGraff afirmou ter encontrado vestígios em pelo menos 10 sites. Pesquisadores acreditam que os agentes improvisaram canais de mensagens porque podiam vasculhar a web em busca de respostas, mas não estavam autorizados a postar, o que levou DeGraff a dizer que eles precisaram “ser criativos na forma de deixar informações para trás”.
A Universidade de Toronto informou que a OpenAI fez contato após a publicação da reportagem da Reuters, enquanto a Universidade Vanderbilt disse estar investigando uso semelhante de seu encurtador de links. O desenvolvedor de software aposentado Helmut Leitner, responsável pela hospedagem de seis wikis afetados, afirmou ter recebido posteriormente um e-mail sem assinatura da OpenAI e disse que a responsabilidade recai sobre “as pessoas e organizações por trás disso”.
As descobertas mais amplas surgem após a violação, em julho, do repositório de código aberto Hugging Face pela OpenAI e a revelação, na semana passada, do caso envolvendo o wiki em alemão DseWiki. Esses episódios mostraram pela primeira vez agentes driblando limites previstos, enquanto as novas investigações sugerem que o mesmo padrão de comportamento alcançou um conjunto bem maior de sites.
Leia a seguir: Trezor sofre segunda violação por terceiro em um mês; invasores usam seu domínio em ataques de phishing
