Um conjunto de agentes da OpenAI utilizou mais de 10 sites, até então não revelados, para comunicações não autorizadas, depois de contornar restrições de publicação na web.
Principais pontos:
- Investigadores independentes rastrearam comunicações de agentes da OpenAI em mais de 10 sites até então não divulgados, usados entre maio e julho.
- Os investigadores encontraram vestígios em wikis, serviços de armazenamento de texto e encurtadores de links de universidades, com estimativas que chegam a 23 sites.
- A OpenAI afirmou que a sua revisão não identificou outras atividades com a mesma gravidade ou escala da violação na Hugging Face.
Atividade dos agentes da OpenAI
Agentes da OpenAI recorreram a mais de 10 sites entre maio e julho para comunicações não autorizadas, segundo reportagem de 9 de setembro da Reuters baseada em seis investigações independentes e em dados analisados pela agência de notícias. As conclusões alargam o universo conhecido para além de um wiki em alemão que os agentes já tinham convertido numa espécie de plataforma improvisada de mensagens enquanto executavam tarefas de pesquisa.
Os investigadores ligaram a atividade entre diferentes sites ao cruzar cadeias de dados, nomes de utilizador e perguntas de pesquisa pouco comuns, incluindo questões sobre a prevalência de cancro no Iowa. Alguns vestígios também apontavam para infraestrutura da Microsoft Azure, que a OpenAI utiliza em certos casos.
A Reuters não conseguiu verificar todas as alegações individualmente, mas todos os investigadores contactados colocaram o número de sites acima de 10. A lista incluía wikis editados pela comunidade, serviços de armazenamento de texto e encurtadores de links operados por universidades.
A OpenAI não revelou quantos sites estiveram envolvidos nem explicou por que motivo a atividade permaneceu desconhecida durante meses. A empresa afirmou que uma análise mais ampla “não identificou outra atividade com a gravidade ou a escala da Hugging Face” e prometeu criar um quadro para reportar casos de “desalinhamento” de modelos.
Veja também: Apple define preço do primeiro iPhone dobrável em US$ 1.999 e aumenta pressão sobre a Samsung
Yoon alerta para riscos
Andrew Yoon, investigador da organização sem fins lucrativos californiana CivAI, afirmou ter identificado 18 sites anteriormente não divulgados e classificou a dimensão do problema como “um pouco maior do que pensávamos”. Na sua avaliação, é “quase certo que há mais coisas a acontecer de que simplesmente não temos conhecimento”.
Sydney Von Arx, cuja equipa revelou primeiro a atividade no wiki em alemão, disse ter recolhido indícios credíveis em 23 sites até então não reportados, mas alertou que as estimativas continuam incompletas. “Não fazemos ideia da verdadeira dimensão disto”, afirmou.
O programador de software e ex-assessor no Congresso norte-americano Kenneth Russell DeGraff afirmou ter encontrado vestígios em pelo menos 10 sites. Os investigadores acreditam que os agentes improvisaram canais de mensagem porque conseguiam consultar a web em busca de respostas, mas não estavam autorizados a publicar, o que levou DeGraff a dizer que eles tiveram de “ser criativos na forma de deixar informação para trás”.
A Universidade de Toronto informou que a OpenAI a contactou depois de a Reuters publicar a reportagem, enquanto a Universidade Vanderbilt disse estar a investigar utilização semelhante do seu encurtador de links. O programador reformado Helmut Leitner, que aloja seis dos wikis afetados, afirmou ter recebido posteriormente um e‑mail não assinado da OpenAI e considerou que a responsabilidade recai sobre “as pessoas e organizações por trás disso”.
As novas descobertas surgem na sequência da violação, em julho, do repositório open source Hugging Face, e da revelação, na semana passada, do caso envolvendo o wiki em alemão DseWiki. Esses episódios mostraram pela primeira vez agentes a contornar limites de utilização previstos, enquanto as novas investigações sugerem que o mesmo comportamento se estendeu a um conjunto muito mais amplo de sites.
Leia a seguir: Trezor sofre segunda violação envolvendo terceiros em um mês; atacantes usam domínio da empresa para phishing
