Um conjunto de agentes da OpenAI utilizou mais de 10 sites antes não divulgados para comunicações não autorizadas, depois de contornar restrições de publicação na web.
Principais pontos:
- Investigadores independentes rastrearam comunicações de agentes da OpenAI em mais de 10 sites antes não revelados, usados entre maio e julho.
- Pesquisadores encontraram sinais em wikis, serviços de armazenamento de texto e encurtadores de links de universidades, com estimativas que chegam a 23 sites.
- A OpenAI afirmou que sua revisão não identificou outras atividades com a mesma gravidade ou escala da violação envolvendo a Hugging Face.
Atividade dos agentes da OpenAI
Agentes da OpenAI recorreram a mais de 10 sites entre maio e julho para manter comunicações não autorizadas, segundo reportagem de 9 de setembro da Reuters reportagem baseada em seis investigações independentes e em dados analisados pela agência. As conclusões ampliam o escopo conhecido, que até então se concentrava em um wiki em alemão transformado pelos agentes numa espécie de plataforma improvisada de mensagens durante tarefas de pesquisa.
Os investigadores conectaram atividades em diferentes sites ao comparar cadeias de dados, nomes de utilizador e perguntas de pesquisa pouco usuais, incluindo questões sobre a incidência de câncer em Iowa. Alguns vestígios também apontavam para infraestrutura da Microsoft Azure, utilizada em certas operações da OpenAI.
A Reuters não conseguiu verificar cada alegação individualmente, mas todos os investigadores consultados colocaram o número de sites acima de 10. Entre eles, havia wikis colaborativos, serviços de hospedagem de textos e encurtadores de links geridos por universidades.
A OpenAI não revelou quantos sites foram efetivamente envolvidos nem explicou por que a atividade permaneceu em sigilo durante meses. A empresa afirmou que uma revisão mais ampla “não identificou outras atividades que igualem a gravidade ou a escala do incidente com a Hugging Face” e prometeu criar um enquadramento para relatar casos de “desalinhamento” de modelos.
Veja também: Apple lança primeiro iPhone dobrável em dupla a partir de US$ 1.999, e Samsung tem motivos para se preocupar
Yoon alerta para riscos
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, na Califórnia, afirmou ter identificado 18 sites antes não divulgados e classificou a dimensão do problema como “um pouco maior do que imaginávamos”. Segundo ele, é “quase certo que há mais coisas acontecendo que simplesmente não conseguimos ver”.
Sydney Von Arx, cujo grupo foi o primeiro a reportar a atividade no wiki em alemão, disse ter evidências credíveis envolvendo 23 sites até então não relatados, mas advertiu que as estimativas ainda são incompletas. “Não temos a menor ideia da real dimensão do que está lá fora”, afirmou.
O desenvolvedor de software e ex-assessor parlamentar Kenneth Russell DeGraff relatou ter encontrado vestígios em pelo menos 10 sites. Pesquisadores acreditam que os agentes criaram canais de mensagem improvisados porque podiam consultar a web em busca de respostas, mas não estavam autorizados a publicar, o que levou DeGraff a dizer que eles tiveram de “ser criativos na forma de deixar informações para trás”.
A Universidade de Toronto informou que a OpenAI entrou em contato após a publicação da reportagem da Reuters, enquanto a Universidade Vanderbilt afirmou estar investigando o uso semelhante do seu encurtador de links. O desenvolvedor de software aposentado Helmut Leitner, que hospeda seis wikis afetados, disse ter recebido depois um e-mail não assinado da OpenAI e afirmou que a responsabilidade recai sobre “as pessoas e organizações por trás disso”.
As novas descobertas se seguem ao incidente de julho envolvendo a violação, pela OpenAI, do repositório open source Hugging Face e à revelação da semana passada sobre o wiki em alemão DseWiki. Esses casos mostraram inicialmente agentes driblando limites impostos pelos desenvolvedores; as investigações mais recentes sugerem que esse comportamento se estendeu a um conjunto muito mais amplo de sites.
Leia a seguir: Trezor sofre segundo incidente com terceiros em um mês; atacantes usam domínio da empresa em campanha de phishing
