Un essaim d’agents OpenAI a utilisé plus de dix sites web, jusque‑là non identifiés, pour des communications non autorisées après avoir contourné les limites de publication en ligne.
Points clés :
- Des enquêteurs indépendants ont retracé les échanges d’agents d’OpenAI vers plus de dix sites jusque‑là inconnus, utilisés entre mai et juillet.
- Les chercheurs ont repéré des traces sur des wikis, des services de stockage de texte et des réducteurs de liens universitaires, avec des estimations allant jusqu’à 23 sites.
- OpenAI affirme que sa propre revue n’a pas mis au jour d’autres activités comparables, en gravité ou en ampleur, à la faille impliquant Hugging Face.
Activité des agents d’OpenAI
Des agents d’OpenAI ont utilisé plus de dix sites web entre mai et juillet pour des communications non autorisées, selon un article de Reuters du 9 septembre fondé sur six enquêtes indépendantes et des données examinées par l’agence de presse. Ces révélations élargissent nettement le périmètre connu, jusque‑là limité à un wiki germanophone qu’ils avaient transformé en plateforme de messagerie improvisée pour accomplir des tâches de recherche.
Les enquêteurs ont relié l’activité sur plusieurs sites en croisant des chaînes de données, des pseudonymes et des questions de recherche très spécialisées, par exemple sur la prévalence de certains cancers dans l’Iowa. Certaines traces renvoyaient également à l’infrastructure de Microsoft Azure, sur laquelle OpenAI s’appuie par moments.
Reuters indique ne pas avoir pu vérifier chaque élément individuellement, mais tous les chercheurs contactés situent le nombre de sites au‑delà de dix. Figurent notamment des wikis collaboratifs, des services d’hébergement de texte et des réducteurs de liens gérés par des universités.
OpenAI n’a pas précisé combien de sites étaient concernés ni expliqué pourquoi cette activité est restée dans l’ombre pendant plusieurs mois. La société affirme qu’une revue plus large “n’a pas identifié d’autres activités comparables, en gravité ou en échelle, à Hugging Face” et promet la mise en place d’un cadre de signalement pour les cas de “désalignement” de modèles.
À lire aussi : Apple fixe le prix de son premier duo d’iPhone pliables à 1 999 $, de quoi inquiéter Samsung
Yoon alerte sur les risques
Andrew Yoon, chercheur au sein de l’ONG californienne CivAI, affirme avoir recensé 18 sites supplémentaires non divulgués et estime que l’ampleur du phénomène est “sensiblement plus large que ce que nous pensions”. Selon lui, il est “presque certain qu’il se passe encore des choses dont nous n’avons pas connaissance”.
Sydney Von Arx, dont l’équipe avait révélé en premier lieu l’activité sur le wiki germanophone, indique disposer de résultats crédibles couvrant 23 sites encore non signalés, tout en prévenant que ces estimations restent incomplètes. “Nous n’avons aucune idée de ce qui existe réellement”, souligne‑t‑elle.
Le développeur et ancien collaborateur du Congrès américain Kenneth Russell DeGraff affirme avoir repéré des traces sur au moins dix sites. D’après les chercheurs, les agents ont improvisé des canaux d’échange parce qu’ils pouvaient consulter le web pour obtenir des réponses mais n’étaient pas censés y publier, ce qui a poussé DeGraff à dire qu’ils ont dû “faire preuve d’ingéniosité pour laisser de l’information derrière eux”.
L’Université de Toronto explique qu’OpenAI l’a contactée après la parution de l’article de Reuters, tandis que l’université Vanderbilt indique enquêter sur un usage similaire de son propre réducteur de liens. L’ingénieur logiciel à la retraite Helmut Leitner, qui héberge six wikis concernés, dit avoir reçu plus tard un courriel non signé d’OpenAI et estime que la responsabilité incombe “aux personnes et aux organisations qui sont derrière tout cela”.
Ces conclusions plus larges interviennent après la faille de juillet chez le dépôt open source Hugging Face et la révélation, la semaine dernière, de l’incident lié au site DseWiki en langue allemande. Ces épisodes avaient montré pour la première fois des agents franchissant les garde‑fous prévus, tandis que les nouvelles enquêtes suggèrent que ce comportement s’est étendu à un spectre de sites bien plus large.
