OpenAI affirme que des personnes liées à son concurrent chinois Moonshot AI ont été au cœur d’une campagne visant à extraire la « logique cachée » de ses modèles, une opération qui a culminé à 16 000 requêtes en juillet.
Points clés :
- OpenAI relie un noyau central de l’activité de juillet à des personnes associées à Moonshot, le développeur de Kimi.
- Les opérateurs ont copié des éléments chiffrés de raisonnement entre conversations, sans jamais casser le chiffrement d’OpenAI.
- Moonshot n’a pas réagi publiquement, et Pékin a déjà rejeté de précédentes accusations de distillation émanant des États‑Unis.
OpenAI met Moonshot en cause
OpenAI a révélé ces conclusions mercredi dans un billet de blog. Selon le groupe, l’activité a démarré à bas bruit le 1er juillet avant de s’emballer les 24 et 25 juillet : plus de 4 000 utilisateurs ont alors envoyé 16 000 requêtes suivant un même schéma d’extraction.
L’entreprise a ensuite identifié une activité apparentée impliquant plus de 15 000 utilisateurs, avant de mettre fin complètement à la campagne au 28 juillet.
OpenAI n’a pas pu rattacher chaque compte à un seul commanditaire, mais attribue un noyau d’opérateurs à des personnes liées à Moonshot, le développeur chinois des modèles Kimi.
Pour limiter les risques de copie, OpenAI masque le raisonnement intermédiaire de ses modèles avant qu’ils ne produisent une réponse. Les opérateurs auraient copié ce texte chiffré depuis une conversation, puis demandé dans une autre discussion à un modèle de le retranscrire, explique la société. Ils n’ont toutefois jamais cassé le chiffrement ni accédé à des historiques de conversations stockées. OpenAI a depuis fermé les comptes concernés, durci ses procédures d’inscription et partagé ses constats avec d’autres laboratoires d’IA ainsi qu’avec les autorités.
À lire aussi : Bitget relève son fonds de protection au‑delà de 300 M$ à la reprise des retraits
Les inquiétudes d’OpenAI sur la distillation
Caroline Zier, responsable des initiatives stratégiques de politique de sécurité nationale chez OpenAI, a déclaré, citée par Bloomberg, que la société s’oppose aux violations de ses conditions d’utilisation, « pas aux modèles ouverts ni à la distillation légitime ».
La distillation de modèles est devenue une pratique courante dans le secteur. Dans son billet, OpenAI prévient toutefois que l’extraction de raisonnements intermédiaires pourrait permettre d’entraîner un modèle concurrent dépourvu des garde‑fous initiaux, faisant circuler des capacités avancées « sans exiger le même investissement en matière de sécurité ». David Sacks, ancien « tsar de l’IA » du président Donald Trump, a déjà dénoncé ce type de rapport comme une tentative de pousser Washington à interdire les modèles ouverts qui menacent les modèles économiques d’OpenAI et d’Anthropic.
Moonshot Kimi sous surveillance accrue
Moonshot n’a, pour l’heure, pas répondu publiquement aux accusations. Le gouvernement chinois a rejeté de précédentes mises en cause de distillation formulées par des groupes américains et par l’administration Trump, avertissant qu’il riposterait à d’éventuelles sanctions américaines.
Moonshot a lancé son modèle Kimi K3 le 16 juillet. Quelques semaines plus tard, le conseiller scientifique de la Maison‑Blanche Michael Kratsios affirmait que la société avait accédé à des serveurs Blackwell de Nvidia, pourtant interdits de vente aux entreprises chinoises, et prélevé des données sur des modèles américains. Puis, le 10 septembre, Anthropic a rapporté que Moonshot avait secrètement routé quelque 300 000 requêtes d’utilisateurs vers ses modèles Claude via 5 380 comptes frauduleux.
À suivre : Dogecoin va enfin se doter d’une couche applicative après 12 ans sans écosystème dédié
