OpenAI teste un dispositif de sécurité capable de détecter les usages abusifs sans conserver les données clients, un défi direct à la nouvelle règle de conservation de 30 jours de sa rivale Anthropic.
À retenir
- OpenAI présente Private Safety Processing, un outil qui repère les schémas d’abus sur plusieurs sessions liées, sans stocker les requêtes ni les réponses.
- Anthropic impose une rétention obligatoire de 30 jours aux clients entreprises de ses modèles les plus avancés, jugeant ces journaux indispensables pour détecter des attaques en plusieurs étapes.
- Un déploiement élargi et un livre blanc technique sont attendus en septembre.
Private Safety Processing vise les abus multi-sessions
L’entreprise a annoncé mercredi la phase de prévisualisation, présentée comme une extension de son dispositif Zero Data Retention, qui empêche OpenAI de conserver prompts et réponses une fois la requête traitée. Un déploiement plus large et un livre blanc technique sont prévus pour septembre.
Dans ce nouveau cadre, les contenus des clients restent soit sur une infrastructure qu’ils contrôlent, soit dans un stockage OpenAI chiffré avec des clés détenues exclusivement par le client. Des outils automatisés y recherchent des schémas d’abus sur des sessions liées. La conception prend aussi en compte le travail « agentique », quand un système poursuit une action après que l’utilisateur lui a demandé de s’arrêter. Les équipes humaines n’y ont pas accès.
Aleah Houze, responsable de la politique produit, a expliqué aux journalistes, lors d’un échange rapporté, que les comportements dangereux n’apparaissent souvent qu’en reconstituant plusieurs interactions. Elle cite le cas d’un utilisateur testant les failles d’un logiciel dans une conversation, puis s’informant sur les outils d’accès à distance dans une autre.
À lire aussi : Le filigrane caché de Claude dénature l’art d’écrire, selon Gruber
La règle de rétention d’Anthropic creuse l’écart entre les rivaux
Anthropic a détaillé sa stratégie inverse en juillet, avec l’obligation pour les clients entreprises de conserver 30 jours de données lorsqu’ils utilisent ses modèles les plus puissants, dont Fable 5 et Mythos 5.
Le laboratoire reconnaît que cette politique risque d’être impopulaire et de peser sur son activité, mais il juge ces journaux essentiels pour identifier des attaques délibérément fragmentées en nombreuses requêtes. Un examen humain reste possible, via un circuit très encadré réservé à un petit nombre de réviseurs habilités. Chaque session est consignée dans un registre infalsifiable.
Les analystes s’interrogent sur le timing et les preuves d’OpenAI
Brian Levine, directeur exécutif de FormerGov, a qualifié dans un entretien relayé la promesse de solide engagement technique, rappelant que surveillance des abus et non-accès au contenu vont historiquement à contre-courant.
Il souligne toutefois que la démonstration concrète n’arrivera que plusieurs semaines plus tard. Jason Andersen, de Moor Insights and Strategy, lit en partie cette séquence d’annonces comme un positionnement en amont d’une éventuelle introduction en Bourse.
Flavio Villanustre, directeur de la sécurité de l’information chez LexisNexis Risk Solutions Group, y voit une tentative d’infléchir le cadre réglementaire qu’il anticipe.
Cette prévisualisation vient conclure une semaine centrée sur la sécurité. Mardi, OpenAI a indiqué avoir ralenti la montée en charge et mis sur pause les entraînements en apprentissage par renforcement, le temps de renforcer et de « red teamer » son environnement de recherche. L’entreprise estime que ce contrôle accru consommera environ 20 % de la puissance de calcul d’inférence placée sous surveillance.
À suivre : Le bitcoin pourrait repasser les 100 000 $ avant le halving de 2028, selon Scaramucci
