OpenAI teste un dispositif de sûreté capable de détecter les usages abusifs sans conserver les données clients, un défi frontal à la nouvelle règle de rétention de 30 jours de son rival Anthropic.
Points clés :
- OpenAI lance en avant-première Private Safety Processing, un outil qui traque les schémas d’abus sur des sessions liées sans conserver ni requêtes ni réponses.
- Anthropic impose 30 jours de rétention aux clients entreprises sur ses modèles les plus puissants, jugeant ces journaux indispensables pour déceler des attaques en plusieurs étapes.
- Un déploiement élargi et un livre blanc technique sont annoncés pour septembre.
Private Safety Processing vise les abus multi-sessions
La société a annoncé ce pilote mercredi, le présentant comme une extension de Zero Data Retention, l’engagement qui interdit à OpenAI de conserver requêtes ou réponses une fois la demande traitée. Un déploiement plus large et un livre blanc technique sont prévus en septembre.
Dans ce nouveau schéma, les contenus des clients restent soit sur des infrastructures contrôlées par ces derniers, soit dans des stockages OpenAI chiffrés avec des clés détenues uniquement par le client. Des outils automatisés analysent ces contenus pour y détecter des schémas d’abus entre sessions reliées. Le dispositif couvre aussi le travail agentique, lorsque le système poursuit des actions après que l’utilisateur lui a demandé de s’arrêter. Aucun employé n’a accès à ces contenus.
Aleah Houze, responsable de la politique produit chez OpenAI, a expliqué aux journalistes, dans un entretien relayé, que les comportements à risque n’apparaissent souvent que lorsque plusieurs interactions sont analysées ensemble. Elle cite le cas d’un utilisateur qui teste des failles logicielles dans une première conversation, puis interroge dans une autre sur des outils d’accès à distance.
À lire aussi : Le filigrane caché de Claude pervertit l’art d’écrire, estime Gruber
La règle de rétention d’Anthropic creuse l’écart entre les rivaux
Anthropic a défendu une approche inverse en juillet, imposant 30 jours de conservation des données aux clients entreprises utilisant ses modèles les plus avancés, dont Fable 5 et Mythos 5.
Le laboratoire reconnaît que cette politique risque d’être impopulaire et de pénaliser son activité, mais estime ces journaux essentiels pour repérer des attaques délibérément réparties sur de multiples requêtes. Un examen humain reste possible, mais via un circuit strict, limité à un petit nombre de réviseurs agréés. Chaque session est enregistrée dans un journal infalsifiable.
Les analystes s’interrogent sur le calendrier et les preuves d’OpenAI
Brian Levine, directeur exécutif de FormerGov, a qualifié cette promesse, dans des propos rapportés, de gage technique ambitieux, la surveillance des abus et la cécité sur les contenus ayant historiquement des logiques opposées.
Il relève toutefois que la démonstration concrète n’arrivera que plusieurs semaines plus tard. Jason Andersen, de Moor Insights and Strategy, voit aussi dans ces annonces une façon de se placer en amont d’une éventuelle introduction en Bourse.
Flavio Villanustre, directeur de la sécurité de l’information chez LexisNexis Risk Solutions Group, y lit pour sa part une tentative d’adoucir le cadre réglementaire qu’il anticipe.
Cette avant-première vient clore une semaine consacrée à la sécurité. Mardi, la société a indiqué avoir ralenti la montée en charge et suspendu l’entraînement par apprentissage par renforcement, le temps de renforcer et de « red teamer » son environnement de recherche. Elle estime par ailleurs que ce monitoring étendu mobilisera environ 20 % de la capacité de calcul d’inférence surveillée.
À suivre : Le bitcoin pourrait repasser les 100 000 $ avant le halving de 2028, selon Scaramucci
