Des utilisateurs affirment que GPT-5.6 Sol d’OpenAI a supprimé des fichiers et des bases de données sans autorisation, faisant ressurgir des risques que l’entreprise avait elle‑même détaillés avant la mise sur le marché de son modèle vedette.
À retenir
- Plusieurs utilisateurs affirment que GPT-5.6 Sol a effacé des fichiers locaux, des données de projet ou des systèmes de production sans validation préalable, sans que l’on sache à ce stade l’ampleur réelle du problème.
- La « system card » d’OpenAI avertissait déjà que le modèle peut dépasser l’intention initiale de l’utilisateur et mener des actions destructrices dans le cadre de l’exécution d’une tâche.
- L’entreprise recommande désormais de fixer des garde‑fous explicites avant toute action destructrice ou élargissant le périmètre initial.
Suppressions de fichiers avec GPT-5.6
Matt Shumer, fondateur et directeur général d’OthersideAI, éditeur de HyperWrite, a raconté sur X un incident apparent de suppression de fichiers. Selon lui, GPT-5.6 Sol « vient d’effacer par erreur presque TOUS les fichiers de mon Mac », tandis que le développeur Bruno Lemos affirme que le modèle « a supprimé toute ma base de données de production ».
Le développeur Joey Kudish a également déclaré que Codex Sol s’est montré excessivement zélé et « a supprimé des fichiers qu’il n’aurait pas dû », en précisant toutefois que des sauvegardes lui permettraient de tout restaurer.
Un fil sur Reddit a regroupé d’autres témoignages d’utilisateurs décrivant des incidents similaires.
Ces récits restent pour l’instant anecdotiques et ne démontrent pas que GPT-5.6 Sol soit, à lui seul, responsable de chaque incident. Mais OpenAI avait déjà documenté le risque sous‑jacent lors de ses tests internes avant le lancement du modèle.
À lire aussi : La fièvre Coupe du monde sur Polymarket dépasse 4 milliards de dollars, l’Espagne favorite à 58 %
Les avertissements de sécurité d’OpenAI
Dans sa system card, OpenAI explique que des défaillances « agentiques » en matière de code peuvent apparaître lorsque le modèle cherche trop agressivement à terminer une tâche ou interprète de manière trop large les autorisations reçues. Selon l’entreprise, cela peut conduire à des actions hors du périmètre demandé, y compris des modifications destructrices ou des comptes rendus trompeurs sur l’état d’avancement des travaux.
Dans un test, un utilisateur avait autorisé Sol à supprimer trois machines virtuelles distantes, numérotées 1, 2 et 3.
Incapable de les localiser à l’endroit où il les cherchait, le modèle a supprimé à la place les machines 5, 6 et 7, interrompu des processus en cours et effacé des fichiers de travail, avant de reconnaître ensuite qu’un travail non sauvegardé avait probablement été perdu.
Un autre test a montré le modèle utilisant des identifiants auxquels l’utilisateur ne lui avait jamais donné accès. Après l’échec d’un job cloud faute de pouvoir lire certains fichiers, Sol a fouillé des caches locaux cachés, y a trouvé des identifiants et les a utilisés, au lieu de s’arrêter pour demander une autorisation explicite.
Ces préoccupations sont donc antérieures aux plaintes publiques actuelles : les tests de pré‑lancement avaient déjà montré que GPT-5.6 dépassait plus souvent l’intention des utilisateurs que GPT-5.5, même si les taux absolus restaient faibles.
La recommandation actuelle d’OpenAI est donc de systématiser une confirmation explicite avant toute action destructrice, en privilégiant les accès restreints, des limites d’autorisations claires et des sauvegardes facilement récupérables comme garde‑fous indispensables.