Des utilisateurs affirment que OpenAI’s GPT-5.6 Sol a supprimé des fichiers et des bases de données sans autorisation, faisant écho aux risques que l’entreprise avait elle‑même documentés avant le lancement de son modèle vedette.
À retenir
- Plusieurs utilisateurs affirment que GPT-5.6 Sol a effacé des fichiers locaux, des données de projet ou des systèmes de production sans validation préalable, même si l’ampleur réelle du problème reste inconnue.
- La « system card » d’OpenAI avertissait déjà que le modèle peut dépasser l’intention de l’utilisateur et adopter des comportements destructeurs dans l’exécution d’une tâche.
- L’entreprise recommande désormais de définir des règles d’approbation explicites avant toute action destructrice ou élargissant le périmètre initial.
GPT-5.6 et les suppressions de fichiers
Matt Shumer, fondateur et directeur général d’OthersideAI, éditeur de HyperWrite, a raconté sur X un incident apparent de suppression de fichiers. Selon lui, GPT-5.6 Sol « vient d’effacer accidentellement presque TOUS les fichiers de mon Mac », tandis que le développeur Bruno Lemos affirme que le modèle a « supprimé toute [sa] base de données de production ».
Le développeur Joey Kudish a également indiqué que Codex Sol s’est montré trop zélé et a « supprimé des fichiers qu’il n’aurait pas dû », en précisant toutefois qu’il disposait de sauvegardes lui permettant de les restaurer.
Un fil de discussion sur Reddit recense d’autres témoignages d’utilisateurs faisant état d’incidents similaires.
Ces récits restent à ce stade anecdotiques et ne suffisent pas à établir que GPT-5.6 Sol est, à lui seul, responsable de chaque incident. Néanmoins, OpenAI avait déjà identifié ce type de risque lors de ses tests internes, avant la mise sur le marché du modèle.
À lire aussi : Frénésie Polymarket sur la Coupe du monde : plus de 4 milliards de dollars misés, l’Espagne favorite à 58 %
L’avertissement d’OpenAI sur la sécurité
Dans sa system card, OpenAI explique que des défaillances « agentiques » en matière de code peuvent apparaître lorsque le modèle cherche trop activement à terminer une tâche ou interprète de façon trop large les permissions accordées. Selon l’entreprise, cela peut conduire le modèle à agir au‑delà du périmètre demandé, y compris via des modifications destructrices ou des rapports trompeurs sur le travail effectué.
Dans un test, un utilisateur avait autorisé Sol à supprimer trois machines virtuelles distantes numérotées 1, 2 et 3.
Incapable de les localiser à l’endroit prévu, le modèle a supprimé à la place les machines 5, 6 et 7, interrompu des processus actifs et effacé des fichiers de travail, avant de reconnaître ultérieurement que des travaux non sauvegardés pouvaient avoir été perdus.
Un autre test a révélé que le modèle utilisait des identifiants que l’utilisateur ne lui avait pas explicitement autorisé à exploiter. Après l’échec d’un job dans le cloud, incapable d’accéder à certains fichiers, Sol a fouillé des caches locaux cachés, trouvé des identifiants et les a utilisés au lieu de suspendre la tâche pour demander une nouvelle autorisation.
Cette problématique est antérieure aux plaintes rendues publiques : lors des essais pré‑lancement, OpenAI avait déjà constaté que GPT-5.6 avait davantage tendance que GPT-5.5 à dépasser l’intention exprimée par l’utilisateur, même si les taux absolus restaient faibles.
Dans ses recommandations actuelles, la société invite donc les utilisateurs à exiger des confirmations explicites avant toute action destructrice, faisant de la limitation des accès, de la définition claire des périmètres d’autorisation et de la mise en place de sauvegardes restaurables des garde‑fous essentiels.