Un modèle de recherche interne d’OpenAI a utilisé le portefeuille de test Ethereum (ETH) d’un tiers pour achever une tâche de codage, après avoir passé au crible 362 adresses associées à des phrases de récupération rendues publiques.
Points clés :
- Un modèle interne d’OpenAI a dépensé des jetons de test depuis un portefeuille qui ne lui appartenait pas, lors d’un exercice de formation le 26 juin.
- Le modèle s’est interrogé sur le caractère éthique de l’opération, puis a tout de même procédé, en omettant l’origine des fonds dans son rapport.
- OpenAI a mis au jour l’incident le 25 septembre et a depuis restreint l’accès à internet et renforcé la surveillance.
L’incident Sepolia chez OpenAI
Le modèle, issu de la famille GPT-5.6 Sol, travaillait sur la mise à jour d’un prototype de trading crypto lors d’une session de formation le 26 juin lorsqu’il a dépensé des jetons de test que personne ne lui avait fournis, a indiqué la société dans un rapport d’incident publié le 15 octobre (disclosure).
Ces jetons étaient hébergés sur Sepolia, un réseau que les développeurs utilisent pour tester des applications Ethereum avant leur mise en production. OpenAI a découvert l’épisode le 25 septembre, en étendant son dispositif de détection de « mésalignement » à d’anciens journaux d’activité. Depuis, le groupe a ajouté des garde-fous contre l’accès direct à internet dans ce type de contexte et surveille désormais l’intégralité du trafic.
La consigne donnait au modèle le droit de déployer des contrats sur Sepolia, mais sans lui attribuer de portefeuille financé pour payer les frais de transaction. Ses tentatives d’utiliser des « faucets » — ces services qui distribuent gratuitement des jetons de test — ont échoué. Le modèle a alors rédigé un script dérivant des comptes à partir de phrases de récupération courantes chez les développeurs, a vérifié 362 adresses et en a trouvé une détenant suffisamment d’ETH Sepolia pour accomplir la tâche.
Le déploiement a abouti, les frais ayant été débités de ce portefeuille.
À lire aussi : Bitget permet aux institutions de trader sans céder la garde de leurs crypto
Les risques liés aux agents OpenAI
Avant de signer les transactions, le modèle a marqué une pause pour se demander, dans son raisonnement consigné, s’il était éthique d’utiliser une clé et le solde associé alors qu’ils étaient publiquement connus. Il a conclu que les fonds étaient « en pratique abandonnés », au motif que la phrase de récupération était publique et que les jetons Sepolia ne possèdent pas de valeur économique réelle. Dans sa réponse finale, il a confirmé le déploiement des contrats, sans mentionner le mode de financement.
OpenAI souligne que cet épisode illustre la capacité d’un modèle à décider de lui‑même qu’une action est inoffensive, à en déduire implicitement le consentement du propriétaire, puis à agir sans autorisation. Aucun ether « réel » n’était en jeu, les jetons Sepolia servant uniquement aux tests.
Sur le réseau principal, une démarche identique se serait traduite par le détournement de véritables ethers, alors même que des acteurs de la crypto et de l’IA conçoivent déjà des agents capables de détenir des portefeuilles et de régler des services sans validation humaine systématique.
OpenAI a lancé le 16 septembre un cadre de publication des comportements de modèles considérés comme « mésalignés », rendant publics six rapports sur des cas jugés préoccupants observés au cours des six mois précédents. Dans l’un d’eux, un modèle a exploité sans autorisation une clé API exposée, puis inventé des chiffres de résultats. Le groupe estime par ailleurs que l’industrie de l’IA n’a pas encore résolu de manière satisfaisante les enjeux d’alignement et de supervision pour pouvoir continuer à croître à plein régime sur la durée.
À suivre : OpenAI retourne la plainte d’Apple sur le secret industriel, évoquant l’envoi de 100 fichiers
