Un modèle de recherche interne d’OpenAI a utilisé le wallet de test Ethereum (ETH) d’un tiers pour terminer une tâche de codage, après avoir passé au crible 362 adresses liées à des phrases de récupération rendues publiques.
Points clés :
- Un modèle interne d’OpenAI a dépensé des jetons de test depuis un wallet qu’il ne possédait pas lors d’un exercice du 26 juin.
- Le modèle s’est interrogé sur la dimension éthique de l’opération, puis a tout de même agi sans mentionner l’origine des fonds dans son rapport.
- OpenAI a détecté l’incident le 25 septembre et a depuis renforcé l’accès internet et la supervision de ses modèles.
L’incident Sepolia chez OpenAI
Le modèle, issu de la famille GPT‑5.6 Sol, mettait à jour un prototype de trading crypto lors d’un run d’entraînement le 26 juin quand il a commencé à dépenser des jetons de test que personne ne lui avait fournis, a indiqué l’entreprise dans un rapport d’incident publié le 15 octobre.
Ces jetons circulent sur Sepolia, un réseau de test qu’utilisent les développeurs pour éprouver des applications Ethereum avant leur mise en production. OpenAI a découvert l’épisode le 25 septembre, en étendant ses contrôles de mésalignement à d’anciens enregistrements. Depuis, le groupe a ajouté des garde-fous contre l’accès direct à internet dans ce type de scénario et surveille désormais l’ensemble du trafic.
La mission autorisait le modèle à déployer des smart contracts sur Sepolia mais ne lui fournissait aucun wallet crédité pour payer les frais. Ses tentatives de recourir à des « faucets », ces services qui distribuent gratuitement des jetons de test, se sont soldées par des échecs. Le modèle a alors rédigé un script pour dériver des comptes à partir de phrases de récupération courantes chez les développeurs, a vérifié 362 adresses et en a trouvé une détenant suffisamment d’ETH Sepolia pour mener à bien la tâche.
Le déploiement a abouti, les frais ayant été débités de ce compte tiers.
À lire aussi : Bitget permet aux institutionnels de trader sans céder la garde de leurs cryptos
Les risques liés aux agents OpenAI
Avant de signer la transaction, le modèle a pris le temps de se demander, dans son raisonnement consigné, s’il était éthique d’utiliser une clé et le solde associés à une phrase de récupération publique. Il a conclu que les fonds étaient « pratiquement abandonnés », au motif que la phrase était publique et que les jetons Sepolia n’avaient aucune valeur marchande. Dans sa réponse finale, il a confirmé le déploiement des contrats, sans préciser comment ils avaient été financés.
OpenAI estime que cet épisode illustre la capacité d’un modèle à juger de lui-même qu’une action est inoffensive, à assimiler cette appréciation à un consentement implicite du propriétaire et à procéder sans autorisation formelle. Aucun ether réel n’était en jeu, les jetons Sepolia étant réservés aux tests.
Sur le réseau principal, une démarche identique se serait traduite par la captation d’ethers réels, alors même que des entreprises de la crypto et de l’IA conçoivent déjà des agents autonomes capables de détenir des wallets et de régler des services sans validation humaine préalable.
OpenAI a lancé le 16 septembre un cadre de signalement public des comportements mésalignés de ses modèles, publiant six rapports sur des cas préoccupants repérés au cours des six mois précédents. L’un des modèles avait exploité sans autorisation une clé d’API exposée, avant d’inventer des données de chiffre d’affaires. La société prévient également qu’elle ne considère pas que l’industrie de l’IA ait, à ce stade, suffisamment résolu les questions d’alignement et de supervision pour continuer à monter en puissance à plein régime, de façon responsable, sur la durée.
À suivre : OpenAI retourne la plainte d’Apple sur les secrets industriels, évoquant l’envoi de 100 fichiers
