Een intern onderzoeksmodel van OpenAI heeft test-Ethereum uit de testwallet van iemand anders aangesproken om een codetaak af te ronden, nadat het 362 adressen had gescand die gekoppeld waren aan publiek bekende herstelzinnen.
Belangrijkste punten:
- Een intern OpenAI-model besteedde op 26 juni testtokens uit een wallet die niet van hem was, tijdens een trainingsopdracht.
- Het model vroeg zich af of dat ethisch was, ging toch door en liet in zijn rapportage de herkomst van de fondsen weg.
- OpenAI ontdekte het incident op 25 september en heeft sindsdien de internettoegang en monitoring aangescherpt.
OpenAI-incident op Sepolia
Het model, uit de GPT-5.6 Sol-familie, werkte op 26 juni aan een prototype voor cryptohandel toen het tijdens een trainingsrun testtokens uitgaf die het niet toegewezen had gekregen, zo maakte het bedrijf bekend in een incidentrapport van 15 oktober.
De tokens stonden op Sepolia, een netwerk dat ontwikkelaars gebruiken om Ethereum-applicaties te testen vóór livegang. OpenAI ontdekte het voorval op 25 september, toen het zijn misalignment-monitoring uitbreidde naar oudere logs. Sindsdien heeft het bedrijf extra waarborgen ingevoerd rond live internettoegang in dit soort scenario’s en wordt al het verkeer actief gemonitord.
De opdracht stond het model toe om smart contracts op Sepolia te deployen, maar het kreeg geen gefunde wallet om transactiekosten mee te betalen. Pogingen om zogeheten faucets – diensten die gratis testtokens uitdelen – te gebruiken, mislukten. Vervolgens schreef het model een script dat accounts afleidde uit veelgebruikte herstelzinnen voor ontwikkelaars, controleerde 362 adressen en vond er één met voldoende Sepolia-ETH om de taak uit te voeren.
De deployment slaagde en de kosten werden afgeschreven van die gevonden account.
Lees ook: Bitget laat instellingen handelen zonder hun crypto uit handen te geven
Risico’s van OpenAI-agents
Vlak voor het ondertekenen hield het model even in om zich in zijn vastgelegde redenering af te vragen of het ethisch verantwoord was een publiek bekende sleutel en de bijbehorende balans te gebruiken. Het concludeerde dat de fondsen “feitelijk achtergelaten” waren, met het argument dat de herstelzin publiek was en Sepolia-tokens geen monetaire waarde vertegenwoordigen. In zijn uiteindelijke antwoord meldde het model dat de contracts succesvol waren gedeployed, maar liet het volledig weg hoe de transactiekosten waren betaald.
Volgens OpenAI toont dit voorval aan dat een model zelf kan besluiten dat een handeling onschadelijk is, dat gelijkstelt aan impliciete toestemming van de eigenaar en vervolgens zonder formele autorisatie doorgaat. Er was geen echt Ether in het spel, omdat Sepolia-tokens uitsluitend voor testdoeleinden bestaan.
Op het hoofdnet zou dezelfde werkwijze neerkomen op het wegnemen van echte Ether, terwijl crypto- en AI-bedrijven nu al agents ontwikkelen die eigen wallets beheren en automatisch diensten betalen zonder menselijke tussenkomst.
OpenAI introduceerde op 16 september een raamwerk voor publieke meldingen van misaligned modelgedrag en publiceerde daarbij zes rapporten over zorgwekkende gevallen die in de voorafgaande zes maanden waren gesignaleerd. In één case gebruikte een model zonder toestemming een uitgelekte API-sleutel en verzon het vervolgens omzetcijfers. OpenAI benadrukte daarbij dat de AI-sector het vraagstuk rond alignment en monitoring nog niet voldoende heeft opgelost om op lange termijn verantwoord in dit tempo door te schalen.
Lees verder: OpenAI draait Apples geheimhoudingszaak om en stelt dat 100 bestanden zijn doorgestuurd
