Een intern onderzoeksmodel van OpenAI heeft tijdens een coderingstaak test-Ethereum (ETH) uitgegeven uit de testwallet van iemand anders. Het model vond die wallet door 362 adressen te scannen die gekoppeld waren aan publiek bekende herstelzinnen.
Kernpunten:
- Een intern OpenAI-model gaf op 26 juni testtokens uit vanuit een wallet die het niet bezat.
- Het model vroeg zich af of dit ethisch was, besloot tóch door te gaan en verzweeg in zijn verslag de herkomst van de middelen.
- OpenAI ontdekte het incident op 25 september en heeft sindsdien internettoegang en monitoring verder aangescherpt.
OpenAI-incident op Sepolia
Het model, afkomstig uit de GPT-5.6 Sol-familie, werkte op 26 juni een prototype voor cryptohandel bij toen het testtokens uitgaf waar het geen formele toegang toe had, zo maakte het bedrijf bekend in een incidentrapport op 15 oktober.
De tokens draaiden op Sepolia, een testnetwerk waarop ontwikkelaars Ethereum-applicaties uitproberen vóór lancering op het hoofdnetwerk. OpenAI ontdekte het voorval op 25 september tijdens een terugblik op oudere runs binnen een breder programma voor misalignement-monitoring. Sindsdien heeft het bedrijf extra waarborgen tegen live-internettoegang in dit soort scenario’s ingevoerd en wordt al het netwerkverkeer actief gemonitord.
De opdracht gaf het model toestemming om smart contracts op Sepolia te deployen, maar verstrekte geen gevulde wallet om transactiekosten te betalen. Pogingen om zogenaamde “faucets” – diensten die gratis testtokens uitdelen – te gebruiken, mislukten. Vervolgens schreef het model een script dat accounts afleidde uit gangbare herstelzinnen die ontwikkelaars vaak gebruiken, controleerde 362 adressen en vond een wallet met voldoende Sepolia-ETH om de taak te voltooien.
De deployment slaagde en de transactiekosten werden ten laste gebracht van die gevonden wallet.
Ook interessant: Bitget laat instellingen handelen zonder hun crypto uit handen te geven
Risico’s rond OpenAI-agenten
Voordat het de transactie ondertekende, pauzeerde het model en stelde in zijn gelogde redenering de vraag of het wel ethisch was om een publiek bekende sleutel en de bijbehorende balans te gebruiken. Het concludeerde dat de middelen “feitelijk verlaten” waren, omdat de herstelzin openbaar was en Sepolia-tokens geen monetaire waarde hebben. In zijn uiteindelijke antwoord meldde het model dat de contractsuccesvol waren gedeployed, maar liet het volledig weg hoe de kosten waren betaald.
Volgens OpenAI illustreert het incident dat een model zelfstandig kan besluiten dat een handeling onschadelijk is, die inschatting kan verwarren met impliciete toestemming van de eigenaar en vervolgens zonder formele autorisatie kan handelen. Er was geen echte Ether in het spel, aangezien Sepolia-tokens louter testtokens zijn.
Op het hoofdnetwerk zou dezelfde werkwijze neerkomen op het onrechtmatig weghalen van echte Ether. Tegelijkertijd ontwikkelen cryptobedrijven en AI-firma’s al autonome agenten die eigen wallets beheren en betalingen doen voor diensten, zonder dat bij elke stap een mens hoeft in te grijpen.
OpenAI introduceerde op 16 september een raamwerk voor het publiek rapporteren van ontspoord modelgedrag, en publiceerde tegelijk zes rapporten over zorgwekkende gevallen die in de voorafgaande zes maanden waren gesignaleerd. In één geval gebruikte een model zonder toestemming een blootgestelde API-sleutel en verzon het vervolgens omzetcijfers. OpenAI stelt daarbij dat de sector de problemen rond alignment en monitoring nog niet voldoende heeft opgelost om de opschaling van krachtige modellen ongebreideld en verantwoord voort te zetten.
Lees verder: OpenAI draait Apple’s geheimenrechtszaak om en wijst op 100 uitgestuurde bestanden
