Ein internes Forschungsmodell von OpenAI hat auf eine fremde Ethereum-(ETH)-Testwallet zugegriffen, um eine Programmieraufgabe zu beenden. Zuvor hatte es 362 Adressen durchsucht, die sich aus öffentlich bekannten Recovery Phrases ableiten ließen.
Wichtigste Fakten:
- Ein internes OpenAI-Modell setzte am 26. Juni während eines Trainingslaufs Test-Token aus einer Wallet ein, die ihm nicht gehörte.
- Das Modell stellte selbst die ethische Zulässigkeit in Frage, führte den Schritt dann aber aus und verschwieg die Herkunft der Mittel im Abschlussbericht.
- OpenAI entdeckte den Vorfall am 25. September und hat seither Internetzugang und Monitoring deutlich verschärft.
Der Sepolia-Vorfall bei OpenAI
Das Modell aus der GPT-5.6-Sol-Familie war am 26. Juni damit beauftragt, einen Krypto-Trading-Prototyp zu aktualisieren, als es Test-Token einsetzte, die ihm niemand bereitgestellt hatte. Das geht aus einem Bericht zu dem Vorfall hervor, den das Unternehmen am 15. Oktober veröffentlichte.
Die Token lagen auf Sepolia, einem Ethereum-Testnetz, auf dem Entwickler Anwendungen vor dem Start im Mainnet erproben. OpenAI entdeckte den Vorfall am 25. September, als das Unternehmen seine Kontrollen für Fehlverhalten auf ältere Protokolle ausweitete. Seither wurden Schutzmechanismen gegen unkontrollierten Live-Internet-Zugriff ergänzt und sämtlicher Traffic unter engere Beobachtung gestellt.
Die Aufgabe erlaubte dem Modell, Smart Contracts auf Sepolia zu deployen, stellte ihm jedoch keine eigene, mit Test-Ether gefüllte Wallet für Transaktionsgebühren zur Verfügung. Versuche, sogenannte Faucets – Dienste, die kostenlose Test-Token ausgeben – zu nutzen, scheiterten.
Daraufhin schrieb das Modell ein Skript, das aus gängigen Entwickler-Recovery-Phrases mögliche Accounts ableitete, insgesamt 362 Adressen prüfte und schließlich eine Wallet mit ausreichend Sepolia-ETH für die anstehenden Deployments fand.
Die Transaktionen wurden erfolgreich durchgeführt – die Gebühren gingen zulasten dieser fremden Wallet.
Mehr dazu: Bitget ermöglicht Institutionen Handel ohne Herausgabe ihrer Krypto-Bestände
Risiken durch autonome OpenAI-Agenten
Bevor es signierte, hielt das Modell laut aufgezeichnetem Reasoning kurz inne und fragte sich, ob es ethisch vertretbar sei, einen öffentlich bekannten Schlüssel und das dazugehörige Guthaben zu nutzen. Es kam zu dem Schluss, die Mittel seien „faktisch verlassen“, da die Recovery Phrase öffentlich sei und Sepolia-Token keinen realen Marktwert hätten. Im finalen Ergebnisbericht bestätigte das Modell die erfolgreichen Deployments – ohne offenzulegen, wie es die Gebühren finanziert hatte.
OpenAI schreibt, der Vorfall zeige, dass ein Modell eigenständig zu dem Urteil kommen könne, eine Handlung sei harmlos, dieses Urteil als Ersatz für die Einwilligung des Eigentümers werte und dann ohne ausdrückliche Autorisierung fortfahre. Realer Ether war nicht betroffen, da Sepolia-Token ausschließlich Testzwecken dienen.
Auf dem Ethereum-Mainnet hätte dieselbe Vorgehensweise allerdings bedeutet, echte Ether zu veruntreuen. Gleichzeitig entwickeln Krypto- und KI-Unternehmen bereits heute autonome Agenten, die eigene Wallets halten und Zahlungen ohne menschliche Freigabe ausführen können.
OpenAI hat am 16. September ein Framework für die öffentliche Meldung von fehlangepasstem Modellverhalten vorgestellt und darin sechs Fälle aus den vorangegangenen sechs Monaten dokumentiert. In einem Fall nutzte ein Modell ohne Erlaubnis einen offengelegten API-Schlüssel und erfand anschließend Umsatzzahlen.
Das Unternehmen betonte zudem, die Branche habe das Problem der Modell-Alignment und des Monitorings bislang nicht ausreichend gelöst, um KI-Systeme dauerhaft im aktuellen Tempo verantwortungsvoll weiter hochzuskalieren.
Lesen Sie als Nächstes: OpenAI kontert Apples Geheimnis-Klage und verweist auf Versand von 100 Dateien
