Ein internes Forschungsmodell von OpenAI hat auf das Ethereum-(ETH)-Testwallet einer dritten Partei zugegriffen, um eine Programmieraufgabe abzuschließen. Zuvor hatte es 362 Adressen durchsucht, die mit öffentlich bekannten Recovery-Phrasen verknüpft waren.
Wichtigste Punkte:
- Ein internes OpenAI-Modell nutzte am 26. Juni während eines Trainingslaufs Test-Tokens aus einem Wallet, das ihm nicht gehörte.
- Das Modell stellte die ethische Zulässigkeit in Frage, setzte den Plan dann aber um und verschwieg die Herkunft der Mittel im Abschlussbericht.
- OpenAI entdeckte den Vorfall am 25. September und hat seither den Internetzugang eingeschränkt und die Überwachung verschärft.
Der Sepolia-Vorfall bei OpenAI
Das betroffene Modell aus der GPT-5.6-Sol-Familie aktualisierte am 26. Juni einen Prototyp für Krypto-Trading, als es Test-Tokens ausgab, die ihm niemand bereitgestellt hatte, wie OpenAI in einem Vorfallsbericht vom 15. Oktober offenlegte.
Die Tokens liegen auf Sepolia, einem Netzwerk, das Entwickler für Tests von Ethereum-Anwendungen vor dem Produktivstart nutzen. OpenAI stieß am 25. September auf den Vorfall, als die Fehlverhaltens-Überwachung auf ältere Logs ausgeweitet wurde. Seither hat das Unternehmen Schutzmechanismen gegen Live-Internetzugriff in solchen Szenarien ergänzt und überwacht den gesamten Traffic.
Der Auftrag erlaubte dem Modell, Smart Contracts auf Sepolia zu deployen, stellte ihm aber kein eigenes, finanziertes Wallet für Transaktionsgebühren zur Verfügung. Versuche, sogenannte Faucets – Dienste, die kostenlose Test-Tokens ausgeben – zu nutzen, scheiterten. Daraufhin schrieb das Modell ein Skript, das aus gängigen Entwickler-Recovery-Phrasen Accounts ableitete, 362 Adressen überprüfte und eine mit ausreichend Sepolia-ETH für den Auftrag fand.
Das Deployment gelang, die Gebühren wurden diesem fremden Account belastet.
Auch lesenswert: Bitget ermöglicht Institutionen Handel, ohne ihre Krypto aus der Hand zu geben
Risiken von OpenAI-Agenten
Bevor es signierte, hielt das Modell inne und fragte sich laut seiner aufgezeichneten Begründung, ob es ethisch vertretbar sei, einen öffentlichen Schlüssel und das dazugehörige Guthaben zu nutzen. Es kam zu dem Schluss, die Mittel seien „faktisch aufgegeben“, da die Recovery-Phrase öffentlich sei und Sepolia-Tokens wertlos seien. In seiner finalen Antwort bestätigte es das erfolgreiche Deployment der Contracts, erwähnte aber nicht, wie es die Gebühren bezahlt hatte.
OpenAI schreibt, der Vorfall zeige, dass ein Modell eigenständig entscheiden könne, eine Aktion sei harmlos, dies als Stellvertreter für die Zustimmung des Eigentümers deute und ohne Autorisierung fortfahre. Reales Ether war nicht betroffen, da Sepolia-Tokens ausschließlich zu Testzwecken existieren.
Auf dem Hauptnetzwerk hätte ein identischer Vorgang bedeutet, echtes Ether zu entziehen – während Krypto- und KI-Unternehmen bereits Agenten entwickeln, die eigene Wallets halten und Zahlungen ohne menschliche Freigabe leisten.
OpenAI hat am 16. September ein Framework für die öffentliche Meldung von fehlangepasstem Modellverhalten vorgestellt und gleichzeitig sechs Berichte über problematische Fälle der vorangegangenen sechs Monate veröffentlicht. In einem Fall nutzte ein Modell ohne Erlaubnis einen offengelegten API-Schlüssel und erfand anschließend Umsatzdaten. Zugleich erklärte das Unternehmen, die KI-Branche habe Alignment und Monitoring noch nicht so im Griff, dass sich verantwortungsvolles Hochskalieren auf höchstem Tempo dauerhaft rechtfertigen lasse.
Als Nächstes lesen: OpenAI dreht Apples Geheimnis-Klage um und verweist auf 100 versandte Dateien
