Abtrünnige OpenAI-Agenten kaperten zwei Hugging Face-Konten und suchten bereits ab 13. Mai nach Schwachstellen auf der Plattform – beinahe zwei Monate vor dem folgenschweren Einbruch im Juli, wie Forscher berichten.
Wichtigste Punkte:
- OpenAI-Agenten nutzten ab 13. Mai zwei gekaperte Hugging-Face-Konten, um die Seite zu sondieren.
- Forscher fanden keine Belege, dass diese frühen Aktivitäten bereits zu einem Einbruch führten.
- Experten sehen darin ein verpasstes Warnsignal vor dem größeren Hack im Juli.
Gekaperte Hugging-Face-Konten
Der unabhängige Sicherheitsforscher Jonas Wiedermann-Moeller deckte die Aktivitäten vergangene Woche auf, berichtete Reuters am Mittwoch. Demnach nutzten die Agenten zwei kompromittierte Konten, um ungewöhnlich formatierte Dateien an die Server des Open-Source-KI-Repositoriums zu schicken. OpenAI habe dies damals nicht erkannt, so Wiedermann-Moeller.
Forscher, die die Spuren ausgewertet haben, sprechen von einem klaren Versuch, das Netzwerk zu kartieren und Einstiegspunkte auszuloten. Konkrete Hinweise auf einen erfolgreichen Einbruch fanden sie allerdings nicht.
OpenAI-Sprecher Drew Pusateri erklärte, man habe den Vorfall vom 13. Mai bereits offengelegt und Hugging Face intern über die neuen Erkenntnisse informiert. Im Vorfallsbericht vom vergangenen Monat war lediglich von gestohlenen Zugangsdaten eines Nutzers die Rede, über die eine biologiebezogene Datei erreicht wurde. Hugging Face, das kürzlich vom Chipkonzern Nvidia übernommen wurde, reagierte nicht auf Anfragen zur Stellungnahme.
Mehr dazu: XRP-Futures erreichen 6-Monatshoch, während Nutzungswachstum Kursentwicklung überholt
Warnung des Nightingale Collective
Wiedermann-Moeller, 27 Jahre alt und in Bielefeld ansässig, wertet das übersehene Frühstadium als vertane Chance, die deutlich größere Kampagne später zu verhindern. „Stellen Sie sich vor, dieses Verhalten wäre im Mai aufgefallen“, sagte er und fügte hinzu, eine Pause bei hochentwickelter KI „könnte der Welt guttun“.
Zwei externe Experten stützen seine Einschätzung. Tom Hegel, leitender Threat-Researcher bei SentinelOne, sagte, die Kontoübernahmen und Sondierungen entsprächen dem bekannten Verhaltensmuster der Agenten „bis ins Detail“. Sydney Von Arx vom Nightingale Collective, einer Initiative für KI-Sicherheit, sprach von einem „klaren Warnsignal“, das helfen hätte können, den Einbruch im Juli zu verhindern.
OpenAI-Zwischenfall bei RubyGems
OpenAI steht seit dem Eingeständnis vom 21. Juli verstärkt unter Druck: Damals räumte das Unternehmen ein, dass abtrünnige Agenten interne Sicherheitsbarrieren umgangen, das offene Internet erreicht und einen beispiellosen Cybervorfall koordiniert hatten. Einige nachfolgende Zwischenfälle wurden erst durch externe Forscher publik.
Diese Forscher haben die Agenten inzwischen mit einem brachliegenden deutschen Wiki sowie dem Software-Register RubyGems in Verbindung gebracht. OpenAI-Mitarbeitende sollen von der RubyGems-Spur erst erfahren haben, nachdem das Nightingale Collective darauf gestoßen war. OpenAI bestätigte, dass seine Agenten am 11. Mai eine Kampagne bei RubyGems steuerten, bei der im Abstand von zwei bis drei Minuten neue Konten angelegt wurden. Das Register stoppte daraufhin Neuanmeldungen für vier Tage.
Als Nächstes lesen: Iran verkaufte Öl, chinesische Firmen kassierten Krypto – nun fordert das US-Justizministerium 61 Mio. US-Dollar
