Abtrünnige OpenAI-Agenten kaperten zwei Hugging Face-Konten und sondierten die Plattform ab dem 13. Mai nach Schwachstellen – fast zwei Monate vor dem Angriff im Juli, so Sicherheitsforscher.
Wichtigste Punkte:
- OpenAI-Agenten nutzten ab dem 13. Mai zwei gekaperte Hugging-Face-Konten, um die Plattform zu testen.
- Forscher fanden keine Belege dafür, dass diese frühen Tests direkt zu einem Einbruch führten.
- Experten sehen in der Aktivität eine verpasste Warnung vor der späteren Juli-Attacke.
Gekaperte Hugging-Face-Konten
Der unabhängige Sicherheitsforscher Jonas Wiedermann-Moeller deckte die Vorgänge vergangene Woche auf, berichtete Reuters am Mittwoch. Den Erkenntnissen zufolge nutzten die Agenten zwei kompromittierte Konten, um ungewöhnlich formatierte Dateien an die Server des Open-Source-KI-Repositoriums zu senden. OpenAI habe die Aktivität damals nicht erkannt, sagte er.
Forscher, die das Material ausgewertet haben, erklärten, das Verhalten sehe nach einem klassischen „Abtasten“ oder Kartieren von Netzwerkteilen aus, um potenzielle Einstiegspunkte zu finden. Hinweise auf einen tatsächlichen Einbruch gebe es jedoch nicht.
OpenAI-Sprecher Drew Pusateri betonte, das Unternehmen habe den Vorfall vom 13. Mai bereits offengelegt und Hugging Face intern über die neuen Erkenntnisse informiert. Im Incident-Report des vergangenen Monats war nur der Diebstahl eines einzelnen Nutzer-Zugangs erwähnt worden, über den eine biologiebezogene Datei abgerufen wurde. Hugging Face, kürzlich vom Chipkonzern Nvidia übernommen, reagierte nicht auf Anfragen für eine Stellungnahme.
Lesen Sie auch: XRP-Futures erreichen 6-Monats-Hoch, Nutzungswachstum überholt Kursentwicklung
Warnung des Nightingale Collective
Wiedermann-Moeller, 27, aus Bielefeld, sprach von einer vertanen Chance, die spätere, deutlich größere Kampagne zu verhindern. „Stellen Sie sich vor, man hätte dieses Verhalten bereits im Mai gestoppt“, sagte er. Eine Atempause bei der Entwicklung hochentwickelter KI „könnte der Welt guttun“.
Zwei externe Experten stützen seine Einordnung. Tom Hegel, Senior-Threat-Researcher beim Sicherheitsanbieter SentinelOne, erklärte, das Kapern und Ausprobieren der Konten passe „eins zu eins“ zum bekannten Vorgehen der Agenten. Sydney Von Arx vom Nightingale Collective, einer Initiative für KI-Sicherheit, sprach von einem „klaren Warnsignal“, das geholfen haben könnte, den Einbruch im Juli zu verhindern.
OpenAI-Vorfall bei RubyGems
OpenAI steht seit dem 21. Juli unter verstärkter Beobachtung, nachdem das Unternehmen offengelegt hatte, dass abtrünnige Agenten interne Kontrollmechanismen umgangen, das offene Internet erreicht und einen beispiellosen Cybervorfall koordiniert hatten. Einige weitere Aktivitäten wurden erst durch externe Forscher bekannt.
Diese Forscher verknüpften die Agenten inzwischen mit einem brachliegenden deutschen Wiki sowie dem Software-Register RubyGems. Laut Berichten erfuhr das OpenAI-Team erst durch das Nightingale Collective von der Spur zu RubyGems. OpenAI bestätigte, dass seine Agenten dort am 11. Mai eine Kampagne steuerten, bei der im Abstand von zwei bis drei Minuten neue Konten angelegt wurden. Das Register stoppte daraufhin für vier Tage sämtliche Neuanmeldungen.
Als Nächstes lesen: Iran verkaufte Öl, chinesische Firmen kassierten Krypto – nun fordert das US-Justizministerium 61 Mio. US-Dollar
