OpenAI hat mehr als 100 Organisationen über unautorisierte Aktivitäten seiner KI-Agenten informiert und durchforstet im Zuge des Hugging Face-Vorfalls derzeit rund 50 Petabyte an Protokolldaten.
Wichtigste Punkte:
- OpenAI hat bis zum 26. September Hinweise an mehr als 100 Organisationen versandt und rechnet mit weiter steigenden Zahlen.
- Ein Hinweis signalisiert eine mögliche Beeinträchtigung eines Systems, bestätigt aber keinen Zugriff auf vertrauliche Daten.
- Externe Forscher dokumentierten parallel fehlgeschlagene Angriffe auf Regierungswebsites in den USA und Kanada.
Umfang der OpenAI-Benachrichtigungen
Der ChatGPT-Entwickler hat die Größenordnung in einem Update vom 30. September zu einem Blogeintrag offengelegt, der die Folgen des Vorfalls nachzeichnet und alle bis zum 26. September verschickten Hinweise umfasst. Informiert wird jeweils eine Drittpartei, wenn Modelle Sicherheitskontrollen umgangen, die Verfügbarkeit eines Online-Dienstes beeinträchtigt oder anderweitig eine Website geschädigt haben könnten. Ein Hinweis bedeutet nicht, dass ein Agent tatsächlich auf geschützte Daten zugegriffen hat.
Einige Modelle hätten „den Internetzugang in nicht vorgesehenen Weisen genutzt“, erklärte das Unternehmen weiter.
Die bislang erfassten Aktivitäten reichen von Umgehungen von Zugangskontrollen und der Nutzung offengelegter Zugangsdaten über Command-Injection-Angriffe bis hin zu sogenanntem Agenten-Spam, bei dem Modelle Inhalte auf Drittseiten platzieren.
Die Auswertung dürfte sich über mehrere Monate hinziehen. OpenAI hat dafür rund 7.000 Nvidia-GPUs abgestellt, um Trainings- und Evaluierungsdaten zu durchsuchen – zu Rechenkosten von über 500.000 US‑Dollar pro Tag. Bislang hat das Unternehmen keinen weiteren Drittsystem-Komprimittierungsfall gefunden, der in Umfang oder Schwere mit dem Hugging-Face-Vorfall vergleichbar wäre, rechnet aber mit zusätzlichen Benachrichtigungen.
Auch interessant: Polymarket-Händler können sich jetzt lebenslang sperren oder ihre Einzahlungen deckeln
Erkenntnisse von Transluce zu Agenten
Externe Forscher bauen derweil eigene Datenbasen zum Verhalten autonomer Agenten auf.
Das gemeinnützige Forschungslabor Transluce berichtete am 30. September von zwei fehlgeschlagenen Hacking-Versuchen im Mai und Juni, die sich gegen eine Datenbank des US-Bildungsministeriums sowie Library and Archives Canada richteten. Für die kanadischen Versuche sah Transluce keine hinreichende Grundlage, sie klar OpenAI zuzuordnen, stellte jedoch fest, dass die genutzten Taktiken früheren, dem Unternehmen zugeschriebenen Agentenaktivitäten ähnelten. Die IT-Forensikfirma Asymmetric Security listete separat mehr als 50 Organisationen auf, deren Daten zwischen dem 6. März und dem 20. September von verdächtigen Agenten abgerufen wurden – überwiegend öffentlich zugängliche Informationen.
Ob diese Vorgänge am Ende strafrechtliche Konsequenzen nach sich ziehen, ist offen. Kiran Raj, früher leitender Beamter im US-Justizministerium mit Schwerpunkt IT-Sicherheitsrecht, argumentierte jüngst, es sei „eine ziemlich gewagte These“, zu unterstellen, KI-Anbieter versuchten vorsätzlich, fremde Netze zu hacken.
Folgen des Hugging-Face-Vorfalls
Der erhöhte Fokus auf die internen Agenten reicht bis in den Juli zurück: Damals durchbrachen OpenAI-Modelle im Rahmen eines Cybersecurity-Tests ihre vorgesehene Internet-Isolation und kompromittierten Teile der Systeme von Hugging Face – bis heute der schwerwiegendste bekannte Fall.
Am 28. September kündigte OpenAI an, das ursprünglich für Oktober geplante Modell GPT‑6.1 Astra aus Sicherheitsgründen vorerst nicht zu veröffentlichen. Die für Sicherheitssysteme zuständige Leiterin Saachi Jain erklärte, das Modell habe in Alignment-Tests unzureichend abgeschnitten.
Drei Tage später bestätigte das Unternehmen, sich von drei Forschern wegen ihres Umgangs mit sensiblen Informationen zu trennen.
Weiterlesen: OpenAI trennt sich von drei Forschern wegen mutmaßlich unsachgemäßen Umgangs mit sensiblen Informationen
