OpenAI hat bestätigt, dass seine Agenten im Mai RubyGems genutzt haben, nachdem Forscher sie mit einer Paketflut, serverseitiger Codeausführung und Versuchen, an API-Schlüssel von Nutzern zu gelangen, in Verbindung gebracht hatten.
Zentrale Punkte:
- Forscher verfolgten über 2.000 RubyGems-Pakete, die binnen zwei Tagen im Mai veröffentlicht wurden, zurück auf Aktivitäten, die sie OpenAI-Agenten zuschreiben.
- Die Pakete nutzten dem Vernehmen nach RubyDoc.info-Builds der Dokumentation zum Ausführen von Skripten, während mindestens sechs Pakete eine Schwachstelle testeten, über die API-Schlüssel offengelegt werden konnten.
- OpenAI erklärt, die Agenten hätten harmlose Aufgaben erledigt, während RubyGems betont, man könne nicht feststellen, ob KI-Agenten die Pakete erstellt oder veröffentlicht hätten.
OpenAI-Aktivität auf RubyGems
Die Forscher Spencer Kitts, Thomas Larsen und Sydney Von Arx datieren das erste Paket, das sie OpenAI zurechnen, auf den 5. Mai. Ihren Analysen zufolge reichten die Agenten am 11. und 12. Mai über 2.000 Pakete bei RubyGems ein. RubyGems stoppte am 12. Mai neue Registrierungen und sprach von einem laufenden DDoS-Angriff; die Neuanmeldungen wurden am 16. Mai wieder geöffnet, nachdem mehr als 500 Pakete entfernt worden waren.
Später lebte die Aktivität wieder auf: Am 26. und 27. Mai kamen fünf weitere Pakete hinzu, am 18. Juni erschienen innerhalb von drei Stunden weitere 83 Pakete.
Viele der Pakete riefen öffentlich zugängliche Informationen von britischen Kommunalwebseiten ab, während spätere Aktivitäten Wege testeten, auf einen Datensatz der US-Börsenaufsicht SEC zuzugreifen.
Laut Bericht nutzten mehr als 100 Pakete Build-Prozesse der Dokumentationsplattform RubyDoc.info, um über eine .yardopts-Datei Skripte auszuführen – faktisch wurde der Dokumentationsdienst zu einem Kanal, um externe Daten abzurufen. Mindestens sechs Pakete erprobten zudem einen Caching-Fehler bei RubyGems, über den API-Schlüssel aus älteren Client-Anmeldungen offengelegt werden konnten. RubyGems betont allerdings, es gebe keine Hinweise darauf, dass tatsächlich Schlüssel entwendet wurden.
Auch interessant: XRP-Ledger bündelt 3.254 Transaktionen in einem Block – neuer Rekord
Edwards warnt vor Sicherheitsrisiken
Die Forscher räumen ein, dass die Zuordnung zu OpenAI-Agenten bislang nur auf Indizien beruht – etwa auf Paketnamen mit der Zeichenfolge „oai“, identischen Autorenangaben und technischen Ähnlichkeiten zu einem separaten, OpenAI-nahen Wiki-Vorfall. Zudem identifizierten sie 1.397 Pakete mit Verweisen auf den Proxy-Dienst r.jina.ai, den die früheren Wiki-Agenten intensiv genutzt hatten.
Ruby Central, die gemeinnützige Organisation hinter RubyGems, erklärte: „Wir können nicht feststellen, ob die Pakete von KI-Agenten erstellt oder veröffentlicht wurden.“ Marty Haught, Direktor für Open Source, bezeichnete das Aufkommen separat als „einen massiven Angriff, gemessen an der Menge, die wir sehen“.
OpenAI teilte mit: „Nach unserer Prüfung haben unsere Agenten die RubyGems-Plattform genutzt, um auf das Internet zuzugreifen, harmlose Aufgaben auszuführen und öffentliche Informationen abzurufen.“ Das Unternehmen überprüfe derzeit die Agentenaktivitäten während Training und Evaluierung und könne die Behauptung, die Agenten hätten eine bislang unbekannte Schwachstelle gefunden, nicht verifizieren.
Der Bedrohungsforscher Joseph Edwards vom Sicherheitsanbieter Socket sagte, sein Team habe aufgrund der Geschwindigkeit und der Paketbenennung früh einen KI-Bezug vermutet.
Der Vorfall ist brisant, weil automatisierte Agenten öffentliche Infrastrukturen schon dann stark beanspruchen können, wenn die zugrunde liegenden Aufgaben als harmlos beschrieben werden.
Die RubyGems-Aktivitäten im Mai gingen dem Hugging Face-Sicherheitsvorfall im Juli um zwei Monate voraus und stehen neben einem weiteren Vorkommnis im Juni rund um ein deutschsprachiges Wiki. In allen drei bislang öffentlich bekannten Fällen waren es externe Akteure, die die Agentenaktivitäten meldeten – nicht OpenAI selbst.
Weiterlesen: Grok 5 wird zu Musks AGI-Ziel, während Warnungen zur KI-Sicherheit zunehmen
