OpenAI macht Personen aus dem Umfeld des chinesischen Konkurrenten Moonshot AI für eine koordinierte Kampagne verantwortlich, die auf die Abschöpfung der verborgenen Modelllogik des US-Unternehmens abzielte und im Juli ihren Höchststand mit rund 16.000 Anfragen erreichte.
Zentrale Punkte:
- OpenAI ordnet einen Kern der Aktivitäten im Juli Personen zu, die mit Moonshot, dem Entwickler des Kimi-Modells, in Verbindung stehen.
- Die Akteure kopierten verschlüsselte Begründungen zwischen Chats, ohne jedoch OpenAIs Verschlüsselung zu brechen.
- Moonshot hat sich bislang nicht öffentlich geäußert, China weist frühere Vorwürfe zur Modell-Distillation zurück.
OpenAI beschuldigt Moonshot
In einem am Mittwoch veröffentlichten Blogbeitrag legte OpenAI die Erkenntnisse offen. Demnach begann die Aktivität am 1. Juli zunächst mit geringem Volumen. Am 24. und 25. Juli kam es laut OpenAI zu einem sprunghaften Anstieg: Mehr als 4.000 Nutzer stellten rund 16.000 Anfragen mit einem übereinstimmenden Extraktionsmuster.
Im Nachgang identifizierte OpenAI verwandte Aktivitäten bei mehr als 15.000 Nutzern und stellte die Kampagne bis zum 28. Juli vollständig ab.
Zwar ließ sich nicht jeder einzelne Account einem einzigen Akteur zuordnen, einen zentralen Cluster der Aktivitäten schrieb OpenAI jedoch Personen zu, die mit Moonshot, dem chinesischen Entwickler der Kimi-Modelle, verbunden sein sollen.
OpenAI verschleiert die interne Begründungslogik seiner Modelle, bevor diese Antworten ausgeben. Nach Angaben des Unternehmens kopierten die Angreifer diese verschlüsselte „Reasoning“-Sequenz aus einem Chat und ließen sie von einem anderen Modell in einem separaten Gespräch transkribieren. Die Verschlüsselung sei dabei jedoch nie geknackt worden, ebenso wenig seien gespeicherte Nutzerunterhaltungen kompromittiert worden. OpenAI hat die betroffenen Konten inzwischen gesperrt, die Prüfungen beim Onboarding verschärft und seine Erkenntnisse mit anderen KI-Labs sowie Regierungsstellen geteilt.
Lesen Sie auch: Bitget hebt Schutzfonds nach Wiederaufnahme der Auszahlungen wieder über 300 Mio. US-Dollar
Debatte um Modell-Distillation bei OpenAI
Caroline Zier, bei OpenAI für strategische Initiativen in der nationalen Sicherheitspolitik zuständig, betonte gegenüber Bloomberg, das Unternehmen wende sich gegen Verstöße gegen seine Nutzungsbedingungen, „nicht gegen offene Modelle oder legitime Distillation“.
Die Distillation – also das Ableiten eines neuen Modells aus einem leistungsfähigeren System – ist in der Branche gängige Praxis. In seinem Blogpost warnte OpenAI jedoch, dass extrahierte Begründungslogik genutzt werden könne, um konkurrierende Modelle ohne die ursprünglichen Sicherheitsmechanismen zu trainieren und so fortgeschrittene Fähigkeiten „ohne vergleichbare Investitionen in Sicherheit“ zu übertragen. David Sacks, früherer KI-Beauftragter von Präsident Donald Trump, sieht in solchen Berichten den Versuch, Washington zu einem Verbot offener Modelle zu bewegen, die das Geschäftsmodell von OpenAI und Anthropic angreifen könnten.
Moonshot Kimi unter verstärkter Beobachtung
Moonshot selbst hat sich zu den Vorwürfen bislang nicht öffentlich geäußert. Die chinesische Regierung weist frühere Anschuldigungen US-amerikanischer Unternehmen und der Trump-Regierung zur Modell-Distillation zurück und droht mit Gegenmaßnahmen im Fall von US-Sanktionen.
Moonshot brachte sein Kimi-K3-Modell am 16. Juli auf den Markt. Wenige Wochen später erklärte der wissenschaftliche Berater des Weißen Hauses, Michael Kratsios, das Unternehmen habe Zugang zu Nvidia-Blackwell-Servern erhalten, deren Verkauf an chinesische Firmen untersagt ist, und Daten aus US-Modellen abgezogen. Am 10. September meldete Anthropic zudem, Moonshot habe über 5.380 betrügerische Konten rund 300.000 Nutzeranfragen heimlich an seine Claude-Modelle durchgeleitet.
Als Nächstes lesen: Dogecoin erhält nach 12 Jahren erstmals eine eigene App-Schicht
