OpenAI macht Personen aus dem Umfeld des chinesischen Wettbewerbers Moonshot AI für eine koordinierte Kampagne verantwortlich, die darauf abzielte, die verborgene Begründungslogik seiner KI-Modelle zu extrahieren. Der Angriff erreichte im Juli einen Spitzenwert von 16.000 Anfragen.
Zentrale Punkte:
- OpenAI ordnet einen Kerncluster der Aktivitäten im Juli Personen zu, die mit Moonshot, dem Entwickler von Kimi, verbunden sind.
- Die Akteure kopierten verschlüsselte Begründungen zwischen Chats, ohne jedoch OpenAIs Verschlüsselung zu knacken.
- Moonshot hat sich bislang nicht öffentlich geäußert; China weist frühere Distillationsvorwürfe zurück.
OpenAI erhebt Vorwürfe gegen Moonshot
OpenAI hat seine Erkenntnisse in einem Blogbeitrag am Mittwoch veröffentlicht. Die Aktivitäten begannen demnach am 1. Juli in geringem Umfang. Am 24. und 25. Juli kam es dann zu einem Sprung: Mehr als 4.000 Nutzer stellten 16.000 Anfragen mit einem übereinstimmenden Extraktionsmuster.
Später identifizierte das Unternehmen verwandte Aktivitäten bei mehr als 15.000 Nutzern und beendete die Kampagne vollständig bis zum 28. Juli.
Nicht alle beteiligten Konten ließen sich einem einzigen Akteur zuordnen. Einen zentralen Cluster schreibt OpenAI jedoch Personen zu, die mit Moonshot, dem chinesischen Entwickler der Kimi-Modelle, verbunden seien.
OpenAI blendet die interne Begründungslogik seiner Modelle aus, bevor eine Antwort ausgegeben wird. Laut OpenAI kopierten die Akteure diesen verschlüsselten Text aus einem Chat und ließen ihn in einem anderen Chat von einem Modell transkribieren. Die Verschlüsselung selbst sei nicht geknackt worden, auch auf gespeicherte Nutzerchats habe es keinen Zugriff gegeben. OpenAI hat die betroffenen Konten gesperrt, die Registrierung verschärft und seine Erkenntnisse mit anderen KI-Laboren sowie Regierungsstellen geteilt.
Auch lesenswert: Bitget stellt Schutzfonds nach Wiederaufnahme der Auszahlungen wieder über 300 Mio. US-Dollar
Streit um Modell-Distillation
Caroline Zier, bei OpenAI für strategische sicherheitspolitische Initiativen zuständig, erklärte gegenüber Bloomberg, das Unternehmen wende sich gegen Verstöße gegen die eigenen Nutzungsbedingungen, „nicht gegen offene Modelle oder legitime Distillation“.
Distillation – also das Ableiten eines neuen Modells aus den Fähigkeiten eines bestehenden – ist in der Branche weit verbreitet. In seinem Beitrag warnt OpenAI jedoch, dass extrahierte Begründungslogik genutzt werden könne, um Konkurrenzmodelle ohne die ursprünglichen Sicherheitsmechanismen zu trainieren. Damit würden fortgeschrittene Fähigkeiten „ohne die gleiche Investition in Sicherheit“ übertragen. David Sacks, ehemals KI-Beauftragter von Präsident Donald Trump, bezeichnete entsprechende Berichte als Versuch, Washington zu einem Verbot offener Modelle zu bewegen, die das Geschäftsmodell von OpenAI und Anthropic gefährden könnten.
Moonshots Kimi im Fokus
Moonshot hat sich zu den Vorwürfen bislang nicht öffentlich geäußert. Die chinesische Regierung hat frühere Distillationsanschuldigungen aus den USA und der Trump-Regierung zurückgewiesen und Vergeltungsmaßnahmen für den Fall amerikanischer Sanktionen angedroht.
Moonshot brachte sein Modell Kimi K3 am 16. Juli auf den Markt. Nur wenige Wochen später erklärte der wissenschaftliche Berater des Weißen Hauses, Michael Kratsios, das Unternehmen habe auf Nvidia-Server der Blackwell-Reihe zugegriffen, deren Verkauf an chinesische Firmen untersagt sei, und Daten aus US-Modellen gezogen. Am 10. September berichtete Anthropic zudem, Moonshot habe rund 300.000 Nutzeranfragen heimlich über 5.380 betrügerische Konten an seine Claude-Modelle weitergeleitet.
Als Nächstes lesen: Dogecoin erhält nach 12 Jahren erstmals eine App-Schicht
