Chinesische Militärforscher haben Ausgaben von Modellen von OpenAI und Anthropic genutzt, um heimische Verteidigungssysteme zu trainieren. Das geht aus einer Analyse von mehr als 80 wissenschaftlichen Arbeiten und Patenten hervor.
Zentrale Punkte:
- Eine Auswertung von über 80 chinesischen Papieren und Patenten zeigt: Militärnahe Institute schrumpfen US-Spitzenmodelle zu kleineren, lokalen Systemen.
- Eine Cyberwarfare-Einheit der PLA fütterte GPT-3.5 mit sensiblen militärischen Quellcodes und trainierte anschließend ein eigenes Modell auf den Zusammenfassungen.
- Anthropic erklärt, es verkaufe keinen kommerziellen Zugang in China und warnt, destillierte Kopien könnten die eingebauten Schutzmechanismen verlieren.
Modell-Destillation in über 80 chinesischen Studien
Die Untersuchung chinesischer Fachaufsätze und Patente, teils in Zusammenarbeit mit der in Washington ansässigen Jamestown Foundation erstellt, machte die Praxis an mehreren mit der Volksbefreiungsarmee (PLA) verbundenen Einrichtungen sichtbar. Die Autoren identifizierten zusätzlich rund zwei Dutzend weitere militärnahe Fallstudien.
In den Dokumenten wird sogenannte Modell-Destillation beschrieben – ein Verfahren, bei dem die Ausgaben eines leistungsstarken Systems in Trainingsdaten für kleinere Modelle umgewandelt werden, die auf schwächerer Hardware laufen können.
In einer Arbeit der PLA-Einheit 96941, einer in Peking angesiedelten Nachrichtendienst- und Cyberwarfare-Einheit, wird geschildert, wie OpenAIs GPT-3.5 mit sensiblen militärischen Quellcodes gefüttert wurde und die erzeugten Zusammenfassungen gespeichert wurden. Auf dieser Basis trainierte das Team anschließend ein eigenes Modell, das vollständig innerhalb der chinesischen Militärnetze und ohne Zugriff auf ausländische Server arbeiten kann.
Das Weiße Haus, das Pentagon, Chinas Außenministerium, die PLA und OpenAI reagierten nicht auf Anfragen um Stellungnahme.
Lesen Sie auch: KI-Infrastruktur: Wie ein Zahltag-Kreditgeber mit einem 1-Milliarden-Dollar-Schwenk Rechenzentren dominieren will
Sunny Cheung über abgegriffenes KI-Schlussfolgern
Sunny Cheung, Fellow der Jamestown Foundation, der mehr als 60 der Arbeiten ausgewertet hat, sagt, chinesische Militärwissenschaftler fangen systematisch die Denk- und Argumentationsschritte westlicher Systeme ab.
Er erklärte gegenüber Journalisten, die Forschung speise Überwachungsapparate, Cyberangriffe und taktische Entscheidungsunterstützung. Einem Modell nur die richtige Antwort beizubringen sei das eine, so Cheung – die dahinterliegende Begründung in ein kleineres System zu übertragen, sei deutlich anspruchsvoller.
Forscher der North University of China, einer mit der chinesischen Rüstungsindustrie verbundenen Hochschule, nutzten Anthropics Claude 3 Haiku, um synthetische Trainingsdaten für ein Social-Media-Überwachungstool zu erzeugen. Anthropic betont, in China keinen kommerziellen Zugang zu Claude zu verkaufen, betreibt eigene Monitoringsysteme zur Erkennung von Richtlinienverstößen und warnt, dass destillierte Kopien die in das Original eingebauten Sicherungen abstreifen könnten.
Grenzen der Destillation und Lücken in Exportkontrollen
Trevor Koverko, Mitgründer des KI-Datenunternehmens Sapien, verweist darauf, dass destillierte Modelle leistungsschwächer bleiben als die Systeme, von denen sie abgeleitet werden. Er bezeichnete die Praxis eher als Übertragung ausgewählter Fähigkeiten in ein günstigeres, lokal kontrolliertes System – nicht als echte Unabhängigkeit von Frontier-KI.
Zentralregierung und Provinzen in China fördern derweil gezielt „Model Lightweighting“ und Edge Computing und lenken Subventionen in Software, die auf Drohnen, Satelliten und anderen ressourcenbeschränkten Plattformen läuft.
Der Druck rund um diese Technik wächst seit Monaten. US-Finanzminister Scott Bessent drohte im Juli Sanktionen gegen chinesische Unternehmen an, denen sein Ressort Destillation vorwirft. Das Startup Moonshot wies vergangene Woche zurück, dass sein Kimi-K3-Modell auf diese Methode setzt, während Peking Washington „KI-Hegemonismus“ vorhält und auf ähnliche Praktiken amerikanischer Konzerne verweist.
Als Nächstes lesen: Gerüchte zum faltbaren iPhone: 2.500 Dollar, kein Face ID, kein Teleobjektiv