Chinesische Militärforscher haben Ausgaben von Modellen von OpenAI und Anthropic genutzt, um eigene Verteidigungssysteme zu trainieren. Das geht aus einer Auswertung von mehr als 80 wissenschaftlichen Arbeiten und Patenten hervor.
Zentrale Befunde:
- In über 80 chinesischen Papern und Patenten wurden mit dem Militär verbundene Institute identifiziert, die US-Spitzenmodelle in kleinere lokale Systeme destillieren.
- Eine Cyberwarfare-Einheit der Volksbefreiungsarmee (PLA) speiste GPT-3.5 mit sensiblen militärischen Quellcodes und trainierte anschließend ein eigenes Modell auf den Zusammenfassungen.
- Anthropic betont, in China keine kommerziellen Zugänge zu verkaufen, und warnt, dass destillierte Kopien eingebaute Schutzmechanismen verlieren können.
Modeldestillation in mehr als 80 chinesischen Studien
Die Auswertung chinesischer Fachpublikationen und Patente, teilweise zusammengetragen mit der in Washington ansässigen Jamestown Foundation, legte offen, wie stark Institute mit Verbindungen zur Volksbefreiungsarmee auf Modeldestillation setzen. Zusätzlich wurden rund zwei Dutzend weitere militärnahe Fallstudien identifiziert.
In den Dokumenten wird Modeldestillation beschrieben – ein Verfahren, bei dem die Ausgaben eines leistungsstarken Basismodells als Trainingsdaten für kleinere Modelle dienen, die auf deutlich bescheidenerer Hardware laufen können.
Eine Veröffentlichung der PLA-Einheit 96941, einer in Peking ansässigen Nachrichtendienst- und Cyberwarfare-Einheit, schildert, wie OpenAIs GPT-3.5 mit sensiblen militärischen Quellcodes gefüttert wurde. Die Forscher behielten die erzeugten Zusammenfassungen und trainierten damit ein eigenes Modell, das vollständig innerhalb chinesischer Militärnetze und ohne Zugriff auf ausländische Server operieren kann.
Das Weiße Haus, das Pentagon, das chinesische Außenministerium, die Volksbefreiungsarmee und OpenAI reagierten nicht auf Anfragen zu Stellungnahmen.
Auch interessant: KI-Infrastruktur, der verzweifelte 1-Mrd.-Dollar-Pivot eines Payday-Lenders Richtung Rechenzentren
Sunny Cheung über „gestohlene“ KI-Logik
Sunny Cheung, Fellow bei der Jamestown Foundation, der mehr als 60 der Arbeiten analysiert hat, sieht ein systematisches Vorgehen chinesischer Militärwissenschaftler, die die Schlussfolgerungsschritte westlicher Systeme einfangen.
Er erklärte gegenüber Reportern, die Forschung speise Überwachungs-, Cyberkriegs- und taktische Entscheidungssysteme. Ein Modell mit der richtigen Antwort zu füttern sei das eine, so Cheung; die dahinterliegende Begründung in ein kleineres System zu übertragen, sei deutlich anspruchsvoller.
Forscher der North University of China, einer Hochschule mit enger Anbindung an die chinesische Rüstungsindustrie, setzten Claude 3 Haiku von Anthropic ein, um synthetische Trainingsdaten für ein Social-Media-Überwachungstool zu generieren. Anthropic betont, keinen kommerziellen Zugang zu Claude in China anzubieten, betreibt eigene Überwachungssysteme zur Erkennung von Policy-Verstößen und warnt, dass destillierte Kopien eingebaute Sicherheitsmechanismen abstreifen könnten.
Grenzen der Destillation und Lücken bei Exportkontrollen
Trevor Koverko, Mitgründer des KI-Datenspezialisten Sapien, betont, destillierte Modelle blieben schwächer als ihre Vorbilder. Er bezeichnete die Praxis als Übertragung ausgewählter Fähigkeiten in ein günstigeres, lokal kontrolliertes System – aber nicht als wirkliche Unabhängigkeit von Frontier-KI.
Parallel haben Zentralregierung und Provinzen in China gezielt Forschung zu Modellverschlankung und Edge Computing finanziert und Subventionen in Software gelenkt, die auf Drohnen, Satelliten und anderen Geräten mit begrenzten Ressourcen läuft.
Der Druck auf die Destillationstechnik wächst seit Monaten. US-Finanzminister Scott Bessent drohte im Juli mit Sanktionen gegen chinesische Unternehmen, die sein Haus der Destillation für schuldig hält. Das Startup Moonshot wies jüngst zurück, dass sein Modell Kimi K3 auf diese Methode setze. Peking wiederum wirft Washington „KI-Hegemonismus“ vor und verweist auf vergleichbare Praktiken in US-Konzernen.
Als Nächstes lesen: Gerüchte zum faltbaren iPhone werden konkret: 2.500 Dollar, kein Face ID, kein Teleobjektiv
