Çin ordusuyla bağlantılı araştırmacıların, yerli savunma yapay zekâ sistemlerini eğitmek için OpenAI ve Anthropic modellerinin çıktılarından yararlandığı ortaya çıktı. Washington merkezli Jamestown Foundation iş birliğiyle hazırlanan ve 80’den fazla akademik makale ile patente dayanan inceleme, Çin Halk Kurtuluş Ordusu’na (PLA) bağlı kurumların ABD menşeli öncü modelleri sistematik biçimde damıtarak daha küçük yerel modellere aktardığını gösteriyor.
Öne çıkan başlıklar:
- 80’den fazla Çinli makale ve patentin incelenmesi, ordu bağlantılı kurumların ABD’de geliştirilen öncü modelleri daha küçük yerel sistemlere damıttığını ortaya koydu.
- PLA’ya bağlı bir siber harp birimi, GPT-3.5’e hassas askeri kaynak kodu verip üretilen özetlerle yerli bir modeli eğitti.
- Anthropic, Çin’de ticari erişim satmadığını, damıtılmış kopyaların ise orijinal güvenlik önlemlerini kaybedebileceği uyarısında bulundu.
80 Çinli çalışmada model damıtma pratiği
Jamestown Foundation desteğiyle hazırlanan inceleme, Çinli akademik yayınlar ve patentler üzerinden, Halk Kurtuluş Ordusu’yla bağlantılı kurumlarda model damıtmanın yaygınlaştığını ortaya koydu. İnceleme kapsamında en az iki düzine ek vaka çalışması daha tespit edildi. Ayrıntılar, Chinese military researchers tap US AI models to train defense systems haberinde de yer aldı.
Belgelerde anlatılan “model damıtma” tekniği, yüksek kapasiteli bir modelden alınan çıktıları, daha mütevazı donanımlarda çalışabilen küçük yapay zekâlara eğitim verisi olarak aktarmayı içeriyor. Böylece pahalı, bulut tabanlı sistemlerin mantığı daha hafif, sahada çalıştırılabilir modellere gömülüyor.
Pekin’de konuşlu, istihbarat ve siber harp görevleri yürüten PLA Birimi 96941’e ait bir çalışma, OpenAI’nin GPT-3.5 modeline hassas askeri kaynak kodu yüklendiğini ve modelin ürettiği özetlerin saklandığını anlatıyor. Çalışmaya göre, ekip bu özetler üzerinden yerli bir modeli eğitti ve ortaya çıkan sistem tamamen Çin askeri ağları içinde, yabancı sunuculara bağlı olmadan çalışacak şekilde tasarlandı. Çalışmaya ilişkin ayrıntılar report claims China distilling U.S. frontier models to power military AI applications başlıklı haberde de paylaşıldı.
Beyaz Saray, ABD Savunma Bakanlığı (Pentagon), Çin Dışişleri Bakanlığı, PLA ve OpenAI, konuya ilişkin yorum taleplerine yanıt vermedi.
Ayrıca bkz.: Yapay Zekâ Altyapısı, Maaş Günü Kredicisinin Veri Merkezi Hakimiyeti İçin Umutsuz 1 Milyar Dolarlık Dönüşümü
Sunny Cheung: “Batı’nın akıl yürütmesi kopyalanıyor”
İncelemenin önemli bölümünü yürüten Jamestown Foundation araştırmacısı Sunny Cheung, 60’tan fazla makaleyi taradığını ve Çinli askeri bilim insanlarının Batılı yapay zekâ sistemlerinin “akıl yürütme adımlarını” sistematik şekilde yakalayıp yeniden ürettiğini belirtiyor.
Cheung, Chinese military used OpenAI, Anthropic AI outputs to train their defence systems – report haberine yaptığı değerlendirmede, bu çalışmaların gözetim altyapılarına, siber harp kapasitesine ve taktik karar destek sistemlerine veri sağladığını söyledi. Cheung’a göre bir modele yalnızca “doğru cevabı” öğretmek görece kolay; asıl zor olan, bu cevaba giden muhakeme zincirini küçük ve yerel bir sisteme aktarmak.
Çin’in savunma sanayiiyle ilişkili sayılan Kuzey Çin Üniversitesi’nden araştırmacılar da, sosyal medya izlemesine dönük bir analiz aracı için sentetik eğitim verisi üretmek amacıyla Anthropic’in Claude 3 Haiku modelinden yararlandı. Bu çalışma, China is training military AI on outputs from OpenAI and Anthropic models haberinde ayrıntılandırıldı.
Anthropic, Claude modellerine Çin içinde ticari erişim sunmadığını, kullanım koşullarını ihlal eden faaliyetleri tespit etmek için izleme sistemleri çalıştırdığını açıkladı ve damıtma yoluyla oluşturulan kopyaların, orijinal modelde yerleşik güvenlik katmanlarını ve etik filtreleri atlatabileceği uyarısında bulundu.
Damıtmanın sınırları ve ihracat kontrollerindeki boşluklar
Yapay zekâ veri şirketi Sapien’in kurucu ortağı Trevor Koverko, damıtılmış modellerin, türetildikleri öncü sistemlerden hâlâ belirgin şekilde zayıf kaldığını vurguluyor. Koverko, Reuters röportajında bu süreci, “tam bağımsızlık” değil, seçilmiş kabiliyetlerin daha ucuz ve yerel olarak kontrol edilen modellere transferi olarak tanımladı.
Buna karşılık, Çin merkezi ve yerel yönetimleri, hafifletilmiş modeller ve uç bilişim (edge computing) alanına ciddi fon akıtıyor. Teşvik ve sübvansiyonların, dronlar, uydular ve diğer kısıtlı donanımlı platformlar üzerinde çalışabilen yazılımlara yönlendirildiği belirtiliyor. Böylece, sahada gerçek zamanlı karar destek imkânı veren gömülü yapay zekâ çözümleri öne çıkıyor.
Damıtma tekniği etrafındaki siyasi baskı aylardır artarken, ABD Hazine Bakanı Scott Bessent, temmuz ayında yaptığı açıklamada, “damıtma” faaliyetleriyle suçlanan bazı Çinli şirketlere yaptırım uygulanabileceği uyarısında bulundu. Çinli yapay zekâ girişimi Moonshot, geçtiğimiz hafta yayımladığı açıklamada Kimi K3 modelinin damıtma tekniğine dayanmadığını savundu.
Pekin yönetimi ise Washington’u “yapay zekâ alanında hegemonya peşinde koşmakla” suçluyor ve benzer yöntemlerin ABD’li şirketler tarafından da kullanıldığını öne sürüyor. Bu tartışma, yapay zekâ ihracat kontrollerinin yalnızca model erişimi ve işlem gücüne odaklanmasının yeterli olup olmadığı sorusunu yeniden gündeme taşıyor.
Sıradaki Haber: Katlanabilir iPhone Söylentileri Netleşiyor: 2.500 Dolar, Face ID Yok, Telefoto Yok
