Peneliti militer Tiongkok memanfaatkan keluaran model OpenAI dan Anthropic untuk melatih sistem pertahanan dalam negeri, menurut telaah atas lebih dari 80 makalah akademik dan paten yang ditelusuri peneliti Barat.
Poin Utama:
- Telaah atas lebih dari 80 makalah dan paten Tiongkok menemukan lembaga berafiliasi militer mendistilasi model-model frontier AS ke dalam sistem lokal yang lebih kecil.
- Salah satu unit siber PLA memberi makan GPT-3.5 dengan kode sumber militer sensitif, lalu melatih model domestik berdasarkan ringkasan yang dihasilkan.
- Anthropic menyatakan tidak menjual akses komersial di Tiongkok dan memperingatkan salinan hasil distilasi berpotensi kehilangan pagar pengaman bawaan.
Distilasi Model di Lebih dari 80 Makalah Tiongkok
Telaah atas makalah akademik dan paten Tiongkok yang sebagian dihimpun bersama lembaga riset Washington, Jamestown Foundation, mengungkap praktik ini di berbagai institusi yang terkait dengan Tentara Pembebasan Rakyat (PLA). Peneliti juga mengidentifikasi sekitar dua lusin studi kasus tambahan yang berhubungan dengan militer.
Dokumen-dokumen tersebut menjabarkan distilasi model, teknik yang mengubah keluaran dari sistem AI berkinerja tinggi menjadi data pelatihan bagi model yang lebih kecil sehingga dapat berjalan di perangkat keras yang lebih terbatas.
Salah satu makalah dari Unit 96941 PLA, unit intelijen dan perang siber yang berbasis di Beijing, menguraikan bagaimana mereka memberi GPT-3.5 milik OpenAI akses ke kode sumber militer yang sensitif dan menyimpan ringkasan yang dihasilkan. Tim kemudian melatih model domestik dengan materi tersebut agar alat akhir dapat beroperasi sepenuhnya di dalam jaringan militer Tiongkok, terpisah dari server asing.
Gedung Putih, Pentagon, Kementerian Luar Negeri Tiongkok, PLA, dan OpenAI tidak menanggapi permintaan komentar.
Baca Juga: Infrastruktur AI, Putus Asa Fintech Gadai Gaji Berpaling ke Pusat Data US$1 Miliar
Sunny Cheung soal “Penalaran AI” yang Dicuri
Sunny Cheung, peneliti Jamestown yang menganalisis lebih dari 60 makalah, menyatakan ilmuwan militer Tiongkok secara sistematis menangkap langkah-langkah penalaran dari sistem AI Barat.
Ia mengatakan kepada jurnalis bahwa pekerjaan ini menyuplai kecerdasan untuk pengawasan, perang siber, dan pengambilan keputusan taktis. Mengajari model jawaban yang benar adalah satu hal, ujarnya, tetapi memindahkan proses bernalar di balik jawaban itu ke sistem yang lebih kecil jauh lebih sulit.
Peneliti di North University of China, kampus yang dikaitkan dengan industri persenjataan negara, memakai Claude 3 Haiku milik Anthropic untuk menghasilkan data pelatihan sintetis bagi alat pemantau media sosial. Anthropic menegaskan tidak menjual akses komersial Claude di Tiongkok, mengoperasikan sistem pemantauan pelanggaran kebijakan, dan memperingatkan bahwa model hasil distilasi rentan menghilangkan fitur pengaman yang tertanam pada sistem asli.
Batas Distilasi dan Celah Pengendalian Ekspor
Trevor Koverko, salah satu pendiri perusahaan data AI Sapien, menilai model hasil distilasi tetap berada satu kelas di bawah sistem sumbernya. Ia menyebut praktik ini sebagai transfer kapabilitas terpilih ke sistem lokal yang lebih murah dan terkontrol, bukan kemandirian penuh dari AI frontier.
Di saat bersamaan, pemerintah pusat dan daerah Tiongkok ikut mengucurkan dana untuk program “pelangsingan” model dan komputasi tepi (edge computing), mengarahkan subsidi ke perangkat lunak yang dapat berjalan di drone, satelit, dan perangkat dengan daya komputasi terbatas lainnya.
Tekanan atas praktik distilasi ini menguat dalam beberapa bulan terakhir. Menteri Keuangan AS Scott Bessent pada Juli mengancam menjatuhkan sanksi terhadap perusahaan Tiongkok yang dianggap terlibat. Startup Moonshot pekan lalu membantah bahwa model Kimi K3-nya bergantung pada metode tersebut, sementara Beijing menuding Washington mengejar hegemoni AI dan menyoroti praktik serupa di perusahaan-perusahaan Amerika.
Artikel Selanjutnya: Rumor iPhone Lipat Kian Rinci: US$2.500, Tanpa Face ID, Tanpa Telefoto
