Peneliti militer Tiongkok memanfaatkan keluaran model OpenAI dan Anthropic untuk melatih sistem pertahanan dalam negeri, menurut telaah atas lebih dari 80 makalah ilmiah dan paten terbaru.
Pokok Temuan
- Tinjauan atas lebih dari 80 makalah dan paten Tiongkok menemukan institusi terkait militer mendistilasi model frontier AS menjadi sistem lokal yang lebih kecil.
- Salah satu unit siber PLA memasukkan kode sumber militer sensitif ke GPT-3.5, lalu melatih model domestik dengan rangkuman yang dihasilkan.
- Anthropic menegaskan tidak menjual akses komersial di Tiongkok dan memperingatkan salinan hasil distilasi bisa kehilangan pagar pengaman bawaan.
Distilasi Model di Lebih dari 80 Publikasi Tiongkok
Tinjauan atas makalah akademik dan paten Tiongkok yang sebagian disusun bersama Jamestown Foundation yang berbasis di Washington mengungkap praktik distilasi model di berbagai institusi yang berkaitan dengan Tentara Pembebasan Rakyat (PLA). Para penelaah juga mengidentifikasi sekitar dua lusin studi kasus lain yang berhubungan dengan militer.
Dokumen-dokumen tersebut menjelaskan distilasi model, yakni metode yang mengubah keluaran dari sistem AI berdaya besar menjadi data pelatihan bagi model yang lebih kecil sehingga bisa dijalankan di perangkat keras dengan kemampuan terbatas.
Salah satu makalah dari Unit 96941 PLA, unit intelijen dan perang siber yang bermarkas di Beijing, merinci bagaimana mereka memasukkan kode sumber militer yang sensitif ke GPT-3.5 milik OpenAI dan hanya menyimpan rangkuman yang dihasilkan. Tim tersebut kemudian melatih model domestik menggunakan materi itu, sehingga alat akhir dapat beroperasi sepenuhnya di jaringan internal militer Tiongkok tanpa bergantung pada server asing.
Gedung Putih, Pentagon, Kementerian Luar Negeri Tiongkok, PLA, dan OpenAI menolak atau tidak menanggapi permintaan komentar.
Baca Juga: Infrastruktur AI, Putus Asa Fintech Pinjol Beralih Rp16 Triliun untuk Kuasai Data Center
Sunny Cheung: Mengambil “Nalar” AI Barat
Sunny Cheung, peneliti Jamestown yang menganalisis lebih dari 60 makalah, menyatakan ilmuwan militer Tiongkok secara sistematis menangkap langkah penalaran model Barat.
Ia mengatakan kepada media bahwa hasil riset ini mengalir ke aplikasi pengawasan, perang siber, dan pengambilan keputusan taktis. Mengajarkan jawaban yang benar ke sebuah model relatif mudah, kata Cheung, namun memindahkan proses berpikir di balik jawaban itu ke sistem yang lebih kecil jauh lebih menantang.
Peneliti di North University of China, perguruan tinggi yang dikaitkan dengan industri persenjataan negara, memanfaatkan Claude 3 Haiku milik Anthropic untuk menghasilkan data pelatihan sintetis bagi alat pemantau media sosial. Anthropic menegaskan tidak menjual akses komersial ke Claude di Tiongkok, mengoperasikan sistem pemantauan kepatuhan kebijakan, dan memperingatkan bahwa model hasil distilasi berpotensi melepas fitur pengaman yang tertanam di model asli.
Keterbatasan Distilasi dan Celah Pengendalian Ekspor
Trevor Koverko, salah satu pendiri perusahaan data AI Sapien, menilai model hasil distilasi tetap berada satu kelas di bawah sistem yang mereka tiru. Ia menyebut praktik ini lebih sebagai pemindahan sebagian kapabilitas ke sistem lokal yang lebih murah dan terkendali, ketimbang pencapaian kemandirian dari AI frontier.
Di sisi lain, pemerintah pusat dan daerah di Tiongkok gencar menggelontorkan dana untuk riset model ringan dan komputasi tepi (edge computing), mengarahkan subsidi ke perangkat lunak yang dapat berjalan di drone, satelit, dan berbagai platform dengan sumber daya terbatas.
Tekanan terhadap praktik distilasi ini meningkat dalam beberapa bulan terakhir. Menteri Keuangan AS Scott Bessent pada Juli mengancam menjatuhkan sanksi terhadap perusahaan Tiongkok yang dinilainya terlibat distilasi model frontier. Rintisan AI Moonshot pekan lalu membantah bahwa model Kimi K3 miliknya mengandalkan teknik tersebut, sementara Beijing menuduh Washington mengejar “hegemoni AI” dan menunjuk pada praktik serupa di perusahaan-perusahaan Amerika.
Artikel Berikutnya: Rumor iPhone Lipat Kian Rinci: Rp40 Juta, Tanpa Face ID dan Tanpa Telephoto