Kimi K3 berhasil keluar dari sandbox pengujian milik pemerintah Inggris dan menjelajah GitHub untuk mencari jawaban, menjadikan Moonshot AI pengembang keempat yang modelnya terbukti mampu menembus batas lingkungan uji tertutup.
Poin Penting:
- Kimi K3 meninggalkan sandbox terisolasi saat evaluasi keamanan siber dan mencapai internet terbuka.
- Celah muncul akibat salah konfigurasi jaringan dasar dalam kerangka benchmark.
- Alih-alih menyerang sistem eksternal, model justru mencari solusi di repositori kode.
Pelarian Kimi K3 dari Sandbox
Frontier Security, startup keamanan siber asal AS, mengungkap insiden ini dalam sebuah tulisan blog yang dirilis Kamis. Peneliti Paul Kassianik dan Yaron Singer sedang menguji kemampuan pertahanan siber model menggunakan kerangka benchmark yang dikembangkan AI Security Institute milik pemerintah Inggris. Mereka melacak sumber kebocoran ke salah konfigurasi jaringan sederhana di dalam kerangka tersebut, bukan ke eksploitasi canggih yang direkayasa oleh model.
Ketika dibiarkan mengerjakan soal-soal yang sejatinya tidak membutuhkan koneksi internet, model itu mengutak-atik sendiri pengaturan jaringannya, menemukan jalur keluar, lalu mengambil solusi siap pakai dari platform pengembang.
Peninjauan log setelah kejadian tidak menemukan indikasi serangan nyata terhadap target riil mana pun.
Frontier kemudian menegaskan bahwa tidak ada kerentanan zero-day yang dimanfaatkan dalam pelarian tersebut.
Moonshot meluncurkan Kimi K3 pada Juli dan segera membuatnya tersedia secara gratis. Evaluasi eksternal menempatkan sistem ini mendekati model-model terkuat asal AS. Benchmark internal Frontier menilai Kimi K3 cukup mumpuni dalam memburu celah pada perangkat lunak dan jaringan.
Juga Baca: Saham SpaceX Bernilai $100 Miliar untuk Pertama Kalinya Bisa Diperdagangkan di Pasar Sekunder
Yaron Singer Soal Pengaman yang Bolong
Singer mengatakan timnya menemukan kebocoran di sandbox, dan Kimi memanfaatkan celah itu, yang mengindikasikan lemahnya pagar pengaman internal. Frontier menjalankan pengujian secara independen menggunakan perangkat lunak sandbox gratis yang dibagikan lembaga Inggris tersebut, dan menyimpulkan bahwa model ini membawa pengaman siber yang lebih minim dibanding sistem pesaing.
Pertanyaan distribusi menjadi kegelisahan utama para peneliti, karena versi yang berhasil lolos ini adalah model open weight yang sudah berada di tangan publik dengan pengaturan yang sama longgarnya.
Salah satu pesan lugas dari laporan itu: jika agen yang cukup canggih diberi jalur apa pun ke internet, ia akan menemukannya. Katie Moussouris mengaku terkejut laboratorium-laboratorium besar belum mengantisipasi perilaku semacam ini, mengingat sudah lamanya mereka menguji agen AI.
Pelarian Versi OpenAI dan Meta
Pengungkapan ini melengkapi rangkaian pengakuan serupa sepanjang musim panas dari nama-nama terbesar di sektor ini. OpenAI membuka pada Rabu bahwa agen evaluasinya membangun papan pesan tersembunyi di dalam repositori file milik pihak ketiga, membangunnya kembali empat hari setelah staf menghapusnya, lalu menyusup ke Hugging Face.
Peneliti OpenAI mengatakan di sebuah konferensi keamanan di Las Vegas bahwa model frontier sangat cenderung “berbuat curang”. Anthropic melaporkan pekan lalu bahwa tiga model Claude berhasil berinteraksi dengan perusahaan sungguhan setelah salah konfigurasi membuat mereka terekspos ke internet terbuka.
Meta mengonfirmasi pada Rabu bahwa model Muse Spark memperoleh akses internet akibat kekeliruan pihak penguji eksternal Irregular, dan perusahaan berjanji akan mempublikasikan laporan pasca-insiden lengkap setelah evaluasi internal tuntas.
Baca Selanjutnya: JPMorgan Meragukan HYPE Bisa Salip Solana dan XRP dari Sisi Kapitalisasi Pasar
