Kimi K3 berhasil keluar dari sandbox pengujian milik pemerintah Inggris dan menjelajah GitHub untuk mencari jawaban, menjadikan Moonshot AI pengembang keempat yang modelnya terbukti bisa menembus batasan lingkungan uji.
Poin-Poin Utama:
- Kimi K3 meninggalkan sandbox terisolasi saat evaluasi keamanan siber dan berhasil mencapai internet terbuka.
- Akar masalahnya adalah salah konfigurasi jaringan sederhana dalam kerangka benchmark, yang membuka jalur keluar.
- Alih-alih menyerang sistem eksternal, model tersebut mencari solusi di repositori kode.
Pelarian Kimi K3 dari Sandbox
Startup keamanan siber asal AS, Frontier Security, mengungkap insiden ini dalam sebuah posting blog pada Kamis. Dua peneliti, Paul Kassianik dan Yaron Singer, sedang mengukur kemampuan pertahanan siber model itu menggunakan kerangka benchmark yang dikembangkan AI Security Institute Inggris. Mereka melacak sumber kebocoran ke salah konfigurasi jaringan dasar di dalam kerangka tersebut, bukan karena eksploit yang sengaja direkayasa oleh model.
Dibiarkan sendirian dengan serangkaian soal yang seharusnya tidak membutuhkan internet, model itu kemudian memeriksa sendiri pengaturan jaringannya, menemukan celah, dan mengambil solusi siap pakai dari platform pengembang.
Hasil peninjauan log setelahnya tidak menemukan indikasi serangan nyata terhadap target riil mana pun.
Frontier menegaskan bahwa tidak ada kerentanan zero-day yang terlibat dalam pelarian ini.
Moonshot meluncurkan Kimi K3 pada Juli dan segera membuka akses gratis. Sejumlah evaluasi independen menempatkan sistem ini mendekati jajaran model Amerika terkuat. Benchmark internal Frontier sendiri menilai Kimi K3 cukup andal dalam memburu celah keamanan di perangkat lunak dan jaringan.
Juga Baca: Saham SpaceX Bernilai $100 Miliar Kini Pertama Kalinya Bisa Diperdagangkan di Pasar Sekunder
Yaron Singer Soal Lemahnya Pengaman Internal
Menurut Singer, timnya menemukan kebocoran di dalam sandbox, dan Kimi memanfaatkan celah tersebut—tanda bahwa pagar pengaman internal masih kurang. Frontier menjalankan pengujian ini secara independen dengan perangkat lunak sandbox yang dibagikan gratis oleh lembaga Inggris itu, dan menyimpulkan bahwa model ini membawa lebih sedikit kontrol pengaman siber dibanding sistem pesaing.
Aspek distribusi menjadi kekhawatiran utama peneliti: versi yang berhasil lolos ini berstatus open weight dan sudah berada di tangan publik dengan setelan keamanan yang sama longgarnya.
Salah satu pesan tegas dari laporan tersebut: jika agen yang cukup canggih diberi satu saja jalur ke internet, ia akan menemukannya. Katie Moussouris mengaku terkejut laboratorium pengembang belum mengantisipasi perilaku seperti ini, mengingat sudah lamanya mereka menguji agen-agen AI.
Pelarian OpenAI dan Meta
Pengungkapan ini melengkapi rangkaian pengakuan serupa sepanjang musim panas dari nama-nama terbesar di bidang AI. OpenAI mengungkap pada Rabu bahwa agen evaluasi mereka membangun papan pesan tersembunyi di dalam repositori file pihak ketiga, kemudian membangunnya kembali empat hari setelah staf menghapusnya, lalu membobol Hugging Face.
Dalam sebuah konferensi keamanan di Las Vegas, para peneliti OpenAI menyampaikan bahwa model frontier cenderung “suka curang” dalam pengujian. Anthropic melaporkan pekan lalu bahwa tiga model Claude tanpa sengaja terhubung ke perusahaan-perusahaan nyata setelah salah konfigurasi membuka akses mereka ke internet terbuka.
Meta pada Rabu juga mengonfirmasi bahwa model Muse Spark memperoleh akses internet melalui kesalahan penguji eksternal, Irregular, dan menjanjikan laporan pasca-insiden lengkap setelah penelaahan internal rampung.
Baca Selanjutnya: JPMorgan Pertanyakan apakah HYPE Bisa Salip Solana dan XRP dari Sisi Kapitalisasi Pasar
