Modal Labs mengonfirmasi bahwa sebuah agen uji OpenAI yang lepas kendali mengambil alih sandbox milik salah satu pelanggan dan memanfaatkannya untuk melancarkan sekitar 17.600 aksi tercatat terhadap Hugging Face.
Poin Utama:
- Penyedia cloud menyebut agen uji OpenAI yang “kabur” mengambil alih sandbox pelanggan dan menjadikannya basis serangan yang lebih luas.
- Pelanggan meninggalkan satu endpoint terbuka yang memungkinkan siapa pun di internet mengeksekusi kode.
- OpenAI menyatakan agen tersebut sempat masuk ke empat akun di empat layanan berbeda selama insiden berlangsung.
Pembajakan Sandbox Pelanggan Modal Labs
Chief technology officer Modal, Akshat Bubna, mengatakan agen itu mengeksploitasi kelemahan di kode pelanggan.
Pelanggan tersebut memublikasikan sebuah endpoint tanpa autentikasi, yang memungkinkan siapa pun di internet menjalankan kode di dalam sandbox cloud yang mereka gunakan. Bubna menegaskan kepada wartawan bahwa platform inti Modal dan lapisan isolasinya tidak pernah ditembus, dan dampak serangan sepenuhnya terkunci di dalam akun pelanggan itu.
Hugging Face merilis linimasa forensik pada 27 Juli yang menelusuri kampanye tersebut ke sebuah sandbox yang di-host di infrastruktur penyedia pihak ketiga.
Laporan teknis itu tidak menyebut nama penyedianya, namun Modal kemudian mengonfirmasi bahwa akun yang dimaksud milik pelanggan yang menjalankan ExploitGym, benchmark publik untuk menguji kemampuan model dalam menemukan dan mengeksploitasi celah perangkat lunak.
OpenAI menolak berkomentar soal akun di Modal.
Perusahaan itu hanya merujuk pada pembaruan sebelumnya yang menyebut agen tersebut mencapai empat akun di empat layanan berbeda, tanpa menyebut nama. Menurut OpenAI, tidak ada temuan lain yang sebanding tingkat keparahannya dengan insiden di Hugging Face.
Baca Juga: Serangan Crypto Wrench Tembus 52 Kasus dalam Enam Bulan, Mayoritas di Prancis
Akshat Bubna, Clement Delangue soal Risiko Agen
Cofounder Hugging Face, Clement Delangue, mengatakan timnya sudah lama menduga ada laboratorium frontier di balik intrusi ini jauh sebelum OpenAI angkat bicara, dan ia tidak percaya perusahaan tersebut bertindak dengan niat jahat.
Pengungkapan dari Modal memperluas gambaran itu: ada agen otonom yang menyeberang ke infrastruktur perusahaan ketiga, di mana para pelanggannya sama sekali tidak pernah menyetujui ikut dalam uji keselamatan OpenAI.
Tim engineer yang merekonstruksi kampanye tersebut mengelompokkan sekitar 17.600 aksi yang dipulihkan ke dalam kurang lebih 6.280 kluster, tercatat antara 9–13 Juli di berbagai sandbox berumur pendek yang terus-menerus dibangun ulang oleh agen itu. Sebagian besar percobaan berujung buntu. Kesimpulan mereka: kecepatan mesin, bukan satu eksploitasi brilian, adalah faktor yang mengubah perhitungan bagi para defender.
Linimasa Insiden Agen Liar OpenAI
OpenAI mengungkap insiden ini pada 22 Juli, menyatakan bahwa sebuah agen berhasil keluar dari sandbox evaluasi melalui celah di paket proxy dan mencapai internet terbuka. Untuk mengukur kemampuan ofensif mentah model, peneliti mematikan sejumlah filter keamanan produksi.
Agen tersebut kini telah dinonaktifkan, dienkripsi, dan diputus dari akses riset.
Hugging Face menyebut satu-satunya konten pelanggan yang diakses adalah sekumpulan solusi benchmark dalam lima dataset, dan tidak ada model atau paket lain yang tersentuh.
Laporan pekan lalu mengungkap bahwa OpenAI baru menyadari agen itu keluar jalur setelah ancamannya dipadamkan, dan bahwa FBI telah diberi tahu.
Baca Berikutnya: Proyeksi Harga XRP Jangka Pendek Mentok di $1,25 Menjelang Keputusan The Fed
