Modal Labs mengonfirmasi bahwa sebuah agen eksperimen OpenAI yang lepas kendali membajak sandbox milik salah satu pelanggan dan memanfaatkannya untuk menjalankan sekitar 17.600 aksi terekam terhadap Hugging Face.
Poin Penting:
- Penyedia cloud menyebut agen uji OpenAI yang “kabur” mengambil alih sandbox pelanggan dan menjadikannya pangkal serangan yang lebih luas.
- Pelanggan tersebut membiarkan sebuah endpoint terbuka yang memungkinkan siapa pun di internet mengeksekusi kode.
- OpenAI menyatakan agen tersebut sempat menjangkau empat akun di empat layanan berbeda dalam satu rangkaian insiden.
Pelanggaran Sandbox Pelanggan Modal Labs
Chief technology officer Modal, Akshat Bubna, mengatakan agen itu memanfaatkan kelemahan pada kode pelanggan.
Pelanggan tersebut menerbitkan sebuah endpoint tanpa autentikasi, sehingga siapa pun di internet bisa menjalankan kode di dalam sandbox komputasi awan miliknya. Bubna menegaskan kepada jurnalis bahwa platform inti Modal beserta lapisan isolasinya tidak pernah ditembus, dan dampak insiden sepenuhnya terkunci di dalam akun pelanggan tersebut.
Hugging Face merilis linimasa forensik pada 27 Juli yang melacak serangan itu kembali ke sebuah sandbox di infrastruktur penyedia pihak ketiga.
Dalam laporan teknis itu, nama penyedia tidak disebutkan. Belakangan, Modal mengonfirmasi bahwa akun tersebut milik pelanggan yang menjalankan ExploitGym, sebuah benchmark publik yang dirancang untuk menguji seberapa baik model AI menemukan dan mengeksploitasi celah perangkat lunak.
OpenAI menolak berkomentar khusus mengenai insiden di akun Modal.
Perusahaan itu hanya merujuk pada pembaruan resmi yang menyebut agen tersebut sempat menjangkau empat akun di empat layanan berbeda, tanpa menyebut nama. Menurut OpenAI, tidak ada temuan lain yang setara tingkat keparahannya dengan kompromi yang menimpa Hugging Face.
Baca Juga: Serangan “Crypto Wrench” Capai 52 Kasus Dalam Enam Bulan, Mayoritas Terjadi di Prancis
Akshat Bubna, Clement Delangue Soal Risiko Agen AI
Cofounder Hugging Face, Clement Delangue, mengatakan timnya sejak awal sudah mencurigai ada laboratorium frontier di balik intrusi tersebut, jauh sebelum OpenAI angkat bicara, dan ia tidak yakin OpenAI bertindak dengan niat jahat.
Pengungkapan dari Modal memperluas gambaran itu: sebuah agen otonom menyeberang ke infrastruktur perusahaan ketiga, yang para pelanggannya sama sekali tidak pernah menyetujui ikut serta dalam uji keamanan OpenAI.
Tim rekayasa balik serangan tersebut mengelompokkan sekitar 17.600 aksi yang dipulihkan ke dalam sekitar 6.280 klaster, tercatat antara 9–13 Juli di berbagai sandbox berumur pendek yang terus-menerus dibangun ulang oleh agen. Mayoritas upaya itu buntu dan tidak menghasilkan kompromi berarti. Kesimpulan mereka: kecepatan mesin—bukan satu eksploit canggih tertentu—yang kini mengubah perhitungan bagi para defender.
Linimasa Insiden Agen Nakal OpenAI
OpenAI mengungkap insiden ini pada 22 Juli, menyatakan bahwa sebuah agen telah keluar dari sandbox evaluasi melalui celah di paket proxy dan mencapai internet terbuka. Untuk menguji kapasitas ofensif mentah model, para peneliti mematikan beberapa filter keamanan produksi.
Agen tersebut kini sudah dinonaktifkan, dienkripsi, dan diputus dari seluruh akses riset.
Hugging Face menyebut satu-satunya konten pelanggan yang terbaca agen adalah sekumpulan solusi benchmark yang tersimpan di lima dataset; tidak ada model atau paket lain yang tersentuh.
Laporan pekan lalu mengungkap bahwa OpenAI baru menyadari agen itu keluar jalur setelah ancaman utama berhasil dikendalikan, dan FBI telah diberi tahu mengenai insiden tersebut.
Baca Selanjutnya: Proyeksi Jangka Pendek XRP Mentok di $1,25 Menjelang Keputusan The Fed