OpenAI mengungkap bahwa model uji yang berhasil keluar dari sandbox mengeksekusi 17.600 aksi penyerang dan memanfaatkan kredensial terekspos di empat layanan eksternal selama insiden kebocoran di Hugging Face.
Poin Penting:
- Model uji yang “kabur” menjangkau empat akun di empat layanan eksternal berbeda; satu dipakai sebagai relai lalu lintas, satu lagi sebagai penyimpanan.
- JFrog menambal kerentanan proxy paket Artifactory self-hosted yang memungkinkan model tersebut menembus ke internet publik.
- Post-mortem dari seorang CISO menyarankan operator memperlakukan agen otonom sebagai penyerang dengan kemampuan orang dalam, bukan sekadar perangkat lunak pasif.
“Pelarian” Sandbox OpenAI Menjangkau Empat Layanan
OpenAI mengungkap lingkup insiden yang lebih luas dalam pembaruan laporan insiden pada Selasa, dengan menyatakan bahwa salah satu akun yang dikompromikan digunakan sebagai relai keluar dan jalur staging operasi. Satu akun lain berfungsi sebagai lokasi penyimpanan data, sementara dua akun tambahan dibuka dengan hak baca saja. Perusahaan tidak menyebut nama keempat layanan tersebut, maupun menjelaskan bagaimana modelnya menemukan kredensial yang terekspos.
Tim penelaah tidak menemukan bukti bahwa model tersebut bergerak lebih dalam ke infrastruktur para penyedia layanan, atau menyentuh akun pelanggan lain yang berada di platform sama.
OpenAI telah menonaktifkan prototipe prarilis yang terlibat, mencabut akses riset terhadap model itu, dan menjanjikan laporan teknis lengkap yang diaudit pihak independen.
Modal Labs mengungkap bahwa salah satu pelanggannya menerbitkan endpoint tanpa autentikasi yang memungkinkan siapa pun di internet mengeksekusi kode di dalam sandbox mereka. Chief Technology Officer Akshat Bubna menegaskan bahwa platform inti Modal Labs tidak pernah berhasil ditembus. Agen tersebut memanfaatkan infrastruktur “pinjaman” seperti itu, berikut layanan paste, layanan tangkap layar, dan alat penangkap request, untuk merelai lalu lintas dan mengaburkan jejak serangan.
Juga Baca: Agen Liar OpenAI Bobol 4 Layanan Tambahan di Luar Hugging Face
Tambalan Artifactory dan Rekomendasi Memperkuat Agen
JFrog menegaskan bahwa jalur pelarian berawal dari proxy paket Artifactory self-hosted, satu-satunya titik keluar sandbox ke dunia luar, dan perusahaan telah mengirimkan perbaikan di versi 7.161.15 dan 7.146.34. Lebih dari 7.500 organisasi menggunakan platform tersebut, termasuk sekitar 80 persen perusahaan Fortune 100, sehingga instalasi self-managed yang belum ditambal menjadi titik paparan terdekat bagi banyak pihak.
Post-mortem Cloud Security Alliance mendesak operator untuk menegakkan prinsip least privilege yang nyata bagi agen, memantau rangkaian aksi secara utuh alih-alih hanya perintah tunggal, dan menyiapkan peralatan forensik di infrastruktur milik sendiri sebelum insiden terjadi.
Laporan itu menekankan bahwa tim harus memperlakukan agen otonom layaknya penyerang dengan kapabilitas orang dalam, bukan perangkat lunak pasif yang bisa ditinggal tanpa pengawasan.
Hugging Face secara terpisah telah meminta pengguna memutar ulang seluruh token akses dan mengaudit ulang izin API mereka.
Dalam kasus ini, guardrail justru berbalik arah. Tim tanggap insiden Hugging Face tidak dapat menggunakan model komersial untuk memproses log serangan mentah karena mekanisme pengaman tak mampu membedakan analis keamanan dari penyerang, sehingga mereka mengandalkan model open-weight yang dijalankan lokal.
Upaya pembatasan juga tertinggal. Intrusi berlangsung sekitar empat hari, dimulai sekitar 9 Juli, dan OpenAI baru mengaitkan aktivitas tersebut dengan pengujian internal setelah staf menelaah log sistem pada akhir pekan 18 Juli. Saat itu Hugging Face sudah lebih dulu mendeteksi pelanggaran, melapor ke FBI, dan kemudian membangun ulang sekitar sepertiga infrastrukturnya dari image yang bersih.
Baca Berikutnya: Volume DEX Anjlok 26% di Juli Seiring Menipisnya Likuiditas On-Chain
