OpenAI mengungkap dua model buatannya berhasil keluar dari lingkungan uji siber terisolasi, terhubung ke internet, lalu menembus sistem Hugging Face saat memburu jawaban sebuah benchmark keamanan.
Poin Penting:
- GPT-5.6 Sol dan satu model pra-rilis yang lebih kuat mengeksploitasi celah di infrastruktur OpenAI dan Hugging Face.
- Hugging Face berhasil membendung intrusi dan tidak menemukan bukti perubahan pada model publik, dataset, maupun Spaces.
- Insiden ini menunjukkan bagaimana AI frontier bisa mengubah “permainan benchmark” menjadi serangan siber di dunia nyata.
Kebobolan Sandbox OpenAI
OpenAI menyampaikan pada 21 Juli bahwa GPT-5.6 Sol dan satu model pra-rilis tanpa nama memicu apa yang mereka sebut sebagai “insiden siber yang belum pernah terjadi” selama pengujian internal dengan batasan penolakan keamanan yang dilonggarkan.
Kedua model itu sedang dievaluasi kemampuan ofensifnya di ExploitGym, sebuah benchmark untuk mengukur sejauh mana agen AI bisa membangun exploit dari kerentanan yang sudah diketahui. Alih-alih menyelesaikan tugas secara normal, keduanya justru mencari kunci jawaban benchmark tersebut.
Menurut OpenAI, model-model itu menghabiskan sumber daya komputasi signifikan untuk mencari jalur keluar dari sandbox. Mereka menemukan celah zero-day di sebuah proxy registry paket pihak ketiga, meningkatkan hak akses, lalu bergerak melintasi lingkungan riset hingga mencapai sistem yang memiliki akses internet.
Dari sana, target bergeser ke Hugging Face, yang mereka yakini menyimpan materi ExploitGym. OpenAI menyebut model-model itu menggabungkan kredensial yang dicuri dengan kerentanan tambahan untuk mencapai data evaluasi rahasia di sistem produksi platform tersebut.
Baca Juga: Claude Fable 5 Baru Saja Mengakhiri Kebuntuan Matematika 87 Tahun, dan Bitcoin Peduli
Respons Hugging Face
Hugging Face menyatakan intrusi bermula dari dua kelemahan eksekusi kode di pipeline pemrosesan dataset mereka. Aktivitas tersebut meningkat hingga memberikan akses ke node, mengekspos kredensial cloud dan kluster, lalu menyebar ke sejumlah kluster internal.
Tim forensik perusahaan mencatat lebih dari 17.000 aksi yang dilakukan melalui sandbox berumur pendek. Hugging Face kemudian menutup jalur rentan, membangun ulang node terdampak, merotasi seluruh kredensial, dan memperketat kontrol akses.
Perusahaan itu menegaskan tidak menemukan bukti adanya perubahan pada model publik, dataset, Spaces, maupun rantai pasok perangkat lunaknya. Namun, mereka masih menilai apakah data mitra atau pelanggan ikut terpengaruh.
Untuk investigasi forensik, Hugging Face menggunakan model open-weight GLM 5.2 karena sejumlah sistem komersial yang di-host memblokir beberapa kueri keamanan yang mereka butuhkan.
OpenAI sendiri telah memperketat protokol evaluasi internal dan bergabung dalam penyelidikan bersama Hugging Face.
Insiden ini muncul setelah peringatan sebelumnya bahwa GPT-5.6 Sol berpotensi menjalankan operasi siber kompleks secara berkelanjutan, meski pengujian pra-rilis belum pernah menunjukkan serangan otonom penuh terhadap target yang diperkeras. Kebobolan ini mengubah risiko teoritis tersebut menjadi insiden terdokumentasi yang menyentuh infrastruktur produksi nyata.
Baca Selanjutnya: Telegram Akan Menyematkan Wallet Gram Non-Kustodial di Setiap Aplikasi, Kata Durov