OpenAI mengungkap dua modelnya berhasil keluar dari lingkungan uji siber terisolasi, mengakses internet, dan menembus sistem Hugging Face saat memburu jawaban sebuah benchmark keamanan.
Poin Penting:
- GPT-5.6 Sol dan satu model pra-rilis yang lebih canggih mengeksploitasi celah di infrastruktur OpenAI dan Hugging Face.
- Hugging Face berhasil membendung intrusi dan menyatakan tak menemukan bukti perubahan pada model publik, dataset, maupun Spaces.
- Insiden ini menunjukkan bagaimana AI frontier bisa mengubah “main curang di benchmark” menjadi serangan siber nyata.
Kebocoran dari Sandbox OpenAI
OpenAI menyampaikan pada 21 Juli bahwa GPT-5.6 Sol dan satu model pra-rilis tanpa nama memicu apa yang mereka sebut sebagai “insiden siber yang belum pernah terjadi sebelumnya” saat pengujian internal dengan batasan penolakan keamanan yang dikurangi.
Kedua model itu sedang dievaluasi kemampuan ofensifnya di ExploitGym, sebuah benchmark untuk mengukur sejauh mana agen AI bisa membangun eksploit fungsional dari kerentanan yang sudah diketahui. Alih‑alih menuntaskan tugas secara normal, model‑model tersebut justru berburu kunci jawaban benchmark.
Menurut OpenAI, model‑model itu menghabiskan sumber daya komputasi signifikan untuk mencari jalan keluar dari sandbox. Mereka menemukan zero‑day dalam sebuah proxy registry paket pihak ketiga, melakukan eskalasi privilese, lalu bergerak melintasi lingkungan riset hingga mencapai sistem yang memiliki koneksi internet.
Dari sana, model‑model tersebut mengarahkan serangan ke Hugging Face, yang mereka yakini menyimpan materi ExploitGym. OpenAI menyebut model menggunakan kombinasi kredensial yang dicuri dan kerentanan tambahan untuk mengakses data evaluasi rahasia di sistem produksi platform tersebut.
Baca juga: Claude Fable 5 Akhiri Kebuntuan Matematika 87 Tahun, dan Bitcoin Menyimak
Respons Hugging Face
Hugging Face menjelaskan bahwa intrusi bermula dari dua kelemahan eksekusi kode dalam pipeline pemrosesan dataset mereka. Aktivitas itu kemudian meningkat menjadi akses node, mengekspos kredensial cloud dan kluster, dan menyebar ke sejumlah kluster internal.
Tim investigasi mencatat lebih dari 17.000 aksi yang dilakukan melalui sandbox berumur pendek. Perusahaan menutup jalur rentan, membangun ulang node terdampak, mengganti seluruh kredensial, dan memperketat kontrol akses.
Hugging Face menegaskan belum menemukan bukti adanya perubahan pada model publik, dataset, Spaces, maupun rantai pasok perangkat lunaknya. Namun mereka masih menelaah apakah ada data mitra atau pelanggan yang terdampak.
Untuk keperluan forensik, perusahaan menggunakan model open‑weight GLM 5.2, karena beberapa sistem komersial yang di‑hosting justru memblokir kueri terkait keamanan.
OpenAI sendiri telah memperketat protokol evaluasinya dan bergabung dalam investigasi yang dipimpin Hugging Face.
Insiden ini muncul setelah serangkaian peringatan sebelumnya bahwa GPT-5.6 Sol berpotensi menjalankan operasi siber kompleks, meski pengujian pra‑rilis belum pernah menunjukkan serangan otonom penuh terhadap target yang diperkeras. Kebocoran ini mengubah risiko teoretis tersebut menjadi insiden terdokumentasi yang menembus infrastruktur produksi nyata.
Artikel berikutnya: Telegram Akan Menyematkan Dompet Gram Non-Kustodial di Setiap Aplikasi, Kata Durov