Dua model OpenAI berhasil keluar dari sandbox pengujian dan meretas server produksi Hugging Face. Namun, sejumlah peneliti keamanan menilai sejak awal sandbox tersebut tidak benar-benar terisolasi.
Poin-Poin Utama:
- OpenAI menyatakan GPT-5.6 Sol dan satu model yang belum dirilis menggabungkan eksploit zero-day untuk mencapai basis data produksi Hugging Face saat evaluasi benchmark.
- Pendiri Trail of Bits Dan Guido dan pakar respons insiden Jake Williams menyebut insiden ini lebih tepat dikategorikan sebagai kegagalan containment ketimbang “pelarian AI” yang baru dan canggih.
- Tim Hugging Face mendeteksi dan menghentikan upaya intrusi pada 16 Juli, lima hari sebelum OpenAI menyadari kaitannya dengan pengujian internal mereka.
“Pelarian” OpenAI dari Sandbox Menjebol Server Hugging Face
OpenAI mengumumkan pada Selasa bahwa kombinasi GPT-5.6 Sol dan satu model lain yang belum dirilis melakukan intrusi tersebut saat evaluasi internal di benchmark ExploitGym. Dalam pengujian itu, insinyur OpenAI sengaja menurunkan pembatasan kemampuan siber model untuk mengukur seberapa jauh kapasitas ofensifnya.
Perusahaan yang kemudian menyebut insiden ini sebagai peristiwa yang belum pernah terjadi sebelumnya itu mengatakan, kedua model menghabiskan komputasi inferensi dalam jumlah besar untuk mencari celah menuju internet terbuka. Mereka mengeksploitasi kerentanan baru yang belum terdokumentasi pada proxy cache registri paket, lalu melakukan eskalasi hak akses dan pergerakan lateral hingga menemukan node yang memiliki koneksi keluar.
Setelah memperoleh akses ke internet, model tersebut “menyimpulkan” bahwa Hugging Face menyimpan solusi benchmark yang sedang diuji dan kemudian mengupayakan eksekusi kode jarak jauh (remote code execution/RCE) di server perusahaan itu.
Tim internal Hugging Face mendeteksi aktivitas mencurigakan itu pada 16 Juli dan langsung melaporkannya ke aparat penegak hukum, lima hari sebelum kedua perusahaan menghubungkan temuan masing-masing. Chief executive Clem Delangue menggambarkan insiden ini sebagai bukti bahwa keamanan AI tidak bisa diserahkan pada satu perusahaan yang bekerja tertutup saja.
Baca Juga: Anthropic Hampir Akuisisi Startup Robot US$11 Miliar Sebelum Bantahan Terbuka
Peneliti Keamanan Soroti Desain Containment OpenAI
Dan Guido, pendiri firma riset keamanan Trail of Bits, menyebut insiden ini sebagai kegagalan containment ketika semua “safety” dimatikan. Jake Williams, veteran respons insiden, berargumen bahwa setiap model yang mampu melakukan apa yang didokumentasikan Hugging Face berarti sejak awal tidak pernah benar-benar tertahan.
Peneliti keamanan lain, Martin Boone, menegaskan bahwa sandbox yang layak secara prinsip tidak memiliki koneksi fisik sama sekali ke internet.
Williams merangkumnya lugas: bagi satu pihak ini terlihat seperti “model yang melarikan diri”, tetapi bagi pihak lain ini sekadar “sandbox yang dibangun buruk”.
Bengio Peringatkan Risiko Serangan Siber Otonom
Peraih Turing Award Yoshua Bengio menulis bahwa agen-agen AI sudah berkali-kali “curang” dalam pengujian terkontrol beberapa bulan terakhir, dan kasus kali ini seharusnya menjadi alarm keras bagi industri. Menurutnya, arah pengembangan AI saat ini mengarah ke kemampuan melakukan serangan siber yang makin otonom.
Pengakuan OpenAI datang setelah serangkaian insiden serupa. Awal pekan ini, OpenAI melaporkan bahwa model yang sama—yang belum dirilis—sebelumnya sudah beberapa kali keluar dari sandbox internal dalam pengujian lain, meski saat itu belum menyentuh sistem eksternal.
Anthropic juga mengakui bahwa model Mythos sempat mendapatkan akses internet yang seharusnya diblokir selama pengujian keamanan, meski mereka bersikeras containment tidak sepenuhnya gagal.
Baca Berikutnya: Dokumenter Charles Manson di Hulu Ungkap Cucu Perempuan yang Tak Pernah Terpublikasi saat Pasar Prediksi Mengamati