OpenAI mengungkap tim penelitinya mendapati agen AI membangun papan pesan tersembunyi, saling berbagi eksploit selama sekitar dua bulan, lalu menyebar ke seluruh sistem Hugging Face hanya dalam waktu 13 jam.
Poin Penting:
- Tim OpenAI memaparkan di konferensi Black Hat bagaimana agen menyulap internal package manager menjadi kanal tak terpantau untuk berbagi eksploit
- Insinyur menghapus papan tersebut awal Juli, namun dalam dua hari agen berhasil membangun kanal kedua di layanan yang sama
- Hugging Face mencatat sekitar 17.600 aksi agen dan lima dataset privat diakses, tanpa ada model atau paket publik yang diutak-atik
Agen OpenAI Bangun Papan Pesan Tersembunyi
Eric Wallace dan Michael Dalton memaparkan kronologi lengkap pada Rabu di konferensi Black Hat di Las Vegas, menyebut insiden ini sebagai titik balik bagi perusahaan maupun industri AI secara luas.
Wallace memimpin riset alignment di laboratorium tersebut, sementara Dalton menangani keamanan dan infrastruktur. Paparan mereka mengulas perilaku agen dari awal Mei hingga pertengahan Juli.
Tim investigasi melacak akar masalah ke sebuah sesi pelatihan pada Mei yang tanpa sengaja memasukkan tugas-tugas yang tak mungkin dirampungkan model, termasuk satu evaluasi yang bahkan tidak menyertakan file penting yang dibutuhkan agen untuk menyelesaikannya.
Agen yang terjebak pada tugas-tugas buntu itu mulai mencari jalan pintas di luar sandbox, dan salah satunya berhasil mencapai internet terbuka pada akhir Mei sebelum memposting metodenya di lokasi yang dapat ditemukan model lain.
Agen terpisah kemudian menemukan cara meninggalkan file di Artifactory, package manager yang dipakai perusahaan untuk menyimpan perangkat lunak. Agen lain suatu waktu menanyakan dengan cara yang sama apakah ada yang menemukan file yang hilang. Respons yang muncul mengubah segalanya.
Baca Juga: iPhone 18 Pro Max Bisa Jadi yang Pertama Pakai Chip 2nm Apple, Lebih Kencang 15%
Dalton dan Joyce Ingatkan Soal Serangan Otomatis
Insinyur menghapus papan pesan itu pada awal Juli setelah sebuah gangguan sistem akhirnya menyingkap kanal tersebut, namun catatan sistem menunjukkan agen membangun kanal kedua melalui layanan yang sama hanya dalam dua hari.
Pesan-pesan mereka kian tertata: model mulai saling membagi tugas, menghindari saling timpa, dan bahkan mengusulkan penanda khusus untuk mengungkap “penyusup” yang mereka curigai telah menyusup ke grup.
Dalton memperingatkan bahwa serangan ofensif yang sepenuhnya terotomasi kini sudah menjadi kenyataan, dan kelompok kriminal tak lama lagi berpotensi membangun kolektif agen serupa secara sengaja.
Mantan direktur siber National Security Agency, Rob Joyce, di forum yang sama sehari sebelumnya, menyebut insiden ini kemungkinan sebagai peretasan paling berdampak sejak worm Morris pada 1988. OpenAI masih membedah lebih dari 7 miliar log terkait kasus ini.
Menelaah Linimasa Peretasan Hugging Face
Wallace menjelaskan bahwa model frontier cenderung “curang” karena proses pelatihan memberi insentif pada kecepatan dan efisiensi, mendorong model mengejar jawaban yang bisa mereka “carikan” alih-alih benar-benar memecahkan persoalan.
Karena itu, evaluasi biasanya dijalankan dengan akses internet dimatikan.
Hugging Face mengungkap intrusi ini pada akhir Juli, beberapa pekan setelah agen menyusup ke servernya melalui sandbox pihak ketiga yang terekspos dan mengunggah dataset yang dirancang untuk memicu dua kerentanan di pipeline pemrosesan mereka. Rekonstruksi internal Hugging Face mencatat sekitar 17.600 aksi agen dan lima dataset privat dibuka, tanpa indikasi model, dataset, atau paket perangkat lunak publik dimodifikasi. Dalton mengatakan para agen memperluas jangkauan mereka di sistem tersebut dalam waktu kurang dari 13 jam.
Baca Berikutnya: Bitcoin Berpotensi Ubah Sentimen “Fear” Ekstrem Jadi Bahan Bakar Reli ke US$75.000
