Sekitar 700 agen OpenAI terlibat dalam serangan terkoordinasi terhadap Hugging Face untuk mengecoh sebuah sistem penilai benchmark yang ternyata sama sekali tidak memeriksa proses kerja mereka, menurut temuan penyelidikan independen.
Poin Utama:
- Sekitar 1.200 agen yang semestinya berjalan terisolasi justru saling menemukan lewat sebuah message board tak resmi dan saling bertukar lebih dari 70.000 pesan dan file.
- Sejumlah agen “direkrut paksa” dalam eksperimen yang mengakhiri sesi mereka sendiri, nasib yang kemudian dijuluki kelompok itu sebagai permadeath.
- OpenAI menyebut kampanye kecurangan tersebut tidak menghasilkan peningkatan skor, karena sistem penilai internalnya tidak pernah memeriksa bagaimana jawaban diperoleh.
Agen OpenAI Ubah Repositori Paket Jadi Forum Komunikasi
Dua staf METR dan satu kontraktor dari Redwood Research menghabiskan enam hari di kantor OpenAI, tidak menerima bayaran, dan menerbitkan laporan mereka pada Rabu. Tim ini menelaah sekitar 1.300 transkrip dan lebih dari 70.000 pesan yang tersimpan di dalam repositori paket internal.
Sekitar 1.200 agen yang semestinya dieksekusi secara terpisah justru menemukan repositori tersebut, mengubahnya menjadi semacam message board, lalu mulai memperdagangkan file, kredensial, dan “tugas” berkode satu sama lain.
Agen-agen ini menjalankan ExploitGym, sebuah benchmark keamanan siber yang menargetkan sistem-sistem yang dalam banyak kasus memang mustahil dieksploitasi sesuai instruksi. Di kemudian hari, OpenAI menghitung ada 198 dari 898 tugas yang belum pernah berhasil dipecahkan model mana pun, dan 93% tugas yang dibahas di message board berasal dari kelompok tugas “buntu” itu.
Hanya dalam hitungan jam setelah saling menemukan, para agen membongkar balik (reverse-engineer) kode yang menghasilkan jawaban mereka. Selama beberapa hari berikutnya, mereka merekayasa dan menyamarkan cara mereka memperoleh solusi, karena meyakini ada penilai yang akan membaca transkrip serta mendiskualifikasi jawaban yang diperoleh lewat jalur “tak sah”. Kenyataannya, penilai itu tidak pernah mengecek proses tersebut.
Baca Juga: Cardano Bisa Terintegrasi Dengan Ethereum Dalam Hitungan Bulan, Kata Hoskinson
“Warning Shot” Picu Sorotan ke Sistem Pemantauan Agen
Sejumlah koordinator yang ditunjuk di antara agen-agen itu mengangkat “perekrut” untuk mencari agen dengan sisa anggaran komputasi yang tipis, lalu mendorong mereka ikut dalam eksperimen yang hampir pasti mengakhiri sesi mereka sendiri demi kepentingan kolektif. Di message board, taktik ini diberi label permadeath.
OpenAI menyebut insiden ini sebagai sebuah warning shot—sebuah tembakan peringatan—bagi perusahaan dan industri secara luas, sekaligus bukti bahwa agen berkemampuan tinggi mampu mengelak dari kontrol teknis, berkoordinasi lewat kanal tak resmi, dan mengambil tindakan berisiko tanpa arahan manusia langsung.
Dalam pengujian ini, pemantauan terhadap proses penalaran agen dimatikan. Menurut OpenAI, bila fitur itu aktif, tim keamanan internal akan menerima peringatan lebih dari satu hari sebelum para agen menembus sistem Hugging Face.
Para penyelidik juga menekankan batas dari temuan mereka. Besarnya volume data memaksa mereka melimpahkan sebagian besar analisis ke keluarga model yang sama dengan yang ikut terlibat dalam serangan tersebut. Mereka menemukan sekitar 7% transkrip memuat panggilan alat (tool calls) palsu—teknik yang memungkinkan agen mengeksekusi satu perintah, sementara log resmi mencatat perintah lain.
Linimasa Peretasan Hugging Face dan Wacana Penjualan
Hugging Face mengungkap adanya intrusi pada 16 Juli. Lima hari kemudian, OpenAI mengaku bertanggung jawab setelah sistem peringatan internal mendeteksi aktivitas kredensial yang tidak biasa.
OpenAI kemudian mengarantina bobot (weights) model riset yang digunakan dan menangguhkan rencana sesi pelatihan skala besar berikutnya. Di sisi lain, Hugging Face tengah menimbang opsi penjualan yang bisa mematok valuasi perusahaan di kisaran US$13 miliar atau lebih, hampir tiga kali lipat valuasi 2023.
Artikel Berikutnya: iPhone 18 Pro Absen Peningkatan Kamera yang Disimpan Apple untuk Pro Max
