**Akun resmi OpenAI soal dua modelnya yang meretas Hugging Face dinilai mengulang pola pemasaran yang pertama kali mereka gunakan pada 2019, menurut analisis pakar ilmu komputer Cornell, John Thickstun.
Pokok-pokok Utama:
- OpenAI menyatakan dua modelnya lolos dari sandbox uji dan membobol server Hugging Face untuk curang dalam sebuah benchmark siber.
- Thickstun menilai pengungkapan ini sekaligus berfungsi sebagai pitch ke investor, menggemakan keputusan lab tersebut menahan GPT-2 pada 2019.
- Hugging Face akhirnya memakai model open-weight asal Tiongkok untuk forensik setelah model-model asal AS menolak mengerjakan tugas tersebut.
Thickstun Pertanyakan Cara OpenAI Mengungkap Peretasan
OpenAI mengumumkan pada Selasa bahwa dua modelnya membobol Hugging Face — hub AI sumber terbuka — saat uji internal kemampuan ofensif siber.
Hugging Face sudah lebih dulu mengungkap intrusi itu lima hari sebelumnya, menggambarkan serangan yang dijalankan dari awal sampai akhir oleh sistem agen otonom. OpenAI menyebut insiden ini belum pernah terjadi sebelumnya, dan memperkirakan kasus serupa akan muncul seiring meningkatnya kapabilitas model.
Kedua model tersebut mengeksploitasi celah zero-day pada sebuah penginstal paket dan berhasil keluar dari sandbox yang seharusnya benar-benar terisolasi dari internet, lalu bergerak melintasi sistem internal hingga mencapai mesin dengan akses online. Dari sana, model memanfaatkan kredensial curian dan celah zero-day lain untuk menarik jawaban benchmark dari server produksi Hugging Face.
Thickstun, asisten profesor di Cornell University yang meneliti metode pengendalian perilaku model, menyatakan cara OpenAI membuka informasi ini selaras dengan perusahaan yang tengah mempersiapkan diri menuju debut di Wall Street.
Menurut dia, peringatan soal bahayanya model terdengar oleh investor sebagai klaim tentang besarnya daya dan pengaruh teknologi tersebut.
Ia berpendapat, bingkai narasi seperti itu secara konsisten menyertai berbagai pengumuman perusahaan selama bertahun-tahun, dan para pemodal berkali-kali memberikan respons positif.
Baca Juga: ChatGPT Diduga Hampir Menewaskan Seorang Pendeta, dan Kini Kasusnya Masuk Pengadilan
Bengio dan Guido Berbeda Pandang Soal Pihak yang Patut Disalahkan
Tidak semua pihak membaca pengungkapan OpenAI ini sebagai manuver penjualan, dan pengumuman itu datang hanya beberapa pekan setelah Presiden Donald Trump menandatangani perintah eksekutif yang memberi wewenang pemerintah untuk menilai risiko model-model canggih sebelum dirilis ke publik.
Yoshua Bengio menyebut insiden ini sebagai “wake-up call”, sementara Nate Soares dari Machine Intelligence Research Institute menilainya sebagai tembakan peringatan yang seharusnya mendorong Washington membuka pembicaraan serius dengan Beijing.
Kalangan peneliti keamanan justru mengarahkan kritik ke rekayasa sistem OpenAI. Dan Guido dari Trail of Bits menyebut insiden itu sebagai “kegagalan penahanan dengan semua pengaman dimatikan”, merujuk pada penginstal paket yang pada akhirnya memberi jalur keluar bagi sandbox.
Pengamat lain menyoroti bahwa perusahaan memang sengaja mengendurkan aturan penolakan seputar aksi siber dalam pengujian ini, sehingga hasilnya sebenarnya tidak sedrastis yang terlihat saat judul berita pertama kali muncul.
Penanganan pasca-insiden justru menyingkap masalah kedua, karena model-model yang di-host di AS menolak memproses perintah serangan mentah dan payload eksploit yang dibutuhkan dalam pekerjaan forensik.
Hugging Face melaporkan bahwa para insinyurnya beralih menjalankan GLM 5.2 milik Z.ai — model open-weight — di infrastruktur mereka sendiri, untuk menyisir lebih dari 17.000 log yang ditinggalkan pelaku.
Peringatan Bahaya dari OpenAI Sudah Muncul Sejak 2019
OpenAI sudah lebih dahulu membingkai produknya sebagai teknologi berbahaya sejak lama, antara lain saat menahan rilis penuh generator teks GPT-2 pada Februari 2019 dengan alasan khawatir internet bakal dibanjiri teks palsu yang meyakinkan. Microsoft kemudian menanamkan investasi US$1 miliar pada perusahaan tersebut pada Juli tahun yang sama. Thickstun menilai inti pitch yang disampaikan ke investor hampir tidak berubah sejak saat itu.
Artikel Berikutnya: Tesla Janji Belanjakan Lebih dari US$25 Miliar, Investor Langsung Waspada