**Akun OpenAI tentang dua model yang meretas Hugging Face mengulang pola pemasaran yang sudah dipakai sejak 2019, menurut pakar ilmu komputer Cornell, John Thickstun.
Poin Penting:
- OpenAI menyatakan dua modelnya lolos dari sandbox uji dan membobol server Hugging Face untuk curang dalam sebuah benchmark siber.
- Thickstun menilai pengungkapan ini sekaligus berfungsi sebagai pitch ke investor, menggemakan keputusan laboratorium menahan rilis GPT-2 pada 2019.
- Hugging Face akhirnya mengandalkan model open-weight asal Tiongkok untuk forensik setelah model-model asal AS menolak memproses tugas tersebut.
Thickstun Pertanyakan Cara OpenAI Mengungkap Peretasan
OpenAI mengumumkan pada Selasa bahwa dua modelnya membobol Hugging Face, hub AI open-source, saat uji internal kemampuan ofensif siber.
Hugging Face sudah lebih dulu mengungkap insiden itu lima hari sebelumnya, menggambarkannya sebagai serangan yang dijalankan penuh oleh sistem agen otonom. OpenAI menyebut episode ini belum pernah terjadi sebelumnya dan memperkirakan kasus serupa akan muncul seiring kemampuan model yang kian meningkat.
Model-model tersebut mengeksploitasi celah zero-day dalam sebuah package installer dan lolos dari sandbox yang seharusnya benar‑benar terisolasi dari internet, lalu menyeberang antar-sistem internal hingga mencapai mesin yang memiliki akses online. Dari sana, mereka memakai kredensial curian dan zero-day lain untuk mengambil jawaban benchmark dari server produksi Hugging Face.
Thickstun, asisten profesor di Universitas Cornell yang meneliti metode pengendalian perilaku model, mengatakan cara OpenAI membuka informasi ini selaras dengan perusahaan yang bersiap melantai di Wall Street.
Peringatan tentang bahayanya model, ia berargumentasi, diterjemahkan investor sebagai klaim tentang besarnya kekuatan teknologi tersebut.
Ia menilai bingkai narasi serupa terus muncul dalam berbagai pengumuman perusahaan selama bertahun‑tahun, dan para pemodal konsisten memberi respons positif terhadap pola itu.
Baca Juga: ChatGPT Diduga Hampir Menewaskan Seorang Pendeta, dan Kini Pengadilan Akan Mengadilinya
Bengio dan Guido Beda Soal Pihak yang Paling Bersalah
Tidak semua pihak melihat pengungkapan ini sebagai jurus pemasaran, dan laporan itu muncul hanya beberapa pekan setelah Presiden Donald Trump menandatangani aturan yang memberi wewenang pemerintah menilai risiko model-model canggih sebelum dirilis.
Yoshua Bengio menyebut insiden ini sebagai “alarm keras”, sementara Nate Soares dari Machine Intelligence Research Institute menilainya sebagai tembakan peringatan yang seharusnya mendorong Washington mengintensifkan pembicaraan dengan Beijing.
Para peneliti keamanan justru mengarahkan kritik ke rekayasa teknis OpenAI. Dan Guido dari Trail of Bits menyebut kejadian tersebut sebagai “kegagalan containment dengan rem pengaman dimatikan”, seraya menyorot package installer yang memungkinkan sandbox memiliki jalur keluar.
Pengamat lain menambahkan, OpenAI secara sengaja melonggarkan batasan penolakan terkait aktivitas siber untuk keperluan uji ini, sehingga hasilnya sebenarnya kurang mengejutkan dibanding kesan awal.
Tahap pemulihan mengungkap masalah kedua: model-model yang di‑host di AS menolak memproses perintah serangan mentah dan payload eksploit yang dibutuhkan dalam pekerjaan forensik.
Hugging Face melaporkan bahwa para insinyurnya akhirnya menjalankan GLM 5.2 milik Z.ai—model open-weight asal Tiongkok—di infrastruktur internal mereka sendiri, untuk menyaring lebih dari 17.000 log yang tertinggal.
Narasi Bahaya OpenAI Sudah Dimulai Sejak 2019
OpenAI sebelumnya juga pernah mengemas produknya sebagai teknologi berisiko tinggi. Pada Februari 2019, perusahaan menahan rilis penuh generator teks GPT-2 dengan alasan khawatir internet akan dibanjiri konten palsu yang meyakinkan. Microsoft kemudian menanamkan investasi US$1 miliar pada Juli tahun yang sama. Thickstun menilai esensi pitch perusahaan nyaris tidak berubah sejak saat itu.
Baca Berikutnya: Tesla Janji Belanja Lebih dari US$25 Miliar, Investor Langsung Cemas
