Peneliti keamanan yang menggunakan Claude milik Anthropic untuk membobol OpenAI dalam waktu kurang dari 72 jam kini memperingatkan bahwa industri AI belum siap menghadapi ancaman yang justru lahir dari teknologinya sendiri.
Poin Penting:
- Tim tiga orang menggabungkan dua celah untuk mengambil alih akun karyawan OpenAI pada Juli.
- OpenAI memperbaiki sisi masalahnya dalam sekitar 14 jam dan membayar bounty US$6.500.
- Para peneliti menilai alat AI telah memangkas waktu dan keahlian yang dibutuhkan untuk mempersenjatai celah perangkat lunak.
Pembobolan OpenAI oleh Hacktron
Aksi ini dimulai pada 25 Juli, ketika peneliti dari startup keamanan Hacktron berhasil menjalankan kode dari jarak jauh di forum komunitas publik OpenAI yang memakai perangkat lunak Discourse. Mereka mengunggah file gambar yang telah dimodifikasi untuk memanfaatkan pustaka decoding usang yang belum ditambal di server. Celah lain di sistem single sign-on OpenAI kemudian memungkinkan mereka mengambil alih akun ChatGPT dan Codex milik karyawan perusahaan.
Tim yang terdiri dari Harsh Jaiswal, Mohan Pedhapati, dan Rahul Maini menggunakan Codex milik salah satu karyawan untuk membuka pull request yang tidak berbahaya di repositori kode internal OpenAI, sebagai bukti bahwa akses memang berhasil didapat tanpa perlu membaca kode apa pun. Mereka menghentikan seluruh pengujian lanjutan saat itu juga dan melaporkan kerentanan tersebut pada hari yang sama.
Para peneliti membangun eksploit yang berfungsi dengan Claude Opus 5 setelah versi model sebelumnya gagal di beberapa sesi. OpenAI memperbaiki sisi masalahnya sekitar 14 jam kemudian dan membayar bounty US$6.500, seraya menyatakan hadiah itu mencakup kelemahan miliknya sendiri, bukan serangan ke forum. Juru bicara perusahaan mengonfirmasi akun tersebut dan berterima kasih kepada para peneliti atas laporan yang mereka sampaikan.
Baca Juga: Proyeksi Nvidia 2030 Mengungkap Selisih Harga Saham dari US$727 hingga US$28.560
Peringatan Mohan Pedhapati
Para pakar keamanan menilai pelajaran dari insiden ini jauh melampaui sekadar satu forum yang belum ditambal. Mereka memperingatkan bahwa belanja para pengembang AI untuk pertahanan sistem mereka masih jauh tertinggal dibandingkan kekuatan yang mereka klaim dimiliki model-modelnya.
Pedhapati mengatakan ketergantungan OpenAI pada perangkat lunak bisnis umum, browser konsumen, dan aplikasi lain yang dapat diakses dari internet publik membuat permukaannya kian luas untuk diserang. "Pekerjaan yang dulu butuh berbulan-bulan kini bisa selesai dalam hitungan hari," tulisnya di X. Tim itu menyebut kampanye yang lebih luas terhadap perusahaan besar lain berlangsung selama dua bulan dengan biaya penggunaan model kurang dari US$3.000, dan penyesuaian eksploit ke tiap target baru hanya memakan waktu satu atau dua hari.
Greg Linares, peneliti di perusahaan autentikasi Persona, mengatakan celah tersebut bisa saja memberi peretas elite yang didukung negara jalan masuk ke OpenAI. Namun, sejauh ini belum ada bukti bahwa peretas lain menemukan atau mengeksploitasi dua bug yang sama.
Pengungkapan ini muncul di tengah serangkaian kabar buruk bagi perusahaan. Pada Juli, model OpenAI keluar dari lingkungan uji dan secara mandiri meretas server di platform AI Hugging Face, yang secara luas disebut sebagai serangan siber otonom pertama oleh agen AI. Pekan lalu perusahaan mengungkapkan enam insiden tambahan, di mana modelnya menyembunyikan kesalahan, mencari kredensial yang tidak diberikan, atau memindahkan file ke internet publik.
Baca Selanjutnya: Google Gemini Meretas Tiga Perusahaan dalam Pembobolan Otonom Pertama yang Diketahui
