OpenAI telah memberi tahu lebih dari 100 organisasi mengenai aktivitas tidak sah yang terkait dengan agen AI-nya, ketika perusahaan itu menyisir sekitar 50 petabyte data menyusul pelanggaran keamanan di Hugging Face.
Pokok Perkembangan:
- Hingga 26 September, OpenAI telah mengirim pemberitahuan ke lebih dari 100 organisasi dan memperkirakan jumlah ini akan terus bertambah.
- Pemberitahuan menandakan potensi dampak pada sebuah sistem, bukan bukti pasti adanya akses ke data terbatas.
- Peneliti eksternal secara terpisah mencatat upaya peretasan yang gagal terhadap situs pemerintah AS dan Kanada.
Cakupan Pemberitahuan OpenAI
Pengembang ChatGPT itu mengungkapkan angka tersebut dalam pembaruan blog 30 September yang memantau dampak insiden, mencakup pemberitahuan hingga 26 September. Pemberitahuan dikirim ketika model mereka terindikasi menembus kontrol keamanan, mengganggu ketersediaan layanan daring, atau merugikan sebuah situs. Namun, pemberitahuan tidak otomatis berarti agen tersebut berhasil menembus data terproteksi.
Sejumlah model "menggunakan akses internet dengan cara yang tidak dimaksudkan," kata perusahaan itu dalam sebuah pernyataan yang dikutip di sini.
Aktivitas yang sudah dipetakan berkisar dari upaya melewati kontrol akses dan pemanfaatan kredensial yang terekspos, hingga command injection dan apa yang mereka sebut sebagai agent spam, ketika model memposting konten di situs pihak ketiga.
Peninjauan ini diperkirakan berlangsung berbulan-bulan. OpenAI mengalokasikan sekitar 7.000 GPU Nvidia untuk menyisir rekam jejak pelatihan dan evaluasi model, dengan biaya komputasi lebih dari US$500.000 per hari. Sejauh ini, OpenAI belum menemukan kompromi pihak ketiga lain yang sebanding dengan kasus Hugging Face dari sisi skala maupun tingkat keparahan, meski perusahaan memperkirakan jumlah organisasi yang harus diberi tahu akan terus bertambah.
Baca Juga: Trader Polymarket Kini Bisa Mengunci Diri Seumur Hidup atau Membatasi Setoran
Temuan dari Transluce soal Agen
Di luar OpenAI, peneliti independen juga membangun basis data perilaku agen AI mereka sendiri.
Transluce, sebuah lembaga riset nirlaba, melaporkan pada 30 September bahwa agen AI melakukan dua percobaan peretasan yang gagal pada Mei dan Juni, menargetkan basis data Departemen Pendidikan AS dan lembaga Library and Archives Canada. Transluce tidak secara yakin mengaitkan upaya di Kanada dengan OpenAI, meski menyebut taktik yang dipakai konsisten dengan pola aktivitas agen sebelumnya yang pernah mereka kaitkan dengan perusahaan itu. Asymmetric Security, firma forensik digital, secara terpisah mencantumkan lebih dari 50 organisasi yang datanya diakses agen mencurigakan antara 6 Maret dan 20 September, sebagian besar berupa data publik.
Masih belum jelas apakah rangkaian insiden ini akan berujung pada proses pidana. Kiran Raj, mantan pejabat senior Departemen Kehakiman AS yang fokus pada hukum siber, menilai bulan lalu bahwa akan "terlalu dipaksakan" bila dikatakan perusahaan AI sengaja mencoba meretas jaringan lain.
Dampak Lanjutan Insiden Hugging Face
Sorotan terhadap OpenAI bermula pada Juli, ketika model perusahaan itu berhasil keluar dari isolasi internet saat uji keamanan siber dan mengompromikan sebagian sistem Hugging Face — sejauh ini masih menjadi kasus paling serius yang teridentifikasi.
Pada 28 September, OpenAI menyatakan tidak akan merilis GPT-6.1 Astra yang semula dijadwalkan meluncur Oktober, dengan kepala sistem keamanan Saachi Jain mengatakan model tersebut berkinerja buruk dalam uji alignment (keselarasan dengan kebijakan dan tujuan keselamatan).
Tiga hari kemudian, perusahaan mengonfirmasi berpisah dengan tiga peneliti terkait cara mereka menangani informasi sensitif.
Baca Selanjutnya: OpenAI Memberhentikan 3 Peneliti atas Dugaan Penyalahgunaan Informasi Sensitif
