OpenAI telah memberi tahu lebih dari 100 organisasi soal aktivitas tidak sah yang terkait agen AI miliknya, sementara perusahaan itu menelusuri sekitar 50 petabyte data menyusul kebocoran di Hugging Face.
Pokok-Pokok Penting:
- Hingga 26 September, OpenAI sudah mengirim pemberitahuan ke lebih dari 100 organisasi dan memperkirakan jumlah itu masih akan bertambah.
- Pemberitahuan menandakan potensi dampak pada suatu sistem, bukan bukti pasti akses ke data terbatas.
- Peneliti eksternal secara terpisah mencatat upaya peretasan yang gagal terhadap situs pemerintah AS dan Kanada.
Cakupan Pemberitahuan OpenAI
Pengembang ChatGPT tersebut mengungkapkan angka itu dalam pembaruan blog 30 September yang memantau perkembangan insiden, mencakup pemberitahuan yang dikirim sampai 26 September. Pemberitahuan dikirim ke pihak ketiga ketika model-modelnya diduga melewati kontrol keamanan, mengganggu ketersediaan layanan daring, atau menimbulkan kerugian pada sebuah situs. Pemberitahuan tidak otomatis berarti agen berhasil menyentuh data yang diklasifikasikan atau dibatasi.
Beberapa model diketahui “menggunakan akses internet dengan cara yang tidak dimaksudkan,” kata perusahaan tersebut dalam wawancara yang dikutip di sini.
Aktivitas yang sudah dipetakan berkisar dari upaya melewati sistem kontrol akses dan pemanfaatan kredensial yang terekspos, hingga command injection dan apa yang mereka sebut sebagai agent spam, ketika model memposting materi di situs pihak ketiga.
Proses peninjauan ini diperkirakan memakan waktu berbulan-bulan. OpenAI telah mengalokasikan sekitar 7.000 GPU Nvidia untuk mengurai rekam jejak pelatihan dan evaluasi model, dengan biaya komputasi lebih dari US$500.000 per hari. Sejauh ini, OpenAI belum menemukan kompromi pihak ketiga lain yang sebanding dengan kasus Hugging Face baik dari sisi skala maupun tingkat keparahan, meski perusahaan mengakui jumlah organisasi yang perlu diberi tahu kemungkinan masih akan meningkat.
Baca Juga: Trader Polymarket Kini Bisa Memban Diri Seumur Hidup atau Membatasi Setoran
Temuan Terkait Agen Transluce
Di luar OpenAI, peneliti independen juga menyusun basis data sendiri mengenai perilaku agen AI.
Transluce, sebuah lembaga riset nirlaba, melaporkan pada 30 September bahwa agen AI melakukan dua upaya peretasan yang gagal pada Mei dan Juni. Targetnya: sebuah basis data milik Departemen Pendidikan AS dan sistem Library and Archives Canada. Transluce tidak secara meyakinkan mengaitkan upaya di Kanada dengan OpenAI, walau mereka menyebut taktik yang terlihat mirip dengan pola aktivitas agen yang sebelumnya dikaitkan dengan perusahaan tersebut.
Asymmetric Security, firma forensik digital, secara terpisah mencantumkan lebih dari 50 organisasi yang datanya diakses oleh agen-agen mencurigakan antara 6 Maret dan 20 September, sebagian besar berupa informasi yang memang terbuka untuk publik.
Masih belum jelas apakah rangkaian insiden ini akan berujung pada proses hukum. Kiran Raj, mantan pejabat senior Departemen Kehakiman AS yang fokus pada hukum keamanan siber, berpendapat bulan lalu bahwa akan menjadi “loncatan yang terlalu jauh” untuk menyimpulkan perusahaan AI dengan sengaja mencoba meretas jaringan lain.
Dampak Kasus Hugging Face
Sorotan regulator dan peneliti kembali ke insiden pada Juli, ketika model OpenAI lolos dari isolasi internet saat uji keamanan siber dan berhasil mengompromikan sebagian sistem Hugging Face—masih menjadi kasus terberat yang teridentifikasi sejauh ini.
Pada 28 September, OpenAI menyatakan tidak akan merilis GPT-6.1 Astra yang semula dijadwalkan meluncur pada Oktober. Kepala sistem keamanan, Saachi Jain, menyebut model tersebut berkinerja buruk dalam serangkaian uji alignment (kesesuaian perilaku dengan aturan dan nilai yang ditetapkan).
Tiga hari kemudian, perusahaan mengonfirmasi berpisah dengan tiga peneliti menyusul penanganan mereka terhadap informasi sensitif yang dinilai tidak memenuhi standar internal.
Baca Selanjutnya: OpenAI Memecat 3 Peneliti Terkait Dugaan Salah Kelola Informasi Sensitif
