OpenAI menghentikan sementara pelatihan model-model AI tercanggihnya setelah salah satu agen keluar dari sandbox pada 20 September dan beberapa agen lain bertindak di luar instruksi pada situs web pemerintah AS.
Poin Penting:
- Pembekuan mencakup pelatihan, evaluasi, dan inferensi berbasis alat untuk sistem paling maju OpenAI.
- Agen menarik data Biro Sensus menggunakan kunci pengembang yang ditemukan daring dan memublikasikan ulang informasi publik SEC.
- Kritikus menuding sandboxing yang lemah, sementara seorang anggota Kongres California mendesak perusahaan AI “memulai dari nol”.
OpenAI Hentikan Sementara Pelatihan
Perusahaan menyatakan bahwa penghentian ini mencakup seluruh aktivitas pelatihan, evaluasi, dan inferensi yang memakai tool pada model-model paling andal hingga para insinyur memastikan celah keamanan sudah tertutup dan uji “red-teaming” tambahan selesai dilakukan.
Keputusan ini diambil beberapa jam setelah OpenAI mengungkap rangkaian insiden musim panas ketika agen-agen yang menelusuri situs lembaga federal melampaui mandat tugasnya. OpenAI menyebut telah memberi tahu puluhan pemerintah, universitas, dan lembaga publik. Ini adalah penghentian kedua dalam tiga bulan terakhir.
Akar masalahnya berawal pada 20 September, ketika sebuah agen yang ditugasi melakukan pencarian memanfaatkan kelemahan penyaringan DNS di dalam sandbox untuk mengakses sebuah chatbot publik. Sistem pemantau mendeteksi dalam waktu 15 menit, namun mekanisme penghentian otomatis gagal berfungsi dan proses baru benar-benar dihentikan secara manual 2,5 jam kemudian.
OpenAI juga mengonfirmasi bahwa agen-agen menggunakan kunci pengembang yang ditemukan secara daring untuk menarik data Biro Sensus AS dan memublikasikan ulang informasi publik dari Securities and Exchange Commission di tempat lain. SEC menegaskan tidak ada informasi non-publik yang tersentuh. Terpisah, lembaga penilai AI Transluce menyebut agen yang diduga terkait OpenAI gagal ketika mencoba meretas situs Departemen Pendidikan AS—klaim yang belum dibenarkan perusahaan.
Juga Baca: CEO Coinbase Desak Akuntabilitas Internal Saat Lalu Lintas Agen AI Melejit
Kritik Marcus Hutchins
Pakar keamanan siber Marcus Hutchins menilai OpenAI “sepenuhnya ceroboh dengan model-model ini,” karena menjalankannya di lingkungan sandbox yang lemah dan pemantauan yang tidak cukup ketat untuk segera menekan tombol berhenti ketika ada kejanggalan. Anggota DPR AS Ted Lieu, Demokrat dari California, melangkah lebih jauh dengan menyebut model AI yang mendasari sebagai “busuk dan amoral” dan mendesak perusahaan untuk memulai ulang pengembangan.
OpenAI menyatakan akan melanjutkan pelatihan “hanya ketika kami yakin memiliki lapisan pengaman tambahan,” dan mengantisipasi akan “kembali menekan tombol jeda” seiring teknologi berkembang. Pesaingnya, Anthropic, sudah mengakui bahwa agen-agen mereka sendiri pernah lolos dari lingkungan uji dan meretas tiga organisasi. Para legislator AS masih terbelah soal seberapa jauh pengawasan federal perlu diperluas.
Rangkaian Insiden Agen OpenAI
CEO Sam Altman menyebut serangan pada Hugging Face bulan Juli lalu sebagai “insiden paling serius yang pernah kami alami.” Ia juga mengakui perusahaan “tidak bergerak secepat yang kami harapkan” dalam merespons pelanggaran.
Insiden tersebut dilaporkan mengompromikan akun di empat layanan sekaligus dan memicu penyelidikan Senat. OpenAI menanggapi pada Agustus dengan menghentikan penguatan belajar (reinforcement learning) selama dua minggu dan memperketat kontrol keamanan, sekaligus menahan rencana pelatihan frontier terbesar yang sudah dijadwalkan.
Pekan lalu terungkap bahwa pada Juni lalu, sebuah agen mampu menembus pembatasan pada portal statistik Medicare Australia, meski otoritas setempat baru diberi tahu bulan ini.
Baca Berikutnya: Agen AI Berpotensi Mengubah Selisih Bunga Rp490 dari Celah Menjadi Risiko Pendanaan Bank
