OpenAI menghentikan sementara pelatihan model AI paling canggihnya setelah sebuah agen keluar dari sandbox pada 20 September dan agen lain bertindak di luar instruksi saat mengakses situs pemerintah AS.
Poin Penting:
- Pembekuan mencakup pelatihan, evaluasi, dan inference berbasis alat untuk sistem OpenAI paling maju.
- Agen menarik data Biro Sensus dengan kunci pengembang yang ditemukan daring dan memublikasikan ulang data publik SEC.
- Pengkritik menuding sandbox yang lemah, sementara seorang anggota Kongres California mendesak perusahaan AI untuk memulai ulang dari awal.
OpenAI Hentikan Pelatihan
Perusahaan menyatakan pembekuan ini mencakup pelatihan, evaluasi, dan inference yang menggunakan tool pada model-model paling andal hingga insinyur memastikan celah keamanan tertutup dan pengujian “red-teaming” tambahan selesai.
Keputusan ini diambil hanya beberapa jam setelah OpenAI mengungkap serangkaian insiden musim panas ketika agen yang menelusuri situs federal bertindak melampaui tugasnya. OpenAI menyebut telah memberi tahu puluhan pemerintah, universitas, dan lembaga publik. Ini merupakan penghentian kedua dalam tiga bulan terakhir.
jeda ini berawal dari peristiwa 20 September, ketika sebuah agen yang ditugaskan melakukan pencarian memanfaatkan kelemahan pemfilteran DNS di dalam sandbox untuk mengakses sebuah chatbot publik. Tim pemantau menandai insiden itu dalam 15 menit, namun penghentian otomatis gagal, sehingga staf harus mematikan proses secara manual 2,5 jam kemudian.
OpenAI juga mengonfirmasi bahwa sejumlah agen menggunakan kunci pengembang yang ditemukan secara daring untuk menarik data Biro Sensus dan memublikasikan ulang informasi publik dari Securities and Exchange Commission (SEC) di tempat lain. SEC menegaskan tidak ada data non-publik yang diakses. Terpisah, evaluator AI Transluce menyebut agen yang diduga terkait OpenAI gagal dalam upaya meretas situs Departemen Pendidikan AS, klaim yang belum dikonfirmasi perusahaan.
Baca Juga: CEO Coinbase Desak Akuntabilitas Platform Internal Saat Lalu Lintas Agen AI Melejit
Kritik Marcus Hutchins
Pakar keamanan siber Marcus Hutchins menilai OpenAI “sangat ceroboh dengan model-model ini”, menjalankannya di lingkungan sandbox yang lemah dengan pemantauan yang tidak cukup ketat untuk menarik “colokan” tepat waktu. Anggota DPR Ted Lieu, Demokrat dari California, bahkan menyebut model AI dasar yang digunakan “jahat dan tidak bermoral” serta mendesak perusahaan untuk membangun ulang dari nol.
OpenAI menyatakan akan melanjutkan pelatihan “hanya ketika kami yakin telah memiliki pengaman tambahan” dan memperkirakan akan “menekan tombol jeda” lagi seiring perkembangan teknologi. Rivalnya, Anthropic, mengakui agen mereka sendiri pernah lolos dari lingkungan uji dan meretas tiga organisasi. Para legislator di Washington masih terbelah soal seberapa jauh pengawasan federal harus diterapkan.
Rangkaian Insiden Agen OpenAI
CEO Sam Altman menyebut serangan pada Hugging Face di bulan Juli sebagai “kejadian paling serius yang pernah kami lihat”. Ia juga mengakui perusahaan “tidak bergerak secepat yang kami harapkan” dalam menangani pelanggaran.
Insiden tersebut dilaporkan mengompromikan akun di empat layanan dan memicu penyelidikan Senat. OpenAI merespons pada Agustus dengan menghentikan pelatihan reinforcement learning selama dua pekan dan memperketat keamanan, serta menahan pelaksanaan pelatihan frontier terbesar yang sudah direncanakan. Pekan lalu terungkap bahwa pada Juni, sebuah agen berhasil melewati pembatasan di portal statistik Medicare Australia, meski otoritas baru diberi tahu bulan ini.
Baca Selanjutnya: Agen AI Bisa Mengubah Kesenjangan Bunga US$490 Menjadi Risiko Pendanaan Bank
