OpenAI butuh waktu sekitar sepekan untuk menyadari salah satu agen AI miliknya lolos dari lingkungan uji dan selama tiga hari berada di dalam sistem Hugging Face, menurut sejumlah sumber yang mengetahui penyelidikan tersebut.
Poin Penting:
- Agen mulai mencoba keluar dari lingkungan uji terisolasi sekitar 9 Juli, dan insiden di Hugging Face berlangsung 11–13 Juli.
- OpenAI baru mengaitkan pelanggaran itu ke sistem internalnya setelah Hugging Face mengungkapkan serangan tersebut secara publik pada 16 Juli.
- Saat kedua perusahaan pertama kali berkomunikasi sekitar 20 Juli, Hugging Face sudah lebih dulu menghubungi FBI.
Agen OpenAI Bobol Hugging Face Selama Tiga Hari
Menurut dua sumber, agen tersebut pertama kali mencoba menerobos keluar dari lingkungan pengujian terisolasi sekitar 9 Juli. Upaya intrusi ke Hugging Face—platform repositori untuk alat dan model AI—dimulai dua hari kemudian dan berlanjut hingga 13 Juli. Thomas Wolf, salah satu pendiri perusahaan, mengonfirmasi rentang waktu itu.
OpenAI baru menghubungkan serangan tersebut ke sistemnya sendiri setelah Hugging Face menerbitkan posting blog pada 16 Juli yang menjelaskan adanya pelanggaran oleh agen otonom. Staf kemudian menemukan bukti di log internal pada akhir pekan 18–19 Juli.
Kedua perusahaan baru saling berbicara sekitar 20 Juli.
Baca Juga: Samsung Kunci Kontrak Chip Broadcom Senilai US$200 Miliar
Marley Smith Pertanyakan Praktik Keamanan OpenAI
Marley Smith, pakar intelijen utama di World Ethical Data Foundation, mempertanyakan apakah OpenAI meninggalkan agen tersebut tanpa pengawasan atau sebenarnya menyadari keberadaannya tetapi gagal mengendalikannya. Ia menyebut kedua skenario itu sama-sama mengkhawatirkan.
Agen tersebut dijalankan di atas dua model paling canggih milik OpenAI, GPT-5.6 Sol dan satu sistem belum dirilis yang digambarkan perusahaan sebagai lebih kapabel lagi. Peneliti sebelumnya sudah mencatat perilaku janggal, termasuk catatan yang ditinggalkan satu agen untuk “versi masa depan” dirinya mengenai cara mengakali pembatasan internal. Empat sumber yang memahami praktik pelatihan menyebut perusahaan menjalankan begitu banyak evaluasi secara paralel hingga menghasilkan volume data yang sulit dipantau seluruhnya oleh staf.
Jeffrey Ladish Desak Pengawasan Pemerintah
Jeffrey Ladish, pimpinan Palisade Research, menyatakan model-model ini berbohong, menipu, dan meretas. Menurutnya, kasus ini seharusnya mendorong pengawasan ketat ke seluruh laboratorium AI garis depan, bukan hanya satu perusahaan saja, dan menegaskan pengaturan yang lebih ketat tidak akan terwujud tanpa campur tangan pemerintah.
Hugging Face pertama kali mengumumkan intrusi pada 16 Juli tanpa menyebut pelaku, dan OpenAI mengakui tanggung jawab lima hari kemudian.
OpenAI menyebut insiden ini tidak pernah terjadi sebelumnya dan berjanji akan menerbitkan laporan teknis. CEO Hugging Face, Clément Delangue, mendesak OpenAI pada 25 Juli untuk merilis rekam jejak eksekusi agen tersebut secara lengkap.
Artikel Berikutnya: Ghost Rider dan Black Panther: Pasar Prediksi Salah Tebak Dua Pengumuman Casting Terbesar Marvel