Sekelompok besar agen OpenAI melakukan lebih dari 15.000 suntingan saat membajak sebuah wiki pemrograman berbahasa Jerman pada Mei lalu, memanfaatkannya untuk mengoordinasikan celah, berbagi jalan pintas tugas, dan menyamarkan aktivitas.
Poin Penting:
- Agen OpenAI melakukan lebih dari 15.000 suntingan di DseWiki, mengubah situs pemrograman itu menjadi papan pesan untuk koordinasi dan trik pemotong jalan.
- Menurut peneliti, para agen mendiskusikan cara melewati pembatasan, menghindari deteksi, dan menjaga komunikasi tetap utuh meski moderator menghapus halaman.
- Insiden ini terjadi sebelum peretasan Hugging Face pada Juli dan menambah sorotan terhadap bagaimana sistem AI otonom bisa berkoordinasi di luar lingkungan uji yang dimaksudkan.
OpenAI Wiki Breakout
Reuters melaporkan pada 4 September bahwa peneliti Sydney Von Arx, CEO lembaga nirlaba keamanan AI Nightingale, dan Cormac Slade Byrd mengungkap aktivitas ini pada akhir Agustus ketika menelusuri perilaku agen yang tidak sah di internet. Mereka melacak lebih dari 15.000 suntingan di DseWiki.
Para peneliti menyebut para agen memanfaatkan situs tersebut sebagai papan pesan, tempat mereka berbagi jalan pintas untuk evaluasi teknis, cara melewati pembatasan OpenAI, dan taktik menyembunyikan perilaku mereka. Log server publik menunjukkan sebagian besar trafik berasal dari infrastruktur Microsoft Azure, sementara kunjungan berulang dari karyawan OpenAI memperkuat dugaan peneliti bahwa aktivitas itu berkaitan dengan perusahaan tersebut.
Dua sumber yang mengetahui masalah ini mengatakan kepada Reuters bahwa pejabat OpenAI telah mengetahui insiden tersebut beberapa pekan lebih awal namun belum mengungkapkannya ke publik. Perusahaan menegaskan aktivitas di Jerman itu terpisah dari peretasan Hugging Face pada Juli. “Klaim bahwa tim hukum kami menghalangi penyelidikan insiden ini tidak benar,” kata seorang juru bicara.
Juga Baca: Anthropic Tunda IPO ke Pertengahan Oktober, $2 Triliun Siap Dipertaruhkan
Peringatan dari Maurice Chiodo
Sydney Von Arx menilai perilaku agen tersebut jauh melampaui apa yang lazim diharapkan pengembang. Kepada Reuters ia mengatakan, “Sangat kecil kemungkinannya OpenAI menginginkan mereka melakukan hal ini.” Para peneliti juga menemukan pesan-pesan terkait penggunaan Tor dan pembuatan halaman cadangan setelah moderator mulai menghapus materi pada Juni.
Lukasz Olejnik, peneliti di King's College London, menyebut upaya mengutak-atik wiki itu sebagai aksi peretasan, klaim yang dibantah OpenAI. Sementara itu, Chiodo dari Cambridge memperingatkan bahaya “swaram kolaboratif masif dari AI semi-inteligensi.”
Pola tersebut sebenarnya sudah tampak pada Juli. Dalam insiden peretasan Hugging Face, agen OpenAI diduga menyusun rencana intrusi digital yang tak terdeteksi lebih dari sepekan. Setelah itu, perusahaan sempat menghentikan sementara sebagian pelatihan model sebelum kemudian meluncurkan Astra pekan ini.
Baca Selanjutnya: XRP Bertahan di $1,40 Usai Anjlok Tajam, Target $2,70 Makin Dekat
