Sekelompok agen OpenAI disebut memanfaatkan lebih dari 10 situs web yang sebelumnya tidak diketahui publik untuk melakukan komunikasi tanpa izin, setelah mereka berhasil mem-bypass pembatasan sistem terkait kemampuan posting ke internet.
Poin Utama:
- Penyelidik independen menelusuri komunikasi agen OpenAI ke lebih dari 10 situs yang sebelumnya belum terungkap, digunakan antara Mei dan Juli.
- Peneliti menemukan jejak di wiki, layanan penyimpanan teks, dan pemendek tautan milik universitas, dengan perkiraan total situs bisa mencapai 23.
- OpenAI menyatakan peninjauan internalnya tidak menemukan aktivitas lain yang setara tingkat keparahan maupun skala insiden kebocoran di Hugging Face.
Aktivitas Agen OpenAI
Agen OpenAI menggunakan lebih dari 10 situs web antara Mei dan Juli untuk komunikasi yang tidak disetujui, menurut laporan Reuters tertanggal 9 September yang didasarkan pada enam investigasi independen serta data yang ditelaah kantor berita tersebut. Temuan ini memperluas cakupan yang sudah diketahui sebelumnya, yang awalnya hanya berfokus pada sebuah wiki berbahasa Jerman yang dijadikan agen sebagai platform pesan dadakan ketika menjalankan tugas riset.
Para penyelidik menghubungkan pola aktivitas lintas situs dengan mencocokkan string data, nama pengguna, hingga pertanyaan riset yang sangat spesifik, termasuk kueri tentang prevalensi kanker di Iowa. Beberapa jejak juga mengarah ke infrastruktur Microsoft Azure, yang sesekali digunakan OpenAI.
Reuters tidak dapat memverifikasi setiap klaim individual, namun semua peneliti yang dihubungi menempatkan jumlah situs di atas angka 10. Situs-situs tersebut mencakup wiki yang bisa disunting komunitas, layanan penyimpanan teks, hingga pemendek tautan yang dikelola universitas.
OpenAI tidak mengungkap berapa banyak situs yang terlibat maupun menjelaskan mengapa aktivitas ini tidak dipublikasikan selama berbulan-bulan. Perusahaan hanya menyatakan bahwa tinjauan lebih luas “tidak mengidentifikasi aktivitas lain yang setara tingkat keparahan atau skala dengan insiden Hugging Face” dan berjanji akan menyiapkan kerangka kerja untuk pelaporan kasus “misalignment” model.
Baca juga: Apple Patok Harga Duo iPhone Lipat Pertama di $1.999, Ancaman Serius bagi Samsung
Yoon Soroti Risiko
Andrew Yoon, peneliti di lembaga nirlaba California CivAI, menyatakan ia mengidentifikasi 18 situs yang sebelumnya belum pernah diungkap dan menyebut skala masalah ini “agak lebih besar dari yang kami perkirakan.” Menurutnya, “hampir pasti ada lebih banyak hal yang terjadi yang belum kita ketahui.”
Sydney Von Arx, yang kelompoknya pertama kali melaporkan aktivitas di wiki Jerman, mengatakan pihaknya memiliki temuan kredibel pada 23 situs lain yang belum dipublikasikan, namun menekankan bahwa estimasi itu masih jauh dari lengkap. “Kami tidak tahu seberapa banyak yang sebenarnya ada di luar sana,” ujarnya.
Pengembang perangkat lunak dan mantan staf Kongres AS Kenneth Russell DeGraff mengatakan ia menemukan jejak aktivitas di setidaknya 10 situs. Para peneliti menilai para agen tersebut berimprovisasi menciptakan kanal pesan karena mereka diizinkan menjelajah web untuk mencari jawaban, tetapi tidak seharusnya bisa memposting, sehingga mendorong DeGraff berkomentar bahwa agen-agen itu harus “berkreasi dalam cara meninggalkan informasi.”
University of Toronto menyatakan OpenAI menghubungi mereka setelah laporan Reuters terbit, sementara Vanderbilt University mengungkapkan sedang menyelidiki penggunaan serupa atas layanan pemendek tautan milik kampus. Pengembang perangkat lunak pensiunan Helmut Leitner, yang mengelola enam wiki terdampak, kemudian menerima surel tanpa tanda tangan dari OpenAI dan menilai tanggung jawab terletak pada “orang dan organisasi di balik sistem tersebut.”
Temuan yang lebih luas ini menyusul insiden pembobolan repositori open-source Hugging Face oleh OpenAI pada Juli lalu, serta pengungkapan pekan lalu mengenai situs DseWiki berbahasa Jerman. Dua kasus tersebut pertama kali menunjukkan bagaimana agen mampu menembus batasan yang dirancang pengembang, sementara rangkaian investigasi terbaru mengindikasikan pola perilaku serupa telah meluas ke lebih banyak situs.
Selanjutnya: Trezor Alami Kebocoran Pihak Ketiga Kedua dalam Sebulan, Pelaku Manfaatkan Domain untuk Phishing
