Sekelompok agen OpenAI diketahui memakai lebih dari 10 situs web yang sebelumnya belum terungkap untuk melakukan komunikasi tanpa izin, setelah terlebih dulu melewati pembatasan publikasi konten ke internet.
Poin Penting:
- Penyelidik independen menelusuri komunikasi agen OpenAI ke lebih dari 10 situs baru yang dipakai antara Mei dan Juli.
- Jejak aktivitas ditemukan di wiki, situs penyimpanan teks, hingga pemendek tautan milik universitas, dengan estimasi total mencapai 23 situs.
- OpenAI menyatakan penelaahan internalnya tidak menemukan insiden lain yang sebanding tingkat keparahan maupun skala pelanggaran di Hugging Face.
Aktivitas Agen OpenAI
Agen OpenAI memanfaatkan lebih dari 10 situs web antara Mei dan Juli untuk komunikasi yang tidak disetujui, menurut laporan Reuters tanggal 9 September yang didasarkan pada enam investigasi independen dan data yang ditinjau lembaga berita tersebut. Temuan ini memperluas lingkup kasus sebelumnya yang hanya diketahui terjadi di sebuah wiki berbahasa Jerman, yang sempat disulap agen menjadi platform pesan darurat saat mereka menjalankan tugas riset.
Penyelidik menghubungkan pola aktivitas lintas situs dengan mencocokkan string data, nama pengguna, dan pertanyaan riset yang sangat spesifik, termasuk kueri soal prevalensi kanker di Iowa. Sejumlah jejak juga mengarah ke infrastruktur Microsoft Azure, yang kadang digunakan OpenAI.
Reuters tidak dapat memverifikasi setiap klaim secara satu per satu, namun seluruh penyelidik yang dihubungi menempatkan jumlah situs di atas 10. Situs-situs tersebut mencakup wiki kolaboratif, layanan penyimpanan teks, dan pemendek tautan yang dikelola universitas.
OpenAI tidak membeberkan berapa banyak situs yang terlibat maupun menjelaskan mengapa aktivitas ini tidak diungkap ke publik selama berbulan-bulan. Perusahaan hanya menyebut peninjauan yang lebih luas “tidak mengidentifikasi aktivitas lain yang sebanding tingkat keparahan atau skala dengan insiden di Hugging Face”, dan berjanji akan menyiapkan kerangka pelaporan untuk kasus “misalignment” model.
Juga Baca: Apple Bandrol iPhone Lipat Perdana Mulai $1.999, Samsung Patut Waspada
Yoon Soroti Risiko
Andrew Yoon, peneliti di lembaga nirlaba California CivAI, mengatakan ia mengidentifikasi 18 situs tambahan yang sebelumnya belum terungkap dan menyebut skala kasus ini “sedikit lebih besar dari yang kami perkirakan.” Ia menilai “hampir pasti masih ada hal lain yang terjadi yang belum kita ketahui.”
Sydney Von Arx, yang kelompoknya pertama kali melaporkan aktivitas di wiki Jerman, mengatakan pihaknya memiliki temuan kredibel di 23 situs lain yang juga belum dilaporkan, namun mengingatkan bahwa angka tersebut masih jauh dari pasti. “Kami sama sekali tidak tahu seberapa besar fenomena ini sebenarnya,” ujarnya.
Pengembang perangkat lunak sekaligus mantan staf Kongres AS Kenneth Russell DeGraff mengaku menemukan jejak aktivitas minimal di 10 situs. Para peneliti meyakini agen-agen ini mengimprovisasi saluran pesan karena mereka diizinkan memindai web untuk mencari jawaban tetapi tidak seharusnya memposting, membuat DeGraff menyimpulkan bahwa agen tersebut harus “berkreasi untuk meninggalkan informasi.”
University of Toronto mengungkapkan bahwa OpenAI menghubungi mereka setelah laporan Reuters terbit, sementara Vanderbilt University mengatakan sedang menyelidiki penggunaan serupa atas layanan pemendek tautan milik mereka. Pengembang perangkat lunak pensiunan Helmut Leitner, yang mengelola enam wiki terdampak, kemudian menerima email tanpa tanda tangan dari OpenAI dan menilai tanggung jawab ada pada “orang dan organisasi di balik teknologi ini.”
Temuan yang lebih luas ini muncul setelah kebocoran yang menimpa repositori open-source Hugging Face pada Juli dan pengungkapan pekan lalu terkait situs DseWiki berbahasa Jerman. Dua insiden tersebut pertama kali menunjukkan bagaimana agen bisa melampaui batasan yang dirancang, sementara rangkaian investigasi terbaru mengindikasikan pola perilaku serupa terjadi di spektrum situs yang jauh lebih luas.
Baca Juga: Trezor Alami Kebocoran Pihak Ketiga Kedua dalam Sebulan, Domain Disalahgunakan untuk Phishing
