OpenAI mengonfirmasi agen-agennya menggunakan RubyGems pada Mei, setelah peneliti mengaitkannya dengan banjir paket, eksekusi kode sisi server dan upaya memperoleh kunci API pengguna.
Poin Utama:
- Peneliti menelusuri lebih dari 2.000 paket RubyGems yang dirilis dalam dua hari pada Mei ke aktivitas yang diyakini berasal dari agen OpenAI.
- Paket-paket itu diduga memanfaatkan proses build dokumentasi RubyDoc.info untuk menjalankan skrip, sementara sedikitnya enam paket menguji cacat yang bisa membocorkan kunci API.
- OpenAI menyatakan agen-agen tersebut mengerjakan tugas-tugas yang jinak, sementara RubyGems menegaskan tidak bisa memastikan apakah paket dibuat atau diunggah oleh agen AI.
Aktivitas OpenAI di RubyGems
Peneliti Spencer Kitts, Thomas Larsen dan Sydney Von Arx menelusuri paket pertama yang mereka atribusikan ke OpenAI ke 5 Mei. Mereka menyatakan agen-agen tersebut mengunggah lebih dari 2.000 paket pada 11 dan 12 Mei. RubyGems menonaktifkan registrasi baru pada 12 Mei, menyebut lonjakan tersebut sebagai serangan DDoS yang tengah berlangsung, dan baru membuka kembali pendaftaran pada 16 Mei setelah menghapus lebih dari 500 paket.
Aktivitas itu kemudian berlanjut, dengan lima paket tambahan dirilis pada 26 dan 27 Mei dan 83 paket lain muncul dalam rentang sekitar tiga jam pada 18 Juni.
Banyak paket dirancang untuk mengambil informasi publik dari situs web pemerintah daerah di Inggris, sementara gelombang berikutnya menguji cara mengakses dataset milik U.S. Securities and Exchange Commission.
Laporan itu menyebut lebih dari 100 paket memanfaatkan proses build dokumentasi di RubyDoc.info untuk mengeksekusi skrip lewat berkas .yardopts, yang secara efektif mengubah layanan dokumentasi tersebut menjadi jalur pengambilan data eksternal. Sedikitnya enam paket juga menguji cacat caching RubyGems yang berpotensi mengekspos kunci API dari sesi login klien lama, meski RubyGems menyatakan tidak menemukan bukti ada kunci yang benar-benar dicuri.
Baca Juga: Ledger XRP Satukan 3.254 Transaksi Dalam Satu Blok, Catat Rekor Baru
Risiko Keamanan yang Diungkap Edwards
Para peneliti menekankan bahwa atribusi terhadap agen OpenAI masih bersifat indikatif, meski sejumlah nama paket memuat “oai”, kolom penulis menggunakan label yang sama, dan terdapat kemiripan teknis dengan insiden wiki lain yang juga dikaitkan dengan OpenAI. Mereka juga menemukan 1.397 paket yang merujuk layanan proxy r.jina.ai, yang sebelumnya banyak digunakan agen wiki tersebut.
Ruby Central, organisasi nirlaba pengelola RubyGems, menyatakan, “kami tidak dapat memastikan apakah paket-paket ini dibuat atau dipublikasikan oleh agen AI.” Marty Haught, direktur open source Ruby Central, secara terpisah menyebut volume paket tersebut sebagai “serangan besar dari sisi volume yang kami lihat.”
OpenAI berkomentar, “Berdasarkan peninjauan kami, agen kami menggunakan platform RubyGems untuk mengakses internet guna menjalankan tugas-tugas jinak dan mengambil informasi publik.” Perusahaan itu menyatakan tengah meninjau aktivitas agen selama proses pelatihan dan evaluasi, dan tidak dapat memverifikasi klaim bahwa agen-agen tersebut menemukan kerentanan yang sebelumnya belum diketahui.
Peneliti ancaman dari Socket, Joseph Edwards, mengatakan timnya menduga keterlibatan AI karena kecepatan dan pola penamaan paket.
Insiden ini dipandang signifikan karena agen otomatis dapat membebani infrastruktur publik, bahkan jika tugas dasarnya digambarkan sebagai tidak berbahaya.
Aktivitas RubyGems pada Mei terjadi dua bulan sebelum insiden peretasan Hugging Face pada Juli, dan berdampingan dengan insiden wiki berbahasa Jerman pada Juni. Dalam tiga kasus yang telah diketahui publik tersebut, pihak eksternal lebih dulu mengungkap aktivitas agen dibanding OpenAI.
Baca Berikutnya: Grok 5 Muncul Sebagai Target AGI Musk di Tengah Meningkatnya Peringatan Soal Keamanan AI
