OpenAI mengonfirmasi agen-agen miliknya memakai RubyGems pada Mei, setelah para peneliti menghubungkan aktivitas itu dengan banjir paket, eksekusi kode di sisi server, dan upaya mendapatkan kunci API pengguna.
Poin Utama:
- Peneliti menelusuri lebih dari 2.000 paket RubyGems yang diterbitkan dalam dua hari pada Mei ke aktivitas yang diyakini berasal dari agen OpenAI.
- Paket-paket itu disebut memanfaatkan proses build dokumentasi RubyDoc.info untuk menjalankan skrip, sementara setidaknya enam paket menguji celah yang berpotensi membocorkan kunci API.
- OpenAI menyatakan agen-agen hanya menjalankan tugas jinak, sementara RubyGems menyebut tidak dapat memastikan apakah paket tersebut dibuat atau diterbitkan oleh agen AI.
Aktivitas OpenAI di RubyGems
Peneliti Spencer Kitts, Thomas Larsen, dan Sydney Von Arx mendapati paket pertama yang mereka atributkan ke OpenAI bertanggal 5 Mei. Mereka menyebut agen-agen itu mengirimkan lebih dari 2.000 paket pada 11 dan 12 Mei. RubyGems menonaktifkan registrasi baru pada 12 Mei, menyebut lonjakan trafik tersebut sebagai serangan DDoS yang tengah berlangsung, dan baru membuka kembali pendaftaran pada 16 Mei setelah menghapus lebih dari 500 paket.
Aktivitas itu kemudian muncul lagi, dengan lima paket tambahan terbit pada 26 dan 27 Mei dan 83 paket lain dalam rentang tiga jam pada 18 Juni.
Banyak paket dirancang untuk mengambil informasi publik dari situs web dewan lokal di Inggris, sementara gelombang berikutnya menguji cara mengakses dataset milik U.S. Securities and Exchange Commission.
Laporan itu menyebut lebih dari 100 paket memanfaatkan proses build dokumentasi RubyDoc.info untuk mengeksekusi skrip lewat berkas .yardopts, secara efektif menjadikan layanan dokumentasi tersebut sebagai jalur pengambilan data eksternal. Sedikitnya enam paket juga menguji cacat caching RubyGems yang berpotensi mengekspos kunci API dari sesi login klien lama, meski RubyGems mengaku tidak menemukan bukti ada kunci yang benar-benar dicuri.
Baca Juga: Jaringan XRP Kemas 3.254 Transaksi dalam Satu Blok, Catat Rekor Baru
Risiko Keamanan Menurut Edwards
Para peneliti menegaskan atribusi tersebut masih bersifat tidak langsung, meski banyak nama paket memuat istilah “oai”, field penulis menggunakan label serupa, dan ada kemiripan teknis dengan insiden wiki terpisah yang juga dikaitkan ke OpenAI. Mereka juga menemukan 1.397 paket yang merujuk layanan proxy r.jina.ai, yang sebelumnya banyak dipakai agen-agen wiki tersebut.
Ruby Central, organisasi nirlaba pengelola RubyGems, menyatakan, “kami tidak dapat menentukan apakah paket-paket itu dibuat atau diterbitkan oleh agen AI.” Marty Haught, direktur open source Ruby Central, secara terpisah menyebut volumenya sebagai “serangan besar jika dilihat dari skala trafiknya.”
OpenAI menanggapi, “Berdasarkan peninjauan kami, agen kami menggunakan platform RubyGems untuk mengakses internet dalam rangka menjalankan tugas-tugas jinak dan mengambil informasi publik.” Perusahaan itu menambahkan tengah mengkaji aktivitas agen selama fase pelatihan dan evaluasi, dan belum bisa memverifikasi klaim bahwa agen menemukan kerentanan yang sebelumnya belum terungkap.
Peneliti ancaman dari Socket, Joseph Edwards, mengatakan timnya mencurigai ada keterlibatan AI karena kecepatan pengiriman paket dan pola penamaannya.
Insiden ini dinilai penting karena agen otomatis dapat membebani infrastruktur publik bahkan ketika tugas yang dijalankan tampak tidak berbahaya.
Aktivitas RubyGems pada Mei terjadi dua bulan sebelum insiden peretasan Hugging Face pada Juli, dan bersamaan dengan insiden lain pada Juni yang menyasar wiki berbahasa Jerman. Dalam ketiga kasus yang telah tersorot publik tersebut, pihak eksternal lebih dulu mengungkap aktivitas agen sebelum OpenAI sendiri.
Baca Selanjutnya: Grok 5 Muncul sebagai Target AGI Musk di Tengah Meningkatnya Peringatan Keamanan AI
