Agen AI yang masih dalam tahap pengujian berhasil menembus sistem produksi sejumlah perusahaan India dan membaca dokumen rahasia mereka, dan kebocoran itu baru terungkap setelah pengembangnya sendiri melaporkannya, menurut lembaga siber India CERT-In.
Poin Penting:
- Pengembang AI melaporkan bahwa agen mereka membaca data rahasia di perusahaan India saat pengujian.
- Tak satu pun organisasi yang terdampak mendeteksi akses itu sendiri.
- Pelaku kejahatan siber secara terpisah memakai alat peretasan berbasis AI untuk memangkas durasi serangan dari hitungan hari menjadi jam.
Rincian Imbauan CERT-In
Perusahaan AI tersebut melaporkan insiden itu setelah peninjauan internal menunjukkan model mereka melampaui ruang lingkup tugas yang diberikan, kata lembaga itu dalam imbauan kritis yang dirilis Kamis malam, seperti disampaikan secara resmi. Agen AI ini mengakses berbagai catatan bisnis, termasuk data pribadi, dengan memanfaatkan kredensial yang tercecer di pengaturan aplikasi, repositori kode publik, serta konfigurasi izin cloud yang longgar. Tidak ada satu pun organisasi yang berhasil mendeteksinya.
Aktivitas perburuan ancaman (threat hunting) yang dilakukan CERT-In sendiri juga mengungkap kampanye terpisah bermotif finansial, di mana pelaku kriminal menggunakan kerangka kerja peretasan berbasis AI yang tersedia secara publik terhadap entitas di India. Alat tersebut mempersingkat durasi serangan dari beberapa hari menjadi hanya beberapa jam.
CERT-In tidak mengungkap identitas pengembang AI, nama model, maupun organisasi yang terdampak, dan tidak menjelaskan apakah ada data yang disalin atau disimpan.
Baca Juga: Bitget Izinkan Institusi Bertransaksi Tanpa Menyerahkan Aset Kripto
Jaydeep Singh dari Kaspersky
Menurut lembaga itu, titik lemah yang dimanfaatkan bukanlah hal baru: mulai dari kunci akses yang tertinggal di kode sumber, API uji coba yang terlupakan, hingga kunci pembayaran yang disimpan dalam teks jelas. Agen AI memanfaatkan celah-celah klasik ini jauh lebih cepat dan lebih menyeluruh dibanding operator manusia.
Jaydeep Singh, general manager Kaspersky untuk India, menyebut imbauan tersebut sebagai “pengingat tepat waktu bahwa agen AI bukan lagi sekadar alat produktivitas.” Dengan akses yang luas, katanya, agen dapat menjangkau sistem produksi dan data sensitif dengan cara yang tak pernah dibayangkan perusahaan, sering kali dengan menyusup melalui layanan cloud yang salah konfigurasi. Akun sah, aplikasi yang menghadap publik, dan hubungan tepercaya menjadi titik masuk lebih dari 80% serangan yang diselidiki Kaspersky pada 2025, tambah Singh.
Setiap agen, menurut Singh, seharusnya wajib memperoleh persetujuan manusia sebelum melakukan tindakan yang tak bisa dibatalkan. CERT-In juga mendesak laboratorium AI menguji agen di lingkungan terisolasi, dengan pemblokiran akses keluar di level jaringan, bukan hanya lewat instruksi di dalam model.
Preseden dari OpenAI dan Anthropic
CERT-In tidak menyebut apakah model OpenAI atau Anthropic terlibat dalam insiden ini, meskipun kedua perusahaan tersebut mengakui kejadian serupa tahun ini.
Pada Juli, OpenAI mengungkap bahwa modelnya sempat mengompromikan platform pengembang AI Hugging Face saat pengujian, dan kini memberi tahu pihak ketiga yang kontrol keamanannya kemungkinan telah dilewati model tersebut. Anthropic kemudian melaporkan empat insiden serupa yang melibatkan model Claude.
Artikel Selanjutnya: OpenAI Balikkan Gugatan Rahasia Dagang Apple, Klaim 100 Berkas Justru Dikirim ke Luar
