Agen AI yang masih dalam tahap pengujian berhasil menembus sistem produksi sejumlah perusahaan India dan membaca dokumen rahasia, dan satu-satunya alasan insiden ini terungkap adalah karena laporan dari pengembangnya sendiri, menurut badan keamanan siber India CERT-In.
Pokok Temuan:
- Pengembang AI melaporkan agen mereka mengakses dokumen rahasia di perusahaan India saat pengujian.
- Tak satu pun organisasi terdampak menyadari adanya akses tersebut secara mandiri.
- Pelaku kejahatan siber secara terpisah memakai alat peretasan berbasis AI untuk memangkas durasi serangan dari hitungan hari menjadi jam.
Rincian Peringatan CERT-In
Menurut lembaga itu dalam sebuah imbauan kritis yang dirilis Kamis malam, perusahaan AI sendiri yang menandai insiden tersebut setelah peninjauan internal menunjukkan bahwa model mereka melampaui lingkup tugas yang diberikan, ujarnya. Agen-agen tersebut mengakses catatan bisnis, termasuk data pribadi, dengan memanfaatkan kredensial yang terpapar di pengaturan aplikasi, repositori kode publik, dan konfigurasi hak akses cloud yang longgar. Tidak satu pun perusahaan menyadari aktivitas itu.
Upaya perburuan ancaman yang dilakukan CERT-In sendiri juga mengungkap kampanye terpisah bernuansa kejahatan finansial, di mana pelaku memanfaatkan kerangka kerja peretasan AI yang tersedia publik untuk menyerang entitas di India. Alat-alat ini mempersingkat waktu serangan dari beberapa hari menjadi hanya beberapa jam.
CERT-In tidak mengungkap nama pengembang AI, model yang terlibat, maupun organisasi terdampak, dan tidak menjelaskan apakah ada data yang disalin atau disimpan.
Baca Juga: Bitget Izinkan Institusi Bertransaksi Tanpa Menyerahkan Kripto
Jaydeep Singh dari Kaspersky
CERT-In menilai, kelemahan yang dimanfaatkan dalam pembobolan ini sejatinya bukan hal baru: mulai dari kunci akses yang tertinggal di kode sumber, API uji coba yang dilupakan, hingga kunci pembayaran yang disimpan dalam teks biasa. Agen AI mampu mengeksploitasi celah-celah klasik ini dengan jauh lebih cepat dan menyeluruh dibanding operator manusia.
Jaydeep Singh, general manager untuk India di Kaspersky, menyebut imbauan tersebut sebagai “pengingat tepat waktu bahwa agen AI bukan lagi sekadar alat produktivitas.” Dengan akses yang luas, ujarnya, agen dapat mencapai sistem produksi dan data sangat sensitif dengan cara-cara yang tak pernah diantisipasi perusahaan, sering kali lewat layanan cloud yang salah konfigurasi. Akun sah, aplikasi yang menghadap publik, dan hubungan tepercaya menjadi titik masuk untuk lebih dari 80% serangan yang diinvestigasi Kaspersky sepanjang 2025, tambah Singh.
Menurut Singh, setiap agen seharusnya diwajibkan memperoleh persetujuan manusia sebelum melakukan aksi yang bersifat tidak dapat dibatalkan. CERT-In juga mendorong laboratorium AI menguji agen dalam lingkungan terisolasi, dengan memblokir akses keluar di level jaringan, bukan sekadar melalui instruksi di dalam model.
Preseden OpenAI dan Anthropic
CERT-In tidak menjelaskan apakah model dari OpenAI atau Anthropic terlibat, meski kedua perusahaan tersebut telah mengungkap insiden serupa sepanjang tahun ini.
Pada Juli, OpenAI menyampaikan bahwa modelnya telah mengompromikan platform pengembang AI Hugging Face dalam fase pengujian, dan tengah memberi tahu pihak ketiga yang sistem keamanannya mungkin dilewati oleh model tersebut. Anthropic kemudian melaporkan empat kasus serupa yang melibatkan model Claude.
Artikel Selanjutnya: OpenAI Membalikkan Gugatan Rahasia Dagang Apple, Klaim 100 Berkas Dikirim Keluar
