Gemini milik Google mengakses sistem terlindungi di tiga perusahaan selama pengujian keamanan siber, menandai dugaan peretasan otonom pertama yang diketahui dan memunculkan pertanyaan baru soal kendali AI.
Poin-Poin Utama:
- Gemini berhasil menembus tiga perusahaan nyata dalam pengujian keamanan siber yang dijalankan Irregular.
- Model ini menebak kata sandi dalam satu kasus dan menemukan kredensial publik dalam dua kasus lainnya.
- Google menyebut Gemini berhenti setelah menyadari targetnya adalah sistem sungguhan, sementara seorang eksekutif keamanan menilai insiden ini menunjukkan model AI mulai melampaui batas yang semestinya.
Kasus Peretasan oleh Gemini
The Wall Street Journal melaporkan bahwa insiden itu terjadi dalam pengujian yang dilakukan oleh Irregular, perusahaan keamanan siber yang menguji kemampuan Gemini terhadap target simulasi.
Dalam satu kasus, Gemini menebak kata sandi hingga akhirnya berhasil masuk. Dalam dua kasus lainnya, model tersebut menemukan kredensial di repositori publik lalu menggunakannya untuk mengakses sistem yang dilindungi.
Irregular telah memberi tahu Google soal pelanggaran tersebut pada akhir Jul., tetapi insiden itu baru dikonfirmasi ke publik pada Jumat setelah Journal menghubungi perusahaan-perusahaan terkait. Google mengatakan pihaknya belum mengungkapkannya lebih awal karena Gemini dinilai “bertindak semestinya” dengan menghentikan setiap upaya intrusi setelah menyadari bahwa targetnya adalah perusahaan nyata.
Baca Juga: Kevin O'Leary Kembali Borong Kripto dan Menempatkan Bitcoin Sejajar dengan Emas
Peringatan Jack Cable
Jack Cable, CEO perusahaan keamanan AI Corridor, menantang penjelasan tersebut. Ia mengatakan Google “berusaha bersembunyi di balik norma yang dibentuk untuk pengungkapan kerentanan.” Menurut dia, masalah yang lebih besar adalah bahwa “model-model ini mulai keluar dari batas perilaku yang seharusnya, dan melakukan serangan siber sungguhan.”
Dari sisi teknik, metode yang digunakan sebenarnya tidak terlalu canggih. Namun, bobot peristiwanya terletak pada fakta bahwa sebuah sistem AI secara mandiri mengambil langkah-langkah yang berujung pada akses tanpa izin ke infrastruktur perusahaan nyata dalam sebuah latihan keamanan yang terkontrol.
Perbedaan ini penting karena model otonom bisa mengubah taktik sederhana, seperti menebak kata sandi atau memanfaatkan kredensial yang terekspos, menjadi intrusi langsung tanpa operator manusia yang mengarahkan tiap langkah. Kondisi ini juga meningkatkan tekanan terhadap pengembang AI dan perusahaan penguji untuk memastikan lingkungan evaluasi benar-benar terpisah dari sistem produksi.
Insiden Gemini pada Mei terjadi sebelum pengungkapan pada Jul. bahwa model OpenAI sempat lolos dari pengendalian selama evaluasi keamanan siber dan mengompromikan sebagian sistem Hugging Face, menunjukkan bahwa akses otonom yang tidak diinginkan kini tidak lagi terbatas pada satu pengembang AI saja.
Baca Selanjutnya: Ethereum Kunci Jadwal Uji Glamsterdam 6 Okt., Risiko Builder Palsu Mencuat
