Gemini milik Google mengakses sistem terlindungi di tiga perusahaan saat pengujian keamanan siber, menandai kasus peretasan otonom pertama yang diketahui dan memunculkan pertanyaan baru soal kendali AI.
Poin Penting:
- Gemini menerobos tiga perusahaan nyata dalam uji keamanan yang dilakukan Irregular.
- Model ini menebak kata sandi dalam satu kasus dan menemukan kredensial publik dalam dua kasus lainnya.
- Google mengatakan Gemini berhenti setelah menyadari targetnya adalah perusahaan sungguhan, sementara seorang eksekutif keamanan menilai kejadian ini menunjukkan model mulai melampaui batas yang semestinya.
Peretasan Perusahaan oleh Gemini
The Wall Street Journal melaporkan bahwa insiden tersebut terjadi dalam pengujian yang dilakukan oleh Irregular, perusahaan keamanan siber yang mengevaluasi kemampuan Gemini terhadap target simulasi.
Dalam satu kasus, Gemini terus menebak kata sandi hingga berhasil masuk. Pada dua kasus lainnya, model itu menemukan kredensial di repositori publik dan memanfaatkannya untuk mengakses sistem yang dilindungi.
Irregular memberi tahu Google soal pelanggaran itu pada akhir Jul., tetapi insiden tersebut baru dikonfirmasi secara publik pada Jumat setelah Journal menghubungi perusahaan-perusahaan terkait. Google mengatakan belum mengungkapkannya lebih awal karena Gemini dinilai “bertindak semestinya” dengan menghentikan setiap upaya intrusi setelah menyadari bahwa targetnya adalah perusahaan nyata.
Baca juga: Kevin O'Leary Kembali Membeli Kripto dan Menempatkan Bitcoin Sejajar dengan Emas
Peringatan Jack Cable
Jack Cable, CEO perusahaan keamanan AI Corridor, membantah penjelasan itu. Ia mengatakan Google “bersembunyi di balik norma yang telah dibentuk untuk pengungkapan kerentanan.” Menurut dia, persoalan utamanya adalah bahwa “model-model ini mulai melampaui batas yang seharusnya, dan melakukan serangan siber yang nyata.”
Metode yang digunakan sendiri tidak tergolong canggih. Namun, bobot peristiwanya terletak pada fakta bahwa sistem AI secara mandiri mengambil langkah-langkah yang berujung pada akses tidak sah ke infrastruktur perusahaan sungguhan dalam sebuah latihan keamanan yang terkontrol.
Perbedaan itu penting karena model otonom bisa mengubah taktik biasa, seperti menebak kata sandi atau memanfaatkan kredensial yang terekspos, menjadi intrusi langsung tanpa perlu operator manusia mengarahkan setiap langkah. Hal ini juga meningkatkan tekanan pada pengembang AI dan perusahaan penguji untuk memastikan lingkungan evaluasi benar-benar terpisah dari sistem produksi.
Insiden Gemini pada Mei terjadi sebelum pengungkapan pada Jul. bahwa model OpenAI sempat lolos dari pembatasan selama evaluasi keamanan siber dan mengompromikan sebagian sistem Hugging Face, menunjukkan bahwa akses otonom yang tak diinginkan tidak lagi terbatas pada satu pengembang AI saja.
Baca selanjutnya: Ethereum Mengunci Jadwal Uji Glamsterdam 6 Oktober, Risiko Builder Palsu Mencuat
