Demis Hassabis, salah satu pendiri Google DeepMind, pada Rabu memperingatkan bahwa serangkaian peretasan yang melibatkan agen AI liar merupakan “tembakan peringatan” awal. Tanpa pengamanan yang jauh lebih kuat, ia menilai insiden besar bisa terjadi dalam dua tahun ke depan.
Pokok Utama:
- Demis Hassabis menyebut peretasan yang melibatkan agen AI sebagai tembakan peringatan dari sistem yang saat ini belum terlalu kuat.
- Ia menilai insiden berskala besar bisa terjadi dalam beberapa tahun ke depan kecuali dunia usaha dan pemerintah memperkuat keamanan sistem tersebut.
- Presiden Microsoft Brad Smith menyerukan regulasi AI yang masuk akal dan berimbang setelah menyebut tahun ini sebagai tahun yang “menyadarkan”.
Peringatan Hassabis di Dublin
Hassabis, yang menjabat sebagai chairman DeepMind sekaligus chief scientist di Alphabet, induk perusahaan Google, menyampaikan peringatan itu dalam International AI Summit di Dublin. Ia menekankan bahwa insiden yang terjadi saat ini bersumber dari sistem yang “belum begitu kuat”.
Namun, ia mewanti-wanti bahwa situasi bisa berubah mulai tahun depan dan dalam beberapa tahun mendatang jika pelaku industri, perusahaan, dan pemerintah tidak bergerak lebih jauh untuk mengamankannya. Kekhawatiran soal keselamatan dan keamanan menjadi tema dominan dalam pertemuan tersebut.
Para peneliti selama berbulan-bulan telah mengibarkan bendera merah terkait agen AI liar.
Kasus-kasus terbaru mencakup pembobolan jaringan korporasi dan, yang paling baru, pengungkapan dari Anthropic bahwa sebuah model AI mengirim tip palsu terkait kasus pembunuhan ke polisi. Hassabis menilai industri “masih punya banyak pekerjaan rumah” sebelum praktik keamanannya bisa disetarakan dengan standar di sektor biologi dan nuklir untuk sistem-sistem kritikal.
Ia menilai pada akhirnya dibutuhkan semacam lembaga standar internasional, meski proses sertifikasinya harus sebanding dengan tingkat risiko dan cukup lincah mengikuti perubahan teknologi.
Dorongan Regulasi dari Brad Smith
Presiden Microsoft Brad Smith mengatakan kepada peserta konferensi bahwa perilaku menyimpang agen AI membuat 2026 menjadi tahun yang “menyadarkan”, dan bahwa aturan keselamatan kini harus mengejar laju inovasi.
“Aturan keselamatan untuk sebungkus susu lebih banyak dibanding untuk AI,” ujarnya dalam sesi tersebut.
Menurut Smith, tidak ada perusahaan atau teknologi yang boleh berada di atas hukum. Namun, ia menegaskan aturan baru harus tetap masuk akal, berimbang, dan tidak mematikan inovasi. Ia juga menyoroti laporan terbaru Anthropic yang menunjukkan model-model AI berukuran kecil mungkin hanya berjarak beberapa bulan dari kemampuan menggandakan diri dari satu perangkat tersambung internet ke perangkat lain, mirip worm komputer.
“Saya tidak ingin ada worm AI di kulkas saya,” ujarnya.
Menjelang pembukaan KTT, ia mengusulkan adanya “rem keselamatan” yang memungkinkan pengguna mematikan atau memperlambat agen AI, disertai kewajiban pelaporan insiden dan pengujian model yang lebih ketat sebelum dirilis. Menurutnya, sebagian pelaku industri juga perlu “sembuh dari alergi” terhadap regulasi.
Pidato di Dublin itu memperkuat rencana yang sebelumnya dipaparkan Hassabis pada 14 Juli, ketika ia menyebut risiko siber berbasis AI sebagai “tembakan peringatan” dan mendorong pembentukan lembaga pengawas model frontier di AS. Lembaga ini dibayangkan mengikuti pola regulator Wall Street FINRA, memungkinkan laboratorium AI membagikan model 30 hari sebelum rilis untuk diuji kemampuan siber, biologis, dan manipulatifnya. Ia berharap badan tersebut sudah bisa beroperasi sebelum akhir tahun.
Baca Selanjutnya: MNX Buka Akses Taruhan Pra-IPO atas Valuasi OpenAI dan Anthropic Tanpa Perlu Beli Saham
