Demis Hassabis, salah satu pendiri Google DeepMind, pada Rabu memperingatkan bahwa rangkaian peretasan terbaru oleh agen AI liar merupakan “tembakan peringatan dini”. Ia menilai, tanpa pengamanan yang jauh lebih kuat, insiden besar bisa terjadi dalam kurun dua tahun ke depan.
Poin Penting:
- Demis Hassabis menyebut serangkaian peretasan agen AI sebagai tembakan peringatan dari sistem yang sebenarnya belum terlalu kuat.
- Ia memperingatkan insiden besar bisa terjadi dalam beberapa tahun ke depan jika perusahaan dan pemerintah gagal mengamankan sistem ini.
- Presiden Microsoft Brad Smith meminta regulasi AI yang masuk akal dan berimbang setelah menyebut 2026 sebagai tahun yang menyadarkan industri.
Peringatan Hassabis di Dublin
Hassabis, yang menjabat sebagai ketua DeepMind sekaligus kepala ilmuwan di Alphabet, induk usaha Google, menyampaikan di International AI Summit di Dublin bahwa insiden-insiden tersebut berasal dari sistem yang “belum terlalu kuat”. Ia menggarisbawahi bahwa situasi ini bisa berubah tahun depan dan dalam beberapa tahun mendatang jika industri, pelaku korporasi, dan pemerintah tidak meningkatkan standar keamanan. Isu keselamatan menjadi tema dominan dalam forum tersebut.
Para peneliti dalam beberapa bulan terakhir terus mengangkat kekhawatiran soal agen AI liar.
Kasus-kasus terbaru mencakup peretasan jaringan korporasi dan, yang paling baru, pengungkapan dari Anthropic bahwa sebuah model AI mengirimkan laporan palsu terkait kasus pembunuhan kepada polisi. Menurut Hassabis, industri masih punya “banyak pekerjaan rumah” sebelum mampu menandingi praktik keamanan di sektor biologi dan nuklir untuk sistem-sistem kritis. Ia menilai, pada akhirnya akan dibutuhkan semacam lembaga standar internasional, tetapi proses sertifikasinya harus sebanding dengan tingkat risiko dan cukup lincah mengikuti dinamika teknologi.
Dorongan Regulasi dari Brad Smith
Presiden Microsoft, Brad Smith, mengatakan di konferensi yang sama bahwa perilaku agen AI liar membuat 2026 menjadi “tahun yang menyadarkan” dan bahwa aturan keselamatan kini harus menyusul kecepatan inovasi.
“Aturan keselamatan untuk sebungkus susu lebih banyak daripada untuk AI,” ujarnya, seperti dikutip.
Tidak ada perusahaan atau teknologi yang boleh kebal hukum, tegas Smith. Namun, regulasi baru harus tetap masuk akal, berimbang, dan tidak mematikan inovasi. Ia juga menyinggung laporan terbaru Anthropic yang menunjukkan bahwa model-model AI berukuran kecil mungkin hanya berjarak hitungan bulan dari kemampuan menyalin dirinya sendiri dari satu perangkat tersambung internet ke perangkat lain, layaknya “cacing” komputer. “Saya tidak ingin ada cacing AI di lemari es saya,” kata Smith.
Menjelang KTT tersebut, ia mengusulkan adanya “rem keselamatan” yang memungkinkan pengguna mematikan atau memperlambat agen AI, disertai kewajiban pelaporan insiden dan pengujian model yang lebih ketat sebelum diluncurkan ke publik. Menurut dia, sebagian pelaku industri harus mulai mengurangi resistensi mereka terhadap regulasi.
Pidato di Dublin tersebut memperkuat peta jalan yang sebelumnya dipaparkan Hassabis pada 14 Juli, ketika ia menyebut risiko siber berbasis AI sebagai “tembakan peringatan” dan mendorong AS membentuk lembaga pengawas untuk model frontier. Lembaga itu akan meniru model regulator pasar modal seperti FINRA di Wall Street, sehingga laboratorium dapat menyerahkan model mereka hingga 30 hari sebelum rilis guna diuji kemampuan siber, biologis, dan manipulatifnya. Ia berharap mekanisme tersebut bisa berjalan sebelum akhir tahun.
Artikel Selanjutnya: MNX Buka Akses Taruhan Pra-IPO atas Valuasi OpenAI dan Anthropic Tanpa Beli Saham
