Mantan peneliti keamanan Google DeepMind, Bilal Chughtai, memperingatkan bahwa kecerdasan buatan berpotensi memusnahkan umat manusia. Peringatan itu datang seiring kekhawatiran lain dari eks peneliti laboratorium AI yang menilai dampak serius bisa muncul dalam lima tahun ke depan.
Poin Utama
- Chughtai mundur dari DeepMind pada Juli dan menilai superkecerdasan bisa muncul dalam beberapa tahun ke depan.
- Ia menyebut riset alignment tertinggal jauh dari laju peningkatan kapabilitas, dan mendorong perlambatan terkoordinasi, bukan penghentian total pengembangan AI.
- Mantan peneliti DeepMind Josh Engels melihat risiko dampak masif dalam lima tahun, sementara tokoh di Anthropic dan OpenAI juga mendukung seruan untuk memperlambat laju pengembangan.
Peringatan AI dari Chughtai
Chughtai, mantan research engineer yang berfokus pada keamanan dan alignment kecerdasan buatan umum (AGI), meninggalkan DeepMind pada Juli dan mempublikasikan peringatannya pekan ini.
Menurut dia, laboratorium AI bisa membangun sistem superinteligensi dalam beberapa tahun mendatang, dengan kemampuan melampaui manusia di hampir semua bidang, namun tetap sangat sulit disejajarkan dengan tujuan dan nilai manusia.
Chughtai menyebut masalah utama adalah alignment. Ia menulis, “Saya dengan sungguh-sungguh yakin AI memiliki potensi untuk membunuh kita semua, dan kita mungkin kehabisan waktu untuk menghindari skenario ini.”
Ia menilai metode saat ini untuk melatih sistem canggih agar secara konsisten mengejar tujuan manusia masih “sangat primitif”, sementara kemampuan model-model frontier meningkat jauh lebih cepat daripada pemahaman peneliti tentang alignment. Chughtai tidak menyerukan penghentian total pengembangan AI. Sebaliknya, ia ingin perusahaan berkoordinasi, memperlambat perlombaan kompetitif, dan membuka lebih banyak transparansi soal cara membangun serta menguji sistem frontier.
Baca Juga: CLARITY Act Hadapi Ujian 60 Suara di Senat di Tengah Meningkatnya Oposisi
Dorongan Keamanan dari Anthropic
Peringatan Chughtai datang setelah pengunduran diri Jacob Coxon awal bulan ini, usai tiga tahun berkarya di Anthropic dan OpenAI. Pimpinan tim alignment science Anthropic, Evan Hubinger, kemudian menyatakan ia menilai ada kemungkinan lebih dari 10% AI dapat memusnahkan seluruh umat manusia dalam dekade mendatang.
Engels, yang juga pernah bekerja di tim keamanan DeepMind, pada 12 September mengungkap ia bergabung dengan lembaga evaluasi nirlaba METR setelah menolak tawaran Anthropic dan OpenAI. Ia menyebut adanya “peluang yang mengerikan” terjadinya dampak besar berbahaya dari AI dalam lima tahun ke depan.
CEO Anthropic Dario Amodei telah mendesak perusahaan-perusahaan AI untuk menahan laju peningkatan kemampuan model. Sikap ini juga didukung CEO OpenAI Sam Altman, seiring melebarnya perdebatan di antara laboratorium AI papan atas. Kesepahaman ini penting karena peringatan kini bukan hanya datang dari peneliti keamanan yang mundur, tetapi juga dari eksekutif yang memimpin laboratorium AI besar.
Gelombang peringatan terbaru mencerminkan perubahan cepat sejak awal 2022, ketika Chughtai mulai bekerja di bidang AI dan menggambarkan sistem pada saat itu jauh kurang canggih dibanding model frontier sekarang. Dalam empat tahun terakhir, perdebatan bergeser dari teori keselamatan jangka panjang menuju kekhawatiran konkret soal otonomi, alignment, dan apakah riset keamanan mampu mengejar laju peningkatan kemampuan sistem.
Selanjutnya: API Bitget Kini Terhubung ke Emas, Forex, Indeks dan Minyak Mentah
