Mantan peneliti keamanan Google DeepMind, Bilal Chughtai, memperingatkan bahwa kecerdasan buatan berpotensi memusnahkan umat manusia. Di saat yang sama, seorang mantan peneliti lain di laboratorium tersebut menilai risiko kerusakan serius bisa muncul dalam lima tahun ke depan.
Poin-Poin Utama:
- Chughtai meninggalkan DeepMind pada Juli dan menilai superkecerdasan dapat muncul dalam beberapa tahun ke depan.
- Ia menilai riset alignment tertinggal jauh dari laju peningkatan kapabilitas dan mendorong perlambatan terkoordinasi, bukan penghentian pengembangan AI.
- Mantan peneliti DeepMind Josh Engels melihat risiko kerusakan masif dalam lima tahun, sementara figur di Anthropic dan OpenAI ikut mendukung seruan memperlambat pengembangan.
Peringatan AI dari Chughtai
Chughtai, mantan insinyur riset yang berfokus pada keamanan dan alignment kecerdasan buatan umum (AGI), mundur dari DeepMind pada Juli dan memublikasikan peringatannya pekan ini.
Ia mengatakan laboratorium AI bisa membangun sistem superinteligensi dalam beberapa tahun mendatang, berpotensi melampaui kemampuan manusia di hampir semua bidang, namun tetap sulit diselaraskan dengan tujuan dan nilai manusia.
Menurut Chughtai, masalah inti terletak pada alignment. Ia menulis, “Saya dengan sungguh-sungguh percaya bahwa AI berpotensi membunuh kita semua, dan kita mungkin mulai kehabisan waktu untuk menghindari hasil tersebut.”
Ia menilai metode saat ini untuk melatih sistem canggih agar secara konsisten mengejar tujuan manusia masih “sangat primitif”, sementara kapabilitas frontier meningkat jauh lebih cepat dibanding pemahaman peneliti terhadap alignment. Chughtai tidak menyerukan penghentian total pengembangan AI. Sebaliknya, ia ingin perusahaan berkoordinasi, memperlambat perlombaan kompetitif, dan meningkatkan transparansi terkait cara sistem frontier dibangun dan diuji.
Baca Juga: UU CLARITY Hadapi Uji 60 Suara di Senat di Tengah Kian Besarnya Oposisi
Dorongan Keamanan di Anthropic
Peringatan Chughtai muncul setelah pengunduran diri Jacob Coxon awal bulan ini, setelah tiga tahun berkarya di Anthropic dan OpenAI. Pimpinan sains alignment Anthropic, Evan Hubinger, kemudian menyatakan ia melihat kemungkinan lebih dari 10% bahwa AI bisa memusnahkan seluruh umat manusia dalam dekade mendatang.
Engels, yang juga pernah bekerja di tim keamanan DeepMind, pada 12 September mengatakan ia bergabung dengan lembaga evaluasi nirlaba METR setelah menolak tawaran Anthropic dan OpenAI, dengan alasan adanya “peluang yang mengerikan” terhadap kerusakan AI berskala besar dalam lima tahun ke depan.
CEO Anthropic Dario Amodei telah menyerukan agar perusahaan menahan laju peningkatan kapabilitas, sebuah posisi yang turut didukung CEO OpenAI Sam Altman, seiring melebaranya perdebatan di antara laboratorium AI terkemuka. Kesepahaman ini dinilai penting karena peringatan kini datang bukan hanya dari peneliti keamanan yang keluar, tetapi juga dari para eksekutif yang memimpin laboratorium AI besar.
Gelombang peringatan saat ini mencerminkan perubahan cepat sejak awal 2022, ketika Chughtai mulai mengerjakan AI dan menggambarkan sistem yang saat itu jauh kurang mampu dibanding model frontier masa kini. Dalam empat tahun, perdebatan bergeser dari teori keselamatan jangka panjang ke kekhawatiran konkret tentang otonomi, alignment, dan apakah riset keamanan mampu mengejar laju peningkatan kapabilitas.
Baca Selanjutnya: API Bitget Kini Menjangkau Emas, Forex, Indeks dan Minyak Mentah
