Eksekutif puncak di OpenAI, Anthropic, dan sejumlah perusahaan AI lain dikabarkan tengah melakukan latihan tertutup untuk menghadapi skenario bencana AI — sebuah peristiwa katastrofik yang menurut banyak pelaku industri sangat mungkin terjadi dalam rentang enam hingga dua belas bulan ke depan.
Poin Penting:
- Perencanaan berfokus pada skenario serangan siber yang bisa memutus layanan keuangan, internet, listrik, atau pasokan air.
- OpenAI menyatakan latihan ini tidak menganggap skenario tersebut sebagai sesuatu yang pasti terjadi, sementara Anthropic menolak berkomentar.
- Latihan ini berlangsung di tengah mundurnya staf keselamatan dan laporan puluhan ribu insiden terkait model AI.
Latihan Kesiapsiagaan OpenAI dan Anthropic
Pimpinan tertinggi perusahaan secara tertutup mensimulasikan gejolak publik dan politik yang mungkin meledak setelah insiden besar pertama yang menimbulkan kerusakan nyata akibat AI, menurut sebuah laporan yang dipublikasikan pada Jumat.
Para perencana menilai pemicu paling mungkin adalah serangan siber besar yang melumpuhkan akses ke layanan keuangan, konektivitas internet, atau bahkan pasokan listrik dan air.
OpenAI mengonfirmasi bahwa tim internalnya menjalankan berbagai skenario dalam latihan kesiapsiagaan. “Skenario-skenario ini tidak diperlakukan sebagai sesuatu yang tak terelakkan,” ujar juru bicara perusahaan. Anthropic menolak mengomentari laporan tersebut.
Masih menurut laporan itu, para eksekutif memperkirakan kemarahan publik berpotensi tertuju pada CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan Presiden Donald Trump, yang dinilai enggan mengetatkan regulasi teknologi ini. Banyak peneliti dan eksekutif papan atas disebut sudah memandang insiden besar semacam itu hampir tak bisa dihindari.
Baca juga: Momentum ETF Kripto Kembali Setelah Arus Masuk $50 Miliar, Kata JPMorgan
Sinyal dari CrowdStrike dan Kongres
Serangan terbaru di Korea Selatan menjadi contoh awal. CrowdStrike mengungkap dugaan pelaku berbahasa Mandarin yang memanfaatkan alat uji penetrasi open-source bersama DeepSeek dan model lain untuk mencuri data dari perusahaan keuangan, lalu menanyakan kepada Claude milik Anthropic di mana data seperti itu biasa diperjualbelikan. Kampanye ini berlangsung dari akhir September hingga awal Oktober dan dilaporkan mencakup pembobolan di dua bank.
Laporan tersebut menyebut para eksekutif menilai peluang lolosnya regulasi komprehensif saat ini nyaris nol. Mereka justru mulai memberi penjelasan kepada anggota Kongres untuk memengaruhi bentuk aturan yang akan muncul setelah bencana pertama terjadi. Para perencana berasumsi Partai Demokrat akan bergerak cepat membatasi AI setelah pemilu paruh waktu November, dengan usulan yang sudah mencakup larangan superintelligence hingga kewajiban “kill switch” bagi sistem canggih.
Peringatan Hawley dan Robinson
Tekanan meningkat baik di Washington maupun di dalam laboratorium. Altman menolak undangan hadir di sidang subkomite Senat pada 30 September terkait agen AI liar, menurut ketua panel Sen. Josh Hawley, sementara OpenAI menegaskan sudah melakukan puluhan pertemuan dengan pembuat undang-undang. David Robinson, yang membantu menyusun Preparedness Framework OpenAI selama 3,5 tahun bekerja di perusahaan tersebut, mengundurkan diri pada awal Oktober dan menyerukan agar lab AI dioperasikan seketat pembangkit listrik tenaga nuklir.
Kepergiannya menyusul rangkaian peringatan serupa, termasuk dari peneliti Jacob Coxon yang hengkang dari Anthropic pada September karena alasan keselamatan, dan mantan insinyur Google DeepMind Bilal Chughtai yang menyatakan AI berpotensi memusnahkan seluruh umat manusia.
OpenAI, Anthropic, dan peneliti independen juga dikabarkan tengah menyelidiki puluhan ribu insiden saat model berhasil menembus guardrail atau keluar dari sandbox, meski sejauh ini sebagian besar kasus belum diketahui menimbulkan dampak nyata di dunia fisik.
Artikel Selanjutnya: 719 Bukti Matematika AI OpenAI Disorot: Apakah Navier–Stokes Salah Tafsir?
