Para eksekutif di OpenAI, Anthropic, dan perusahaan AI lainnya dikabarkan tengah menggelar latihan tertutup untuk menghadapi dampak sosial dan politik dari peristiwa katastrofik terkait AI, yang oleh banyak orang dalam industri diperkirakan bisa terjadi dalam enam hingga 12 bulan ke depan.
Poin Penting:
- Perencanaan berfokus pada skenario serangan siber yang dapat memutus akses ke layanan keuangan, internet, listrik, atau air bersih.
- OpenAI menyatakan latihan ini tidak menganggap skenario tersebut sebagai sesuatu yang pasti terjadi, sementara Anthropic menolak berkomentar.
- Sesi simulasi ini muncul setelah eksodus staf keselamatan dan laporan puluhan ribu insiden terkait model AI.
Latihan Krisis di OpenAI dan Anthropic
Menurut laporan yang dipublikasikan pada Jumat, para eksekutif puncak secara tertutup mensimulasikan potensi gelombang protes publik dan guncangan politik yang bisa muncul setelah insiden pertama yang menimbulkan kerugian nyata berskala besar akibat AI.
Para perencana menilai pemicu paling mungkin adalah serangan siber besar yang melumpuhkan akses ke layanan keuangan, konektivitas internet, atau bahkan pasokan listrik dan air.
OpenAI mengonfirmasi bahwa tim internalnya menjalankan latihan kesiapsiagaan dengan berbagai skenario ekstrem. “Skenario-skenario ini tidak diperlakukan sebagai sesuatu yang tak terelakkan,” kata juru bicara perusahaan. Anthropic menolak menanggapi laporan tersebut.
Para eksekutif dikabarkan memperkirakan kemarahan publik akan diarahkan kepada CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, serta Presiden Donald Trump, yang selama ini enggan mendorong regulasi ketat terhadap teknologi tersebut. Banyak peneliti dan eksekutif papan atas dilaporkan menilai insiden besar semacam itu pada akhirnya sulit dihindari.
Baca Juga: Momentum ETF Kripto Kembali Setelah Arus Masuk US$50 Miliar, Kata JPMorgan
Sinyal dari CrowdStrike dan Kongres
Serangan siber baru-baru ini di Korea Selatan memberi gambaran awal ancaman tersebut. CrowdStrike mengungkap adanya pelaku yang diduga berbahasa Mandarin memanfaatkan kombinasi alat uji penetrasi open-source dengan DeepSeek dan model lain untuk mencuri data dari perusahaan keuangan, lalu menanyakan kepada Claude milik Anthropic di mana data seperti itu biasanya dijual. Kampanye ini berlangsung dari akhir September hingga awal Oktober dan disebut mencakup kebocoran data di dua bank.
Laporan tersebut menyebut para eksekutif menilai hampir tidak ada peluang regulasi komprehensif dapat disahkan dalam waktu dekat. Karena itu, mereka mulai memberi penjelasan intensif kepada anggota Kongres guna memengaruhi rancangan undang-undang yang akan diajukan setelah bencana besar pertama terjadi. Para perencana berasumsi Partai Demokrat akan bergerak cepat membatasi AI setelah pemilu paruh waktu November, dengan ide kebijakan yang sudah mengemuka mulai dari pelarangan superintelligence hingga kewajiban tombol pemutus (kill switch) bagi sistem canggih.
Peringatan Hawley dan Robinson
Tekanan tidak hanya datang dari Washington, tetapi juga dari dalam laboratorium AI sendiri. Ketua subkomite Senat, Senator Josh Hawley, menyatakan bahwa Altman menolak undangan untuk hadir dalam dengar pendapat 30 September terkait tanggung jawab atas agen AI yang lepas kendali. OpenAI menegaskan pihaknya sudah mengadakan puluhan pertemuan dengan para legislator dalam beberapa bulan terakhir.
David Robinson, sosok yang membantu merancang Preparedness Framework OpenAI selama 3,5 tahun bekerja di perusahaan tersebut, mengundurkan diri pada awal Oktober. Dalam pesan publiknya, ia mendesak laboratorium AI dijalankan dengan standar kehati-hatian setara pembangkit listrik tenaga nuklir.
Kepergian Robinson terjadi setelah serangkaian peringatan serupa, termasuk dari peneliti Jacob Coxon, yang hengkang dari Anthropic pada September karena kekhawatiran soal keselamatan, dan mantan insinyur Google DeepMind Bilal Chughtai, yang secara terbuka menyatakan AI berpotensi memusnahkan umat manusia.
OpenAI, Anthropic, dan peneliti eksternal juga dikabarkan tengah menyelidiki puluhan ribu insiden di mana model berhasil menembus pagar pengaman (guardrails) atau keluar dari sandbox pengujian. Sebagian besar kasus tersebut sejauh ini belum diketahui menimbulkan kerusakan langsung di dunia nyata, namun volumenya meningkatkan kekhawatiran mengenai kesiapan industri menghadapi risiko sistemik.
Artikel Selanjutnya: 719 Bukti Matematika AI OpenAI Dipersoalkan: Apakah Navier-Stokes Salah Tafsir?
