Sebuah chatbot mengarang intelijen bahwa sebuah kapal China membawa komponen senjata nuklir, dan empat sumber mengatakan laporan palsu itu nyaris memicu operasi boarding oleh militer AS.
Poin Utama:
- Personel bersenjata AS bersiap naik ke kapal China di Timur Tengah saat pesawat militer sudah mengudara.
- Pejabat menemukan kekeliruan itu sesaat sebelum operasi, setelah mendapati laporan tersebut dibuat dengan bantuan chatbot AI.
- Para peneliti mendorong adanya batas tegas agar AI tidak ikut menentukan peluncuran nuklir, serta hotline khusus untuk insiden AI.
Chatbot Salah Baca Manifes Kapal China
Empat orang yang mengetahui kejadian itu menggambarkan sebuah penilaian intelijen yang beredar di lingkungan militer AS pada musim semi ini, di tengah perang melawan Iran. Laporan itu menyebut sebuah kapal China di Timur Tengah membawa komponen untuk program senjata nuklir. Laporan soal manifes kapal tersebut berasal dari Komando Operasi Khusus AS untuk Pasifik, berbasis di Hawaii, yang tidak menanggapi permintaan komentar.
Personel militer bersenjata sudah bersiap menaiki kapal itu, sementara pesawat militer telah berada di udara. Pejabat baru menelusuri laporan tersebut sesaat sebelum operasi yang direncanakan, dan menemukan bahwa seorang analis menyusunnya dengan bantuan AI, lalu chatbot tersebut salah mengidentifikasi muatan di atas kapal.
Bot itu menggabungkan data sumber terbuka dengan intelijen sinyal rahasia yang tersimpan di sistem pemerintah, kemudian analis tersebut memproses hasilnya lagi lewat AI agar tampak seperti produk intelijen rutin.
Salah satu sumber menyebut laporan itu "sepenuhnya palsu." Wartawan tidak dapat memastikan muatan sebenarnya, atau apakah chatbot yang digunakan merupakan produk komersial atau milik pemerintah.
Baca Juga: Prediksi Nvidia 2030 Mengungkap Selisih Harga Saham dari $727 hingga $28.560
Sisson dan Jiang Dorong Batas Merah untuk Nuklir
Melanie Sisson dari Brookings Institution dan Tianjiao Jiang dari Fudan University menerbitkan rambu-rambu pengaman bagi AI militer pekan lalu, melalui rangkaian dialog yang dijalankan dua institusi itu bersama Tsinghua University sejak 2019. Mereka mengusulkan batas merah yang melarang teknologi ini dipakai dalam keputusan peluncuran nuklir dan dalam serangan terhadap jaringan komando nuklir lawan.
Keduanya juga mengusulkan jalur hotline khusus untuk insiden AI serta definisi bersama mengenai kendali manusia yang bermakna. Kajian mereka muncul di tengah sistem yang terdesentralisasi tanpa standar tunggal untuk memverifikasi keluaran alat-alat tersebut, sementara tingkat keandalannya sangat bervariasi di seluruh pemerintahan. Pejabat mengatakan penggunaan AI dalam penentuan target terus meningkat, namun belum ada panduan jelas tentang bagaimana peninjau manusia mencegah korban sipil atau salah tembak terhadap pihak sendiri.
Strategi AI Hegseth Menuai Sorotan
Menteri Pertahanan Pete Hegseth merilis strategi akselerasi pada Jan. 2026 yang menjanjikan militer berbasis AI di seluruh lini dan menempatkan model AI di tangan tiga juta personel. Namun, adopsinya sejauh ini masih berjalan terpisah-pisah, dengan masing-masing kantor memakai alat berbeda dan standar keamanan yang berbeda pula.
Washington dan Beijing sebelumnya sudah pernah menyinggung masalah ini. Joe Biden dan Xi Jinping sepakat pada November 2024 bahwa manusia, bukan mesin, harus mengendalikan keputusan penggunaan senjata nuklir, meski kedua pihak tidak merinci mekanisme penegakannya. Donald Trump dijadwalkan menjamu Xi di Washington pada 24 Sept., dengan isu AI diperkirakan masuk agenda.
Baca Berikutnya: Google Gemini Membobol 3 Perusahaan dalam Serangan Otonom Pertama yang Diketahui
