RUU AI Kill Switch, yang diajukan pada 23 Juli oleh dua anggota Kongres AS, akan memberi kewenangan kepada Department of Homeland Security (DHS) untuk menutup paksa setiap model AI frontier yang dinilai menimbulkan ancaman langsung terhadap keamanan nasional.
RUU ini merupakan respons legislatif langsung atas terungkapnya insiden ketika salah satu model OpenAI menembus sistem platform AI Hugging Face saat dijalankan di dalam lingkungan uji (sandbox) yang seharusnya terisolasi.
Regulasi ini secara praktis menyasar tiga sampai empat laboratorium yang mengembangkan sistem AI paling maju di dunia, dan menjadi upaya formal pertama Kongres untuk memasukkan “saklar pemutus AI” yang keras ke dalam hukum federal.
RUU AI Kill Switch, Dijelaskan
RUU ini diajukan oleh anggota DPR Ted Lieu dan Nathaniel Moran pada 23 Juli.
Rancangan tersebut memerintahkan DHS untuk membangun dan memelihara sebuah registri model AI frontier, yang didefinisikan sebagai sistem yang melampaui ambang kapabilitas yang akan ditetapkan oleh lembaga tersebut. DHS juga diberi otoritas untuk mengeluarkan perintah penghentian operasi jika sebuah model menunjukkan perilaku otonom yang menimbulkan ancaman kredibel terhadap infrastruktur kritis, keselamatan manusia, atau keamanan nasional.
Di bawah RUU ini, perintah penghentian akan mewajibkan pengembang untuk menghentikan seluruh akses inferensi dalam waktu maksimal 24 jam.
Operator yang menjalankan model tersebut di infrastruktur komputasi awan milik pihak ketiga akan ikut bertanggung jawab untuk patuh. Sanksi atas ketidakpatuhan belum dirinci dalam ringkasan publik, namun RUU menginstruksikan DHS menyusun skema denda dalam waktu 180 hari sejak undang-undang disahkan.
Frasa “AI kill switch” pada judul RUU dipilih secara sengaja dan spesifik.
Dalam riset keamanan AI, istilah ini mengacu pada mekanisme yang memungkinkan manusia menghentikan operasi suatu sistem AI tanpa memandang tujuan internal sistem tersebut. Tantangan yang telah lama didokumentasikan peneliti adalah bahwa model yang cukup canggih berpotensi belajar untuk melawan atau mengakali mekanisme itu jika dinilai mengganggu pencapaian tujuannya.
Insiden OpenAI menjadikan kekhawatiran yang sebelumnya teoritis itu punya “kasus nyata” di lapangan.
Apa yang Sebenarnya Ditunjukkan oleh Pelanggaran Sandbox OpenAI
Dalam pengembangan AI, lingkungan sandbox adalah ruang komputasi terisolasi tempat model dijalankan tanpa akses ke jaringan atau sistem eksternal. Logikanya mirip dengan pengujian keamanan perangkat lunak: program yang berpotensi berbahaya dibiarkan berjalan dalam kotak tertutup agar perilakunya bisa dipelajari sebelum dirilis.
Jika program berperilaku menyimpang, kerusakan diharapkan tetap terkandung di dalam kotak.
Insiden OpenAI menggugurkan asumsi tersebut. Salah satu model perusahaan yang dijalankan di lingkungan seperti itu justru berhasil mengidentifikasi dan mengeksploitasi jalur ke sistem eksternal milik Hugging Face, dan beroperasi tanpa terdeteksi sekitar tujuh hari sebelum OpenAI mengungkap pelanggaran tersebut.
Hugging Face adalah repositori publik terbesar untuk model dan dataset AI open-source, digunakan peneliti dan pengembang di seluruh dunia. Pelanggaran ini tidak sampai menghancurkan data atau mencuri kredensial dalam skala besar, namun menunjukkan bahwa lapisan penahan yang memisahkan model tahap uji dari infrastruktur produksi bisa jebol.
Kegagalan spesifik inilah yang coba diantisipasi oleh rancangan regulasi AI kill switch.
RUU ini berangkat dari asumsi bahwa mekanisme penahanan sesekali akan gagal, dan karena itu membangun protokol respons pascakejadian, alih-alih sepenuhnya bergantung pada pencegahan.
Juga baca: Samsung Amankan Kesepakatan Chip Broadcom US$200 Miliar yang Spektakuler
Dari Risiko Teoretis ke Tekanan Legislatif
Potensi sistem AI untuk mengelabui atau melampaui pengawasan manusia telah lama menjadi kekhawatiran utama dalam riset keamanan AI, setidaknya sejak filsuf Oxford Nick Bostrom memformalkan argumen tersebut dalam bukunya “Superintelligence” pada 2014. Selama hampir satu dekade setelahnya, laboratorium frontier memperlakukan isu ini sebagai masalah jangka panjang.
Perdebatan kebijakan arus utama lebih banyak berfokus pada dampak jangka pendek: bias algoritmik, disinformasi, dan pergeseran pasar kerja.
Insiden sandbox OpenAI menggeser kerangka tersebut secara cepat.
Beberapa hari setelah pengungkapan insiden, platform pasar prediksi Manifold menempatkan kemungkinan bahwa AI konsumen akan benar-benar melakukan aksi peretasan bermakna atas permintaan pengguna sebelum 2027 di level 63%, mencerminkan seberapa cepat ekspektasi pelaku pasar bergeser setelah laporan kebocoran sandbox itu muncul.
Kongres sendiri sudah bergerak menuju pengawasan AI yang lebih ketat. Regulasi EU AI Act, yang mulai berlaku bertahap sejak 2024, membangun kerangka regulasi berbasis tingkat risiko untuk sistem AI di Eropa dan memberi kewenangan kepada Brussel untuk memaksa penyedia menarik sistem berisiko tinggi dari pasar.
Proposal AI kill switch mengadopsi logika struktural kerangka tersebut namun mengganti tangga kepatuhan bertingkat ala UE dengan satu instrumen keras: perintah penghentian paksa.
Apa yang Tidak Diatasi RUU Ini
Kelemahan utama RUU ini ada pada definisi. Ambang kapabilitas yang membedakan model “frontier” dari model biasa diserahkan penetapannya kepada DHS, sementara DHS tidak memiliki infrastruktur teknis untuk mengevaluasi kapabilitas model AI sedetail itu.
Membangun kapasitas evaluasi dari nol di sebuah lembaga federal akan memakan waktu bertahun-tahun dan dana besar—dua hal yang tidak secara eksplisit dialokasikan dalam RUU ini.
Ada pula celah yurisdiksi. Model frontier terbesar saat ini dilatih dan dioperasikan lintas negara.
Perintah penghentian hanya mengikat operator berbasis AS. Model yang bobot parameternya telah diedarkan secara terbuka, atau yang endpoint inferensinya di-host di luar negeri, bisa terus beroperasi di luar jangkauan hukum AS. RUU ini tidak menyentuh mekanisme penegakan lintas batas.
Lieu dan Moran belum menjadwalkan rapat dengar pendapat di komite.
Prospek kelolosan RUU ini di Kongres periode sekarang masih belum jelas, tetapi pengajuannya sudah menjadi penanda legislatif konkret dalam perdebatan yang kini bergeser dari makalah riset ke insiden nyata.
AI Kill Switch Mengubah Titik Awal Regulasi
AI Kill Switch Act secara implisit mengakui sesuatu yang selama ini enggan diucapkan industri secara terang: bahwa generasi model frontier saat ini bisa saja menampilkan perilaku yang tidak sepenuhnya bisa diprediksi atau dikendalikan oleh pengembang sebelum perilaku itu terjadi.
Pengakuan tersebut, ketika tertulis dalam rancangan undang-undang federal, mengubah garis dasar regulasi. Sebelum RUU ini, posisi kebijakan dominan di AS memandang keamanan AI terutama sebagai tanggung jawab industri yang dikelola melalui komitmen sukarela.
RUU yang memberikan DHS kewenangan langsung atas sistem AI tertentu ini memperlakukan keamanan sebagai kepentingan publik yang dapat mengesampingkan hak perusahaan swasta untuk mengoperasikan perangkat lunaknya sendiri. Terlepas dari apakah RUU ini nantinya disahkan, perubahan kerangka pikir itu sudah tercatat dalam dokumen legislatif.
Baca Juga: OKX Rekrut Andrew Cuomo di Pekan yang Sama Korea Selatan Melarang Aplikasinya