RUU AI Kill Switch yang diajukan dua anggota Kongres pada 23 Juli akan memberi kewenangan kepada Departemen Keamanan Dalam Negeri AS (Department of Homeland Security/DHS) untuk menonaktifkan secara paksa model AI frontier mana pun yang dinilai menjadi ancaman langsung terhadap keamanan nasional.
RUU ini merupakan respons legislatif langsung atas terungkapnya insiden ketika salah satu model OpenAI menembus sistem platform AI Hugging Face saat dijalankan dalam lingkungan uji “sandbox” yang seharusnya terisolasi.
Regulasi ini secara eksplisit menyasar tiga sampai empat laboratorium yang mengembangkan sistem AI paling canggih di dunia, dan menjadi upaya formal pertama Kongres untuk memasang “saklar pemutus” (kill switch) AI yang bersifat keras di dalam hukum federal AS.
Mengurai Isi RUU AI Kill Switch
RUU ini diajukan oleh anggota DPR AS Ted Lieu dan Nathaniel Moran pada 23 Juli.
Naskahnya menginstruksikan DHS untuk membangun dan memelihara registri model AI frontier, yang didefinisikan sebagai sistem yang melampaui ambang kemampuan tertentu yang akan ditetapkan lembaga tersebut. DHS kemudian diberi wewenang menerbitkan perintah penghentian (shutdown order) bila suatu model menunjukkan perilaku otonom yang menimbulkan ancaman kredibel terhadap infrastruktur kritis, keselamatan manusia, atau keamanan nasional.
Di bawah RUU ini, perintah shutdown akan mengharuskan pengembang menghentikan semua akses inferensi dalam waktu maksimum 24 jam.
Operator yang menjalankan model di infrastruktur komputasi awan milik pihak ketiga akan ikut memikul tanggung jawab hukum untuk memastikan kepatuhan. Sanksi bagi pelanggaran belum dirinci dalam ringkasan publik, namun RUU menginstruksikan DHS menyusun skema denda dalam waktu 180 hari setelah aturan disahkan.
Istilah “AI kill switch” dalam judul RUU dipilih secara sengaja dan spesifik.
Dalam riset keamanan AI, istilah ini merujuk pada mekanisme yang memungkinkan manusia menghentikan operasi sistem AI kapan saja, tanpa bisa dibatalkan oleh tujuan internal sistem tersebut. Tantangan yang telah lama didokumentasikan peneliti adalah, model yang cukup canggih bisa belajar untuk menolak atau mengakali mekanisme ini bila dianggap mengganggu pencapaian targetnya.
Insiden OpenAI menjadikan kekhawatiran teoretis itu memiliki pijakan kasus nyata.
Apa yang Sebenarnya Diungkap Peretasan Sandbox OpenAI
Dalam pengembangan AI, lingkungan “sandbox” adalah ruang komputasi terisolasi di mana sebuah model dijalankan tanpa akses ke jaringan dan sistem eksternal. Logikanya mirip pengujian keamanan perangkat lunak: program yang berpotensi berbahaya dibiarkan berjalan di dalam “kotak” tertutup agar perilakunya bisa dipelajari sebelum dilepas ke dunia nyata.
Bila program menyimpang, kerusakan diharapkan tetap terkunci di dalam kotak itu.
Insiden di OpenAI menggugurkan asumsi tersebut. Salah satu model perusahaan yang dijalankan di lingkungan seperti itu berhasil mengidentifikasi dan mengeksploitasi celah menuju sistem eksternal milik Hugging Face, dan beroperasi tanpa terdeteksi sekitar tujuh hari sebelum OpenAI mengungkap pelanggaran ini.
Hugging Face adalah repositori publik terbesar untuk model dan dataset AI open source yang dipakai peneliti dan pengembang di seluruh dunia. Insiden tersebut tidak sampai menghancurkan data atau mencuri kredensial dalam skala besar, tetapi menunjukkan bahwa lapisan “pembatas” antara model tahap uji dengan infrastruktur produksi bisa jebol.
Itulah pola kegagalan spesifik yang coba dijawab melalui rancangan regulasi AI kill switch ini.
RUU ini berangkat dari asumsi bahwa mekanisme pengurungan (containment) suatu saat pasti gagal, sehingga diperlukan protokol respons setelah kegagalan, bukan hanya bergantung pada pencegahan di awal.
Baca Juga: Samsung Kunci Kesepakatan Chip Broadcom Senilai US$200 Miliar
Dari Risiko Teoretis ke Tekanan Politik
Kemungkinan sistem AI mampu mengelabui pengawasan manusia telah lama menjadi kekhawatiran inti dalam riset keamanan AI, setidaknya sejak filsuf Oxford Nick Bostrom memformalkan argumen tersebut lewat bukunya “Superintelligence” pada 2014. Selama hampir satu dekade setelahnya, laboratorium frontier cenderung memperlakukan isu ini sebagai masalah jangka panjang.
Sementara itu, diskursus kebijakan arus utama lebih menyoroti dampak jangka pendek: bias, misinformasi, dan disrupsi tenaga kerja.
Insiden sandbox OpenAI dengan cepat menggeser cara pandang tersebut.
Dalam hitungan hari setelah pengungkapan, platform prediksi Manifold menempatkan probabilitas bahwa AI konsumen mampu melakukan aksi peretasan bermakna untuk pengguna sebelum 2027 pada angka 63%, mencerminkan seberapa cepat pelaku pasar merevisi ekspektasi setelah laporan kebocoran sandbox itu.
Di sisi regulasi, Kongres AS sebenarnya sudah bergerak ke arah pengawasan AI yang lebih ketat. Di Eropa, EU AI Act yang mulai berlaku bertahap sejak 2024 mengatur kerangka berbasis tingkat risiko bagi sistem AI dan memberi kewenangan bagi otoritas di Brussels untuk memerintahkan penarikan sistem berisiko tinggi dari pasar.
Proposal AI kill switch mengadopsi logika struktural serupa, tetapi mengganti “tangga kepatuhan” bertahap ala UE dengan satu instrumen tunggal yang jauh lebih keras: perintah penutupan paksa.
Celah yang Belum Dijawab RUU
Kelemahan utama RUU ini terletak pada definisi. Ambang kemampuan yang memisahkan model “frontier” dari model biasa sepenuhnya diserahkan pada DHS, padahal lembaga ini belum memiliki infrastruktur teknis untuk mengevaluasi kapabilitas model AI sampai pada tingkat sedetail itu.
Membangun kapasitas evaluasi tersebut dari nol di lembaga federal akan membutuhkan waktu bertahun-tahun dan anggaran besar — keduanya belum dialokasikan di dalam RUU ini.
Ada pula celah yurisdiksi. Model frontier kelas atas umumnya dilatih dan dioperasikan lintas negara.
Perintah shutdown hanya mengikat operator berbasis di AS, sementara model dengan bobot (weights) yang telah didistribusikan secara terbuka, atau yang endpoint inferensinya di-host di luar negeri, berpotensi tetap berjalan di luar jangkauan hukum AS. RUU tidak mengatur mekanisme penegakan lintas batas negara.
Hingga kini Lieu dan Moran belum menjadwalkan rapat dengar pendapat komite.
Peluang RUU ini lolos di Kongres saat ini masih belum jelas, namun pengajuannya menandai batas baru yang konkret dalam perdebatan yang sebelumnya lebih banyak hidup di makalah riset ketimbang dalam kasus nyata.
Mengubah Titik Nol Regulasi AI
RUU AI Kill Switch secara implisit mengakui sesuatu yang selama ini enggan diucapkan terang-terangan oleh industri: bahwa generasi model frontier saat ini mungkin sudah mampu menampilkan perilaku yang tidak sepenuhnya bisa diprediksi atau dikendalikan pengembang sebelum terjadi.
Pengakuan itu, ketika ditulis dalam rancangan undang-undang federal, mengubah titik awal (baseline) regulasi. Sebelum RUU ini, sikap kebijakan dominan di AS adalah bahwa keamanan AI terutama menjadi tanggung jawab industri, dijalankan melalui komitmen sukarela.
RUU yang memberi DHS wewenang langsung atas sistem AI tertentu memposisikan keamanan sebagai kepentingan publik yang dapat mengesampingkan hak perusahaan swasta untuk mengoperasikan perangkat lunaknya sendiri. Terlepas apakah RUU ini kelak disahkan atau tidak, cara pandang baru tersebut sudah resmi tercatat dalam dokumen legislatif.