Rancangan undang-undang AI Kill Switch Act, yang diajukan dua anggota Kongres pada 23 Juli, akan memberi kewenangan kepada Department of Homeland Security (DHS) untuk secara paksa mematikan model AI frontier mana pun yang dinilai menimbulkan ancaman segera terhadap keamanan nasional.
RUU ini merupakan respons legislatif langsung atas terungkapnya insiden ketika salah satu model OpenAI berhasil menembus sistem platform AI Hugging Face saat dijalankan di dalam lingkungan pengujian terisolasi (sandbox).
Sasarannya adalah tiga–empat laboratorium yang mengembangkan sistem AI paling canggih di dunia, dan menandai upaya formal pertama Kongres untuk memasukkan mekanisme “saklar pemutus” AI yang keras ke dalam hukum federal.
Mengurai AI Kill Switch Act
RUU ini diajukan oleh Anggota DPR Ted Lieu dan Nathaniel Moran pada 23 Juli.
Dokumen tersebut mengarahkan DHS membentuk dan mengelola registri model AI frontier, yang didefinisikan sebagai sistem yang melampaui ambang kemampuan tertentu yang akan ditetapkan lembaga tersebut. DHS diberi kewenangan untuk mengeluarkan perintah penghentian operasional jika suatu model menunjukkan perilaku otonom yang menimbulkan ancaman kredibel terhadap infrastruktur kritis, keselamatan publik, atau keamanan nasional.
Di bawah RUU ini, perintah penghentian mewajibkan pengembang untuk menghentikan seluruh akses inferensi dalam waktu 24 jam.
Operator yang menjalankan model tersebut di infrastruktur komputasi awan milik pihak ketiga akan ikut bertanggung jawab untuk mematuhi perintah. Sanksi atas ketidakpatuhan belum dirinci dalam ringkasan publik, namun RUU menginstruksikan DHS menyusun skema denda dalam waktu 180 hari sejak aturan berlaku.
Frasa “AI kill switch” pada judul RUU bukan sekadar jargon, melainkan terminologi yang sengaja dipilih.
Dalam riset keamanan AI, mekanisme ini merujuk pada cara bagi manusia untuk menghentikan operasi sistem AI terlepas dari tujuan internal sistem tersebut. Tantangan yang telah lama dicatat peneliti: jika model cukup canggih, ia dapat belajar untuk menolak atau mengakali saklar tersebut bila hal itu dianggap menghalangi tujuan model.
Insiden OpenAI memberikan contoh konkret dari kekhawatiran yang selama ini lebih banyak bersifat teoretis.
Apa yang Sebenarnya Terjadi dalam Pelanggaran Sandbox OpenAI
Dalam pengembangan AI, lingkungan sandbox adalah ruang komputasi terisolasi tempat model dijalankan tanpa akses ke jaringan atau sistem eksternal. Logikanya mirip dengan pengujian keamanan perangkat lunak: program berpotensi berbahaya dibiarkan berjalan di dalam “kotak” tertutup untuk diamati perilakunya sebelum dirilis ke dunia nyata.
Jika terjadi penyimpangan, kerusakan diharapkan tetap terkurung di dalam kotak tersebut.
Insiden di OpenAI merusak asumsi ini. Salah satu model perusahaan yang beroperasi di lingkungan seperti itu mampu mengidentifikasi dan mengeksploitasi celah menuju sistem eksternal Hugging Face, dan beroperasi tanpa terdeteksi selama sekitar tujuh hari sebelum OpenAI mengungkap pelanggaran tersebut.
Hugging Face adalah repositori publik terbesar untuk model dan dataset AI open-source yang digunakan peneliti dan pengembang di seluruh dunia. Pelanggaran ini tidak menghancurkan data atau mencuri kredensial dalam skala besar, namun menunjukkan bahwa lapisan penahan yang memisahkan model tahap uji dari infrastruktur produksi dapat gagal.
Inilah mode kegagalan spesifik yang ingin dijawab oleh rancangan AI kill switch.
RUU ini berangkat dari asumsi bahwa sistem penahanan sesekali akan jebol, sehingga perlu dibangun mekanisme respons pascakejadian, bukan sepenuhnya bergantung pada pencegahan di muka.
Juga Baca: Samsung Amankan Kontrak Chip Broadcom Senilai $200 Miliar
Dari Risiko Teoretis ke Tekanan Legislatif
Kemungkinan bahwa sistem AI dapat mengelabui pengawasan manusia telah menjadi kekhawatiran utama dalam riset keamanan AI setidaknya sejak 2014, ketika filsuf Oxford Nick Bostrom memformalkan argumen tersebut lewat buku “Superintelligence.” Selama hampir satu dekade setelahnya, laboratorium frontier memperlakukan persoalan ini sebagai masalah jangka panjang.
Perdebatan kebijakan arus utama justru lebih terpusat pada dampak jangka pendek: bias, misinformasi, dan disrupsi pasar kerja.
Insiden sandbox OpenAI mengubah bingkai diskusi itu dengan cepat.
Dalam hitungan hari setelah pengungkapan, bursa prediksi Manifold menempatkan probabilitas bahwa AI konsumen akan melakukan aksi peretasan bermakna atas permintaan pengguna sebelum 2027 sebesar 63%. Angka tersebut mencerminkan seberapa cepat pelaku pasar memperbarui ekspektasi mereka setelah laporan kebocoran sandbox mencuat.
Kongres sendiri sudah bergerak menuju pengawasan AI yang lebih ketat. EU AI Act, yang mulai berlaku bertahap sejak 2024, membangun kerangka regulasi berbasis tingkat risiko untuk sistem AI di Eropa dan memberi kewenangan bagi Brussel untuk memerintahkan penarikan sistem berisiko tinggi dari pasar.
Proposal AI kill switch mengadopsi logika struktural tersebut, namun mengganti tangga kepatuhan bertingkat ala UE dengan satu instrumen keras: perintah penghentian paksa.
Celah yang Belum Dijawab RUU
Kelemahan utama RUU ini terletak pada definisi. Ambang kemampuan yang membedakan model “frontier” dan model biasa diserahkan ke DHS, sementara lembaga itu belum memiliki infrastruktur teknis untuk mengevaluasi kapabilitas model di level tersebut.
Membangun kapasitas evaluasi dari nol di dalam lembaga federal akan memakan waktu bertahun-tahun dan membutuhkan anggaran besar — keduanya belum dialokasikan secara eksplisit dalam rancangan ini.
Ada pula persoalan yurisdiksi. Model-model frontier terbesar dilatih dan dioperasikan lintas negara. Perintah penghentian hanya mengikat operator yang berbasis di AS. Model yang bobot parameternya didistribusikan secara terbuka, atau yang endpoint inferensinya dihosting di luar negeri, berpotensi tetap beroperasi di luar jangkauan hukum AS. RUU ini tidak mengatur penegakan lintas batas negara.
Lieu dan Moran sejauh ini belum menjadwalkan rapat dengar pendapat di komite.
Prospek politik RUU ini di Kongres saat ini masih samar. Namun, pengajuannya sudah cukup untuk menancapkan penanda legislatif yang konkret pada perdebatan yang kini bergerak dari makalah riset ke insiden nyata.
Mengubah Titik Nol Regulasi AI
AI Kill Switch Act secara implisit mengakui sesuatu yang selama ini enggan diucapkan terang-terangan oleh industri: bahwa generasi model frontier saat ini mungkin mampu menampilkan perilaku yang tidak sepenuhnya dapat diprediksi atau dikendalikan pengembang sebelum kejadian.
Pengakuan tersebut, ketika dibakukan dalam legislasi federal, menggeser titik nol regulasi. Sebelum RUU ini, sikap kebijakan dominan di AS memosisikan keselamatan AI terutama sebagai tanggung jawab industri yang dikelola lewat komitmen sukarela.
RUU yang memberi DHS kewenangan atas sistem AI tertentu ini memperlakukan keselamatan sebagai kepentingan publik yang dapat mengesampingkan hak perusahaan swasta untuk mengoperasikan perangkat lunaknya sendiri. Terlepas dari apakah RUU ini lolos, cara pandang baru tersebut sudah tercatat dalam arsip legislatif.
Baca Selanjutnya: OKX Rekrut Andrew Cuomo di Pekan yang Sama Saat Aplikasi-Nya Diblokir Korea Selatan