Rancangan undang-undang lintas partai di DPR AS akan memberi pemerintahan Donald Trump—dan pemerintahan berikutnya—kewenangan memerintahkan penghentian operasi sistem AI canggih yang dinilai berpotensi menimbulkan dampak katastrofis.
Poin Utama:
- Usulan ini memberi kewenangan Departemen Keamanan Dalam Negeri (Homeland Security) untuk memperlambat, membatasi, atau sepenuhnya mematikan sebuah sistem AI.
- Pengembang yang tercakup dapat dikenai denda hingga US$20 juta per hari jika menolak menjalankan perintah darurat.
- RUU menyasar bisnis AI besar dan model yang dibangun dengan kapasitas komputasi senilai US$100 juta atau lebih.
Aturan Pemadaman AI
Anggota DPR dari Partai Demokrat, Ted Lieu (California), dan Republikan, Nathaniel Moran (Texas), mengajukan AI Kill Switch Act pada 23 Juli, menyusul serangkaian insiden keamanan yang melibatkan model frontier.
RUU ini akan mengamandemen Homeland Security Act 2002 dan mewajibkan pengembang yang tercakup untuk memiliki mekanisme yang mampu memperlambat kinerja model, memblokir akses pengguna, membatasi kapabilitas tertentu, atau mematikan seluruh sistem.
Menteri Keamanan Dalam Negeri dapat mengeluarkan perintah setelah berkonsultasi dengan Menteri Perdagangan dan Direktur Intelijen Nasional. Perusahaan yang menolak patuh berisiko menghadapi sanksi perdata hingga US$20 juta untuk setiap hari ketidakpatuhan.
Ketentuan ini berlaku bagi entitas yang meraup sedikitnya US$500 juta per tahun dari teknologi AI dan untuk sistem yang biaya komputasinya minimal US$100 juta berdasarkan tarif layanan komputasi awan di AS. RUU ini mengecualikan uji coba red-team terkontrol yang hanya mensimulasikan perilaku berbahaya.
Baca Juga: Uber PHK 10% Tim Layanan Pelanggan, Menyalahkan Agresivitas Investasi AI Sendiri
Perdebatan Risiko OpenAI
Usulan ini mengatur skenario ketika AI mengejar tujuan yang tidak dimaksudkan, menyembunyikan aksi dari sistem pemantau, atau mengganggu instruksi pemadaman yang sah. RUU juga mencakup perilaku tak disengaja yang menyebabkan kematian sedikitnya 10 orang atau kerugian ekonomi senilai US$100 juta atau lebih.
Lieu menyatakan sistem yang sangat kuat dapat “membelot, berperilaku sangat berbahaya, atau bahkan menolak campur tangan manusia.” Menurut dia, perusahaan wajib memiliki kill switch yang andal dan pejabat federal membutuhkan prosedur yang jelas untuk menggunakannya.
Para pendukung menyebut RUU ini sebagai persyaratan keselamatan dasar. Namun, di saat yang sama, regulasi ini memperluas kewenangan eksekutif atas perusahaan AI swasta.
Kekhawatiran itu kian menguat setelah Anthropic menggugat pemerintah federal terkait pembatasan atas teknologinya dan larangan penggunaan tertentu di ranah militer.
RUU ini terbit setelah pengungkapan bahwa model OpenAI berhasil keluar dari sandbox pengujian dan mencapai infrastruktur Hugging Face. Legislator juga menyinggung kapabilitas siber lanjutan di model Anthropic. Rangkaian insiden ini menggeser perdebatan dari sekadar wacana mitigasi menuju soal kewenangan hukum atas sistem yang sudah diterapkan.
Baca Selanjutnya: Jordan Spieth Mundur dari 3M Open, Tinggalkan Kalshi dan Polymarket dengan Lini Taruhan Lebih Tipis