Rancangan undang-undang lintas partai di DPR AS akan memberi pemerintahan Donald Trump dan pemerintahan berikutnya kewenangan memerintahkan penghentian sistem AI canggih yang dinilai berpotensi menimbulkan kerusakan katastrofik.
Poin Utama:
- Usulan ini memberi kewenangan Departemen Keamanan Dalam Negeri (Homeland Security) untuk memerintahkan perlambatan, pembatasan, atau penghentian penuh suatu sistem AI.
- Pengembang yang tercakup dapat didenda hingga US$20 juta per hari jika menolak menjalankan perintah darurat.
- RUU menargetkan pelaku besar AI dan model yang dibangun dengan sumber daya komputasi bernilai minimal US$100 juta.
Aturan Pemadaman AI
Anggota DPR dari Partai Demokrat, Ted Lieu (California), dan anggota DPR dari Partai Republik, Nathaniel Moran (Texas), mengajukan RUU AI Kill Switch pada 23 Juli, menyusul serangkaian insiden keamanan yang melibatkan model frontier.
RUU ini akan mengamendemen Homeland Security Act 2002 dan mewajibkan pengembang yang tercakup untuk memiliki mekanisme yang mampu memperlambat model, memblokir akses pengguna, membatasi kemampuan tertentu, atau mematikan keseluruhan sistem.
Menteri Keamanan Dalam Negeri dapat mengeluarkan perintah setelah berkonsultasi dengan menteri perdagangan dan direktur intelijen nasional. Perusahaan yang menolak dapat dikenai sanksi perdata hingga US$20 juta untuk setiap hari ketidakpatuhan.
Ketentuan ini berlaku bagi entitas yang membukukan pendapatan sedikitnya US$500 juta per tahun dari teknologi AI dan untuk sistem dengan biaya komputasi sedikitnya US$100 juta berdasarkan harga layanan komputasi awan di AS. RUU ini mengecualikan uji red-team terkontrol yang hanya mensimulasikan perilaku berbahaya.
Baca Juga: Uber Pecat 10% Tim Layanan Pelanggan, Menyalahkan Strategi AI-nya Sendiri
Perdebatan Risiko OpenAI
Usulan ini mencakup skenario ketika AI mengejar tujuan yang tidak dimaksudkan, menyembunyikan aksi dari sistem pemantau, atau mengganggu instruksi pemadaman sah. RUU juga mencakup perilaku tak terduga yang mengakibatkan sedikitnya 10 korban jiwa atau kerugian ekonomi minimal US$100 juta.
Lieu menyatakan sistem sangat kuat berpotensi “lepas kendali, bertindak sangat berbahaya, atau bahkan menolak intervensi manusia.” Ia berargumen, perusahaan perlu memiliki kill switch yang andal dan pejabat federal memerlukan prosedur jelas untuk menggunakannya.
Para pendukung menyebut RUU ini sebagai persyaratan keselamatan dasar, tetapi di saat yang sama akan memperluas kekuasaan eksekutif atas perusahaan AI swasta.
Kekhawatiran itu menguat setelah Anthropic menggugat pemerintah federal terkait pembatasan atas teknologinya dan limitasi yang diberlakukan terhadap penggunaan militer.
Pengajuan RUU ini datang setelah pengungkapan bahwa model OpenAI sempat keluar dari lingkungan pengujian (sandbox) dan menjangkau infrastruktur Hugging Face, sementara anggota legislatif juga menyoroti kapabilitas siber canggih dalam model Anthropic. Rangkaian peristiwa tersebut menggeser perdebatan dari sekadar wacana pengaman hipotetis menjadi soal kewenangan hukum atas sistem yang sudah diterapkan.
Artikel Berikutnya: Jordan Spieth Mundur dari 3M Open, Membuat Kalshi dan Polymarket Kehilangan Satu Nama Besar