Anthropic menerbitkan sebuah laporan pada awal Juni 2026 yang menyerukan laboratorium kecerdasan buatan terkemuka untuk mengembangkan mekanisme terkoordinasi yang mampu memperlambat atau menghentikan advanced AI development jika kondisi keselamatan memburuk.
Poin-Poin Utama
- Anthropic menerbitkan laporan yang memperingatkan bahwa sistem AI mendekati ambang batas di mana mereka dapat meningkatkan diri secara rekursif.
- Perusahaan mendesak lab AI terkemuka menyiapkan mekanisme terkoordinasi untuk memperlambat atau menghentikan pengembangan jika risiko keselamatan meningkat.
- Anthropic memperingatkan bahwa kemajuan yang sangat cepat dapat melampaui kemampuan manusia untuk memantau dan mengoreksi perilaku AI.
- Seruan ini menyusul kabar bahwa model Claude milik Anthropic menulis sebagian kodenya sendiri.
- Laporan tersebut menambah perdebatan kebijakan yang lebih luas ketika Kongres AS mempertimbangkan undang‑undang baru tentang keselamatan AI.
Al Jazeera reported mengenai dokumen tersebut, yang memperingatkan bahwa sistem AI mendekati ambang batas di mana mereka dapat merancang dan membangun versi yang lebih maju dari diri mereka sendiri lebih cepat daripada insinyur manusia dapat memantau atau melakukan intervensi. Anthropic menggambarkan dinamika peningkatan diri secara rekursif ini sebagai risiko nyata dalam jangka dekat, bukan kekhawatiran spekulatif jangka panjang.
Isi Laporan Anthropic
Klaim intinya bersifat teknis dan spesifik. Anthropic argues bahwa alur pelatihan AI saat ini sudah memungkinkan model ikut berkontribusi pada peningkatan dirinya sendiri dalam cara yang terbatas. Claude, model andalan perusahaan, dilaporkan menulis sebagian kodenya sendiri selama siklus pengembangan.
Laporan tersebut tidak menyerukan penghentian segera. Laporan itu menyerukan persiapan. Anthropic ingin laboratorium garis depan, termasuk miliknya, menyepakati terlebih dahulu pemicu yang akan mengaktifkan jeda, dan memiliki infrastruktur yang siap untuk menerapkannya dengan cepat.
Kerangka berpikir ini konsisten dengan posisi publik Anthropic yang lebih luas. Sejak awal, perusahaan berargumen bahwa mengembangkan AI yang kuat sambil secara bersamaan membangun pagar pembatas keselamatan adalah jalur yang bertanggung jawab, sebuah posisi yang mereka sebut sebagai "responsible scaling." Laporan baru ini pada dasarnya mengatakan sisi keselamatan dari persamaan itu harus bergerak lebih cepat.
Dokumen tersebut juga mengangkat pertanyaan tentang siapa yang mengoordinasikan jeda seperti itu. Tidak ada badan tata kelola internasional dengan kewenangan penegakan atas pengembangan AI. Laporan itu secara implisit menyerukan koordinasi sukarela di antara perusahaan swasta, yang menurut para pengkritik merupakan model penegakan yang paling lemah.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Konteks Kebijakan di Washington
Peringatan Anthropic muncul di tengah perdebatan aktif di Kongres. Draf diskusi bipartisan di DPR yang beredar pekan ini akan memberlakukan mandat keselamatan dan audit independen terhadap pengembang AI terkuat di negara itu. RUU tersebut secara khusus menargetkan lab garis depan, kategori yang mencakup Anthropic, OpenAI, dan Google DeepMind.
RUU AI lain yang terpisah dan lebih luas lolos pemungutan suara komite DPR pada 4 Juni 2026. Legislasi tersebut akan membekukan undang‑undang perlindungan konsumen AI di tingkat negara bagian selama tiga tahun sementara standar federal dikembangkan.
Pemerintahan Trump menambah lapisan kompleksitas lain. Gedung Putih mengeluarkan perintah eksekutif pekan ini yang menciptakan jendela peninjauan sukarela selama 30 hari untuk model AI garis depan, yang memungkinkan lembaga keamanan nasional mendapatkan akses awal sebelum peluncuran publik. Pemerintahan tersebut juga dikabarkan sedang berdiskusi dengan OpenAI mengenai kemungkinan kepemilikan saham pemerintah.
Seruan Anthropic untuk mekanisme jeda masuk ke dalam lingkungan ini sebagai langkah pembentukan pasar sekaligus langkah keselamatan. Jika kerangka jeda ditetapkan dengan dukungan pemerintah, kemungkinan besar itu akan menguntungkan perusahaan yang sudah berada di garis depan, karena pesaing yang lebih kecil tidak memiliki sumber daya untuk melanjutkan kembali dalam skala besar setelah penghentian.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Reaksi dan Dinamika Industri
Industri AI tidak secara bulat menyambut kerangka berpikir Anthropic. Kepala AI Microsoft, Mustafa Suleiman, menyatakan pekan ini bahwa Microsoft bertujuan untuk bergabung dengan jajaran teratas lab AI secara mandiri, yang menunjukkan bahwa perusahaan lebih berfokus pada percepatan daripada pengekangan. Tencent secara bersamaan merekrut mantan peneliti OpenAI sebagai kepala ilmuwan AI untuk mendorong upaya AGI mereka sendiri.
Dua data poin tersebut menggambarkan masalah aksi kolektif yang diidentifikasi dalam laporan Anthropic. Jeda sepihak oleh satu lab menguntungkan para pesaing yang terus melakukan pengembangan. Tanpa koordinasi yang mengikat, seruan untuk mekanisme jeda tetap bersifat aspiratif.
Anthropic's $965 billion valuation, yang dicapai setelah putaran pendanaan Seri H baru‑baru ini, memberi mereka landasan keuangan untuk menyerap perlambatan pengembangan dengan cara yang tidak dapat dilakukan oleh lab yang lebih kecil. Asimetri tersebut penting ketika mengevaluasi advokasi keselamatan perusahaan.
Publikasi laporan itu juga terjadi ketika model Claude Anthropic bersaing langsung dengan GPT‑5.5 dan keluarga Gemini milik Google untuk kontrak perusahaan. Posisi terkait keselamatan dapat menjadi pembeda komersial bagi pelanggan di industri yang diatur ketat.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist