Anthropic menerbitkan laporan pada awal Juni 2026 yang menyerukan laboratorium kecerdasan buatan terkemuka untuk mengembangkan mekanisme terkoordinasi yang mampu memperlambat atau menghentikan advanced AI development jika kondisi keselamatan memburuk.
Poin-Poin Utama
- Anthropic menerbitkan laporan yang memperingatkan bahwa sistem AI mendekati ambang di mana mereka dapat meningkatkan diri secara rekursif.
- Perusahaan mendesak laboratorium AI terkemuka menyiapkan mekanisme terkoordinasi untuk memperlambat atau menghentikan pengembangan jika risiko keselamatan meningkat.
- Anthropic memperingatkan bahwa kemajuan cepat dapat melampaui kemampuan manusia untuk memantau dan mengoreksi perilaku AI.
- Seruan ini muncul setelah model Claude milik Anthropic dilaporkan menulis sebagian kodenya sendiri.
- Laporan tersebut menambah perdebatan kebijakan yang lebih luas ketika Kongres AS mempertimbangkan undang-undang keselamatan AI baru.
Al Jazeera reported mengenai dokumen tersebut, yang memperingatkan bahwa sistem AI mendekati ambang di mana mereka dapat merancang dan membangun versi yang lebih baik dari diri mereka sendiri lebih cepat dibandingkan insinyur manusia dapat memantau atau campur tangan. Anthropic menggambarkan dinamika peningkatan diri rekursif ini sebagai risiko nyata dalam jangka pendek, bukan kekhawatiran spekulatif jangka panjang.
Isi Laporan Anthropic
Klaim utamanya bersifat teknis dan spesifik. Anthropic argues bahwa alur pelatihan AI saat ini sudah memungkinkan model berkontribusi pada peningkatan dirinya sendiri dalam cara yang terbatas. Claude, model andalan perusahaan, dilaporkan menulis sebagian kodenya sendiri selama siklus pengembangan.
Laporan tersebut tidak menyerukan penghentian segera. Laporan itu menyerukan persiapan. Anthropic ingin laboratorium frontier, termasuk miliknya, menyepakati terlebih dahulu pemicu-pemicu yang akan mengaktifkan jeda, dan memiliki infrastruktur yang siap untuk menerapkannya dengan cepat.
Kerangka berpikir ini konsisten dengan posisi publik Anthropic yang lebih luas. Sejak didirikan, perusahaan berpendapat bahwa mengembangkan AI kuat sambil secara bersamaan membangun pagar pembatas keselamatan adalah jalur yang bertanggung jawab, posisi yang mereka sebut sebagai "responsible scaling." Laporan baru ini pada dasarnya mengatakan bahwa sisi keselamatan dari persamaan tersebut perlu bergerak lebih cepat.
Dokumen itu juga mengangkat pertanyaan tentang siapa yang mengoordinasikan jeda semacam itu. Tidak ada badan tata kelola internasional dengan kewenangan penegakan atas pengembangan AI. Laporan itu secara implisit menyerukan koordinasi sukarela di antara perusahaan-perusahaan swasta, yang menurut para pengkritik merupakan model penegakan yang paling lemah.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Konteks Kebijakan di Washington
Peringatan Anthropic muncul di tengah perdebatan kongres yang sedang aktif. Draf pembahasan bipartisan di DPR yang beredar minggu ini akan memberlakukan mandat keselamatan dan audit independen terhadap pengembang AI paling kuat di negara itu. RUU tersebut secara khusus menargetkan laboratorium frontier, kategori yang mencakup Anthropic, OpenAI, dan Google DeepMind.
RUU AI lain yang terpisah dan lebih luas lolos pemungutan suara di komite DPR pada 4 Juni 2026. Undang-undang itu akan membekukan undang-undang perlindungan konsumen AI di tingkat negara bagian selama tiga tahun sementara standar federal dikembangkan.
Pemerintahan Trump menambah lapisan kompleksitas lain. Gedung Putih mengeluarkan perintah eksekutif minggu ini yang menciptakan jendela peninjauan sukarela 30 hari untuk model AI frontier, yang memungkinkan lembaga keamanan nasional mendapatkan akses awal sebelum peluncuran publik. Pemerintahan tersebut juga dilaporkan sedang berdiskusi dengan OpenAI mengenai kemungkinan kepemilikan saham pemerintah.
Seruan Anthropic untuk mekanisme jeda cocok dengan lingkungan ini sebagai langkah pembentukan pasar sekaligus langkah keselamatan. Jika kerangka jeda ditetapkan dengan dukungan pemerintah, kemungkinan besar hal itu akan menguntungkan perusahaan yang sudah berada di frontier, karena pesaing yang lebih kecil tidak memiliki sumber daya untuk melanjutkan kembali pada skala besar setelah jeda.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Reaksi dan Dinamika Industri
Industri AI tidak secara seragam menyambut kerangka berpikir Anthropic. Kepala AI Microsoft, Mustafa Suleiman, menyatakan minggu ini bahwa Microsoft menargetkan untuk bergabung dengan jajaran laboratorium AI papan atas secara mandiri, yang menyiratkan bahwa perusahaan berfokus pada percepatan alih-alih pengekangan. Tencent secara bersamaan merekrut mantan peneliti OpenAI sebagai kepala ilmuwan AI untuk mendorong upaya AGI mereka sendiri.
Dua fakta itu menggambarkan masalah aksi kolektif yang diidentifikasi laporan Anthropic. Jeda sepihak oleh satu laboratorium menguntungkan pesaing yang terus mengembangkan. Tanpa koordinasi yang mengikat, seruan untuk mekanisme jeda tetap bersifat aspiratif.
Anthropic's $965 billion valuation, yang dicapai setelah putaran pendanaan Seri H baru-baru ini, memberinya ruang keuangan untuk menyerap perlambatan pengembangan dengan cara yang tidak dimiliki laboratorium yang lebih kecil. Asimetri itu penting ketika mengevaluasi advokasi keselamatan perusahaan.
Publikasi laporan ini juga terjadi ketika model Claude Anthropic bersaing langsung dengan GPT-5.5 dan keluarga Gemini Google untuk kontrak perusahaan. Pemosisian di bidang keselamatan dapat menjadi pembeda komersial bagi pelanggan di industri yang diatur.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist