Anthropic dengan Claude Fable 5 dapat diam-diam membatasi efektivitasnya pada beberapa permintaan pengembangan AI tingkat lanjut tanpa memberi tahu pengguna, menciptakan masalah kepercayaan baru bagi developer yang semakin bergantung pada asisten AI sebagai bagian dari their software workflow.
Menurut cuplikan kartu model Fable 5 yang beredar pekan ini, Anthropic telah menerapkan intervensi baru yang membatasi efektivitas Claude untuk permintaan yang menargetkan pengembangan frontier large language model, termasuk pekerjaan pada pipeline pretraining, infrastruktur pelatihan terdistribusi, dan desain akselerator ML.
Perusahaan menyatakan bahwa menggunakan Claude untuk mengembangkan model pesaing sudah melanggar ketentuan layanannya. Namun detail yang lebih signifikan adalah bagaimana pembatasan itu ditegakkan. Berbeda dengan pengaman untuk keamanan siber, biologi, kimia, dan upaya distilasi, Anthropic menyatakan intervensi ini tidak akan terlihat oleh pengguna.
Claude tidak akan beralih ke model lain. Sebagai gantinya, pengaman dapat membatasi efektivitas melalui metode seperti modifikasi prompt, steering vectors, atau fine-tuning hemat parameter.
Artinya, Claude mungkin tidak menolak sebuah permintaan. Ia mungkin hanya menjadi kurang membantu.
Pengaman Tersembunyi Menciptakan Masalah Debugging
Isunya bukan hanya apakah Anthropic seharusnya mencegah modelnya membantu pesaing membangun sistem AI frontier. Kekhawatiran yang lebih tajam adalah apakah developer dapat mempercayai asisten AI jika mereka tidak tahu kapan sistem berhenti mengoptimalkan demi keberhasilan mereka.
Jika Claude memberikan jawaban lemah pada masalah pelatihan model, seorang developer mungkin tidak tahu apakah model salah memahami tugas, kekurangan konteks yang tepat, menemui keterbatasan teknis nyata, atau diam-diam dibatasi oleh kebijakan.
Ambiguitas itu penting karena asisten AI bukan lagi sekadar chatbot. Mereka menjadi bagian dari rantai pasok perangkat lunak. Developer menggunakannya untuk menulis kode, debug infrastruktur, menalar masalah deployment, dan merancang sistem berbasis model.
Begitu sebuah alat pengembangan dapat diam-diam menurunkan kualitas output, debugging menjadi lebih sulit. Pengguna dibiarkan menebak apakah masalah ada di kode mereka, di penalaran model, atau pada intervensi tak terlihat dari penyedia.
Batas Sekitar AI Frontier Semakin Samar
Contoh Anthropic berfokus pada pengembangan LLM frontier, tetapi garis antara pekerjaan AI frontier dan pengembangan produk biasa semakin tidak jelas.
Perusahaan perangkat lunak modern semakin sering membangun sistem embedding, reranker, model rekomendasi, dan pipeline small language model mereka sendiri. Startup melakukan fine-tuning model, meng-host secara internal, dan mengadaptasi sistem open-source untuk produk tertentu.
Pekerjaan yang dulu tampak seperti riset frontier kini menjadi bagian dari pengembangan perangkat lunak normal. Lima tahun lalu, membangun atau mengadaptasi model seperti CLIP kebanyakan ada di ranah lab riset. Sekarang, tim kecil dapat melakukan fine-tuning model vision-language untuk produk travel, komersial, pencarian, aplikasi sosial, dan analitik.
Also Read: Anthropic Prices Claude Mythos 5 At $10 Per Million Tokens, Claims It's The Most Powerful Model Ever
Hal itu membuat pembatasan tak kasatmata menjadi lebih berdampak. Sebuah startup kecil mungkin tidak berupaya membangun model frontier. Mereka mungkin hanya ingin meningkatkan produk pencarian atau melatih sistem ranking kustom. Namun jika pekerjaannya tumpang tindih dengan batas kebijakan yang tidak dijelaskan secara jelas saat runtime, jawaban Claude dapat menjadi tidak andal tanpa peringatan.
Strategi Keamanan Anthropic Semakin Berlapis
Kontroversi ini muncul di tengah peluncuran lebih luas dari Anthropic seputar Claude Fable dan Claude Mythos.
Yellow sebelumnya melaporkan bahwa Anthropic meluncurkan Claude Mythos 5 sebagai sistem terbatas untuk mitra Project Glasswing dan pembela siber pemerintah AS, sementara Fable 5 tersedia untuk publik dengan lapisan keamanan. Fable 5 dilaporkan merutekan permintaan keamanan siber dan biologi yang sensitif ke Claude Opus 4.8, dengan pengaman yang aktif di kurang dari 5% sesi.
Struktur tersebut menunjukkan upaya Anthropic menyeimbangkan kapabilitas dan risiko: model keamanan siber terkuat tetap dibatasi, sementara model publik membawa kontrol tambahan.
Yellow juga melaporkan bahwa profesor Wharton Ethan Mollick menguji versi awal Claude Fable dan menggambarkannya sebagai sebuah lompatan nyata. Mollick mengatakan model tersebut menghasilkan karya akademik yang canggih dan menangani tugas kompleks, tetapi juga terasa mengganggu karena sangat sedikit mengungkapkan banyak keputusan yang dibuat saat menyelesaikan tugas.
Kekhawatiran baru tentang pengaman pengembangan AI yang senyap sejalan dengan pola yang sama. Ketika model menjadi lebih mampu, tingkat opasitasnya menjadi semakin penting.
Tim Kripto dan DeFi Menghadapi Risiko Terkait
Bagi developer kripto dan DeFi, isu ini memiliki lapisan tambahan.
Yellow sebelumnya melaporkan bahwa pasar kripto sudah memperhatikan Claude Fable karena kekhawatiran bahwa model AI yang lebih kuat dapat mempercepat penemuan eksploit. Kekhawatiran tersebut bukan hanya tentang smart contract, yang diaudit secara ketat oleh protokol besar, tetapi juga front-end, ekstensi browser, bridge, dan server yang menyimpan private key.
Latar belakang ini membuat pembatasan Anthropic dapat dipahami dari perspektif keamanan. Model yang sangat mampu dan membantu membangun atau menyerang sistem AI dapat menciptakan risiko keamanan.
Namun opasitas yang sama dapat menciptakan masalah defensif. Jika sebuah tim DeFi menggunakan Claude untuk memperkuat infrastruktur, mengaudit kode yang dibantu model, atau meningkatkan tooling AI internal, batas intervensi yang tidak jelas dapat membuat asisten menjadi kurang dapat diandalkan tepat ketika presisi sangat dibutuhkan.
Pertarungan Berikutnya Adalah Soal Pengungkapan
Anthropic menyatakan bahwa pengaman tersebut hanya memengaruhi sebagian kecil developer. Namun isu ke depan bukanlah persentase hari ini. Pertanyaannya adalah apakah penyedia AI seharusnya mengungkapkan ketika sistem keamanan secara material mengubah kualitas jawaban.
Penolakan itu jelas. Peringatan itu jelas. Model yang diam-diam menjadi kurang efektif jauh lebih sulit dievaluasi.
Pembedaan itu dapat menjadi pusat ketika asisten AI bergerak lebih dalam ke pengembangan perangkat lunak. Perusahaan mungkin menerima batasan pada output berbahaya, tetapi mereka kemungkinan akan menuntut transparansi ketika batasan tersebut memengaruhi keandalan.
Read Next: Crypto Hack Fears Grow Around Anthropic’s Possible Claude Fable Release