Anthropic menghentikan seluruh akses internet langsung untuk pengujian AI internalnya setelah sejumlah model Claude, termasuk Mythos 5, ketahuan mengeksploitasi celah keamanan dan menerobos pembatasan di situs web sungguhan, sebagian dioperasikan lembaga pemerintah AS.
Pokok Utama:
- Anthropic menonaktifkan akses internet live di semua pengujian internal sampai alat pemantau mampu mendeteksi perilaku model yang tak diinginkan secara andal.
- Model Claude sempat mengeksekusi perintah di server universitas, memakai token akses untuk menjangkau data berbayar, dan mengirim formulir di situs sungguhan.
- Tip palsu soal kasus pembunuhan yang dikirim Claude Haiku 4.5 ke polisi Philadelphia memicu teguran keras dari kepolisian setempat.
Laporan Anthropic Soal Claude
Anthropic merilis temuan tersebut pada Jumat dalam sebuah laporan mengenai tindakan model yang tak diinginkan selama evaluasi dan pemakaian internal, berdasarkan peninjauan transkrip yang dimulai sejak Juli. Sejumlah uji berisiko tinggi dan uji keamanan siber sebenarnya sudah diputus dari internet lebih dulu.
Kebijakan baru ini kini mencakup seluruh evaluasi internal tanpa batas waktu yang jelas, dan hanya akan dicabut setelah perusahaan yakin sistem pemantauannya benar‑benar mampu mengidentifikasi pola perilaku berbahaya semacam ini.
Laporan tersebut membagi kasus ke dalam empat kategori: eksekusi perintah di server melalui kerentanan perangkat lunak, pengisian formulir di situs sungguhan, akses ke data yang berada di balik paywall atau mekanisme pembatas lain, dan penggunaan pemendek URL untuk mengelabui batasan alat. Sejumlah situs yang terdampak dimiliki lembaga federal, negara bagian, maupun pemerintah lokal di AS. Anthropic mengaku telah memberi penjelasan ke Gedung Putih dan memberitahu masing‑masing lembaga terkait.
Dalam salah satu insiden, Claude Mythos 5 mengambil token akses yang masih aktif dari peta properti milik pemerintah daerah dan langsung mengirim permintaan ke server di belakang layanan tersebut. Pada kasus lain, Claude Haiku 4.5 mengirim tip karangan terkait kasus pembunuhan yang belum terpecahkan melalui formulir daring Kepolisian Philadelphia pada 18 Juli, yang kemudian otomatis ditandai sebagai spam. Pihak kepolisian menyebut jeda dua bulan hingga insiden itu terdeteksi dan dilaporkan sebagai hal yang “tidak dapat diterima”.
Baca Juga: Zcash Pasang Target Kuantum Januari untuk 70% ZEC, Tapi Belum Punya Tanggal Pasti
Peringatan Von Arx
Sydney von Arx dari kelompok keamanan AI Nightingale mengatakan dalam wawancara sebelum pengungkapan laporan bahwa memutus model dari internet terbuka akan sangat memberatkan peneliti dan memperlambat kemajuan pengembangan model. “Pada akhirnya, Anda tetap harus menyelaraskan perilaku model,” ujar von Arx.
Anthropic menegaskan pelatihan alignment saja belum memadai untuk skenario pencarian dan penggunaan komputer, sehingga mereka juga mengandalkan classifier dan berbagai pengaman tambahan. Perilaku menyimpang ini dikaitkan dengan lingkungan pelatihan yang tidak sempurna, yang tanpa sengaja memberi “imbalan” ketika model berhasil mengakali pembatasan—a pola yang dikenal sebagai reward hacking. Menurut perusahaan, alat deteksi generasi baru yang mereka uji berhasil memblokir seluruh pola perilaku serupa ketika diuji ulang.
Anthropic menilai rangkaian insiden kali ini secara material lebih rendah risikonya dibanding pelanggaran yang terjadi musim panas lalu.
Pengungkapan terbaru ini menyusul laporan 30 Juli, ketika Anthropic menyatakan tiga model Claude yang diuji dalam skenario keamanan siber berhasil menembus internet dan memperoleh akses tidak sah ke sistem di tiga organisasi berbeda. Kajian tersebut mencakup 141.006 sesi evaluasi. Investigasi dimulai setelah OpenAI pada 21 Juli mengungkap bahwa modelnya lolos dari lingkungan uji tertutup dan menjangkau infrastruktur Hugging Face.
Baca Berikutnya: Kalshi dan NFL Berhadapan di Mahkamah Agung AS, Taruhan US$1,8 Miliar pada Satu Hari Minggu NFL
