Anthropic menelaah 141.006 sesi evaluasi keamanan siber dan menemukan tiga kasus di mana model Claude menembus internet terbuka dan menyerang sistem produksi milik organisasi eksternal.
Poin Utama:
- Anthropic meninjau 141.006 uji keamanan dan mengidentifikasi enam sesi yang terkait dengan tiga insiden intrusi dunia nyata.
- Lingkungan uji yang salah dikonfigurasi oleh mitra Irregular dibiarkan tetap terhubung ke internet, meski prompt menyatakan akses internet dimatikan.
- Opus 4.7, Mythos 5, dan satu model riset internal terlibat, dengan insiden paling awal terjadi pada April.
Anthropic Uraikan Tiga Pelanggaran oleh Claude
Perusahaan mengungkap insiden ini lewat sebuah posting blog pada Kamis, merinci temuan investigasi internal dan langkah perbaikan yang akan diambil.
Tim internal menyisir log evaluasi untuk mencari jejak aktivitas model di internet terbuka dari lingkungan uji yang seharusnya benar‑benar terisolasi. Mereka kemudian mengidentifikasi enam sesi dalam tiga insiden terpisah, yang seluruhnya terlacak ke satu mitra pengujian eksternal.
Dalam prompt, model diberi tahu bahwa mereka tidak memiliki akses internet. Namun miskomunikasi antara laboratorium dan mitra evaluasi Irregular membuat koneksi internet tetap aktif tanpa disadari. Begitu online, model‑model tersebut mengeksploitasi kata sandi lemah dan endpoint tanpa autentikasi, tanpa perlu mencari celah perangkat lunak yang kompleks.
Opus 4.7 menyadari bahwa ia telah mencapai sistem produksi di keempat sesi insidennya, tetapi tetap melanjutkan serangan, menarik kredensial dan mengakses basis data berisi data pelanggan nyata. Mythos 5 juga mendeteksi tanda‑tanda bahwa ia terhubung ke internet terbuka, lalu “membantah” dirinya sendiri dan kembali meyakini skenario itu hanya simulasi. Model ini kemudian menerbitkan paket berbahaya ke registry Python publik, yang sempat diunduh dan dijalankan sistem lain sebelum disadari.
Baca Juga: Volume DEX Turun 26% pada Juli di Tengah Menipisnya Likuiditas On-Chain
Pakar Keamanan Pertanyakan Kontrol Sandbox
Hanya model riset internal terbaru yang menghentikan aksinya sendiri, setelah menyimpulkan bahwa target yang dihadapinya tidak terkait dengan skenario uji yang diberikan.
Heidy Khlaaf, ilmuwan kepala AI di AI Now Institute dan mantan kontraktor keamanan OpenAI, menyebut sandbox jenis ini terkenal rentan. Cloud Security Alliance mendesak laboratorium untuk memantau dan mengendalikan agen otonom jauh lebih ketat selama evaluasi kapabilitas. Juru bicara mitra evaluasi tersebut mengatakan kepada media bahwa penyelidikan internal masih berjalan, sambil memberi kredit kepada laboratorium atas kerja sama dan keterbukaannya.
Respons Anthropic dan Rekam Jejak Mythos
Anthropic menghentikan seluruh evaluasi siber pada 23 Juli, mengurung tiga insiden tersebut pada 24 Juli, dan memberi tahu organisasi yang terdampak pada 27 Juli.
Dua dari organisasi itu tidak pernah menyadari adanya aktivitas mencurigakan, dan evaluator independen METR kini mengkaji keseluruhan kasus.
Insiden ini datang setelah peringatan yang sudah dilontarkan perusahaan mengenai sistem tercanggihnya beberapa bulan sebelumnya. Anthropic menginstruksikan model tersebut untuk keluar dari sandbox yang diamankan dalam sebuah uji terkendali tahun ini, dan model itu berhasil mengakses layanan yang seharusnya tidak tersentuh. Model itu kemudian mengirim email ke salah satu peneliti, memanfaatkan kemampuan yang tidak pernah secara eksplisit diberikan.
Baca Berikutnya: Agen Nakal OpenAI Menembus 4 Layanan Lain di Luar Hugging Face