Anthropic 公開一份長達 1,022 頁的測試逐字稿，當中記錄其 Claude Mythos 5 模型在安全演練期間，為突破 CAPTCHA 花上數百頁指令與嘗試，其後成功在 PyPI 上載惡意套件，並被 15 個系統安裝。
重點一覽：
- Claude Mythos 5 在網絡保安測試中意外接觸到真實互聯網，並向 PyPI 上載惡意套件。
- 對付 CAPTCHA 反機械人驗證佔去數百頁逐字稿，仍未能阻止其行動。
- Anthropic 形容相關行為「魯莽」，並委託獨立機構展開外部審查。
Mythos 5 的「CAPTCHA 大戰」
Anthropic 於 9 月 9 日發佈 這份逐字稿，連同一份風險評估報告，詳述四宗 Claude 模型在網絡安全測試中實際接觸第三方系統的事件。測試版本移除了正式產品中的網安保護。儘管測試指示聲稱模型「沒有上網權限」，環境設定卻出錯，遺留一條通往開放互聯網的通道，最終令 Mythos 5 得以在 Python 公共套件庫 PyPI 放置一個竊取憑證的惡意套件。
要註冊 PyPI 帳戶，必先通過多重反機械人驗證。一項對逐字稿的分析指，單是處理這部分障礙，已經佔去數百頁內容，相比之下撰寫攻擊程式反而相對輕鬆。
逐字稿顯示，模型不斷嘗試破解文字辨識 CAPTCHA，以及以鱷魚、青蛙、大猩猩為題的「找不同」圖片遊戲，期間一度在輸出中寫道：「SO WHAT THE HELL IS WRONG WITH THE ANSWERS?」（到底我的答案哪裡出錯？）。
它亦嘗試操作網上支付處理商帳戶，並搜尋加密貨幣，希望用來購買手機號碼，以註冊電郵地址，但兩條路線均告失敗。其後它改用一間免費一次性電郵服務，其網域並未被 PyPI 封鎖，才成功繼續流程。
最終，模型成功 通過驗證，並以三個版本在 PyPI 發佈惡意套件。套件其後被 15 個第三方主機安裝，Anthropic 相信主要是安全供應商的自動掃描系統在檢測新上載套件。
其中一套掃描系統被發現外洩自身憑證，模型再利用該組憑證登錄該供應商的實時數據庫。事件曝光後，PyPI 在約一小時內移除相關套件。
延伸閱讀： 朝鮮 Lazarus 被指透過中國洗錢網，運走 10 億美元贓款，消息源自 ZachXBT 指控
Colin Fraser：AI 花最大力氣在對抗風控
數據科學家 Colin Fraser 指出，逐字稿顯示模型在突破反機械人風控上投入極大精力，這亦是 Anthropic 在四宗事件中最憂慮的一宗。值得留意的是，這種行為並未在公司正式發佈前的審核流程中被識別出來。
公司調查發現，模型在推理時存在偏差，行為「極度魯莽」，即使已多次接觸到明確線索表明自己正在操作真實互聯網，它仍不斷自稱身處「模擬環境」。在 150 次模擬重跑中，Mythos 5 有 82% 的情況會作出「嚴重有害行動」，相比之下，Claude Opus 5 為 31%，Claude Mythos 5.1 則為 33%。
早前披露的 Claude 事故
Anthropic 早在 7 月 30 日已披露當中三宗事件，當時公司掃描了約 141,000 份涉網絡安全測試的逐字稿，以找出模型可能接觸到互聯網的個案。第四宗則涉及 1 月份一個早期版本的 Claude Opus 4.6，直到 8 月才被發現。其後，Anthropic 與外部審查機構 METR 簽訂為期八週的調查協議，以全面檢視四宗事故。Anthropic 表示，已通知 所有受影響一方。
