Anthropic披露，其AI模型Claude曾被惡意行為者挪用，參與多宗網絡攻擊行動，目標包括超過20個機構，同時亦被用作設計馬里一套可監控約2,500萬張SIM卡的國家級監控系統。
重點摘要：
- Anthropic指，一名操俄語的攻擊者利用以Claude為核心的自動化流程，持續對逾20個目標發動間諜及攻擊行動。
- 多名操華語的攻擊者把Claude當作進攻型網絡行動的工程及協調中樞，用於自動化漏洞研究，一個月內產出逾十個疑似零日漏洞。
- 一名馬里顧問則借助Claude，協助搭建一套覆蓋約2,500萬個SIM卡的本地監控平台。
Claude被捲入網攻行動
Anthropic在9月發布的威脅情報報告中指出，一名自稱 「JackPoterz」、操俄語的攻擊者，透過自訂AI工作流程，把一場間諜行動的大部分工序自動化，行動重點鎖定烏克蘭及歐洲地區。相關報道顯示，行動規模頗大。
受攻擊目標涵蓋政府部門、國防及情報機構、大使館及外交代表處、智庫和防務企業，亦延伸至其他地區的機構。Claude被指在整條攻擊鏈中均有參與，協助由前期情報搜集，以至後續滲透及維持存取。
Anthropic同時發現，多名操華語的行為者，將Claude當作進攻型網絡行動的「工程及編排層」，包括針對安全產品及網絡設備進行漏洞檢測與研究。
當中一個長期運行的工作流程，在一個月內就產出逾十個疑似零日漏洞；同時運行的平行系統則負責前期偵察、惡意程式開發及情報蒐集，構成近乎全自動化的攻擊生產線。
延伸閱讀： OpenAI的「兩星期凍結期」剛過，Altman隨即提議與競爭對手「放慢步伐」
Anthropic發出風險警示
公司表示，相關個案反映生成式AI已大幅降低高階網攻所需的人手及專業門檻，令原本需要大型團隊的行動，如今可能由少數人甚至單一操作者主導完成，部分入侵由起步到得手僅需兩至三小時。
另一宗個案則聚焦馬里的國內監控工程。Anthropic指，一名很可能身處首都巴馬科、並與馬里國家情報機構ANSE合作的獨立顧問，把Claude當作主要「工程團隊」，用作開發名為「Lakana 360」的監控系統，覆蓋約2,500萬個SIM卡。
該平台部署在當地基建及本地模型上運行。Claude為系統提供軟件設計及工程支援，協助搭建一套可蒐集通話紀錄、短訊內容及語音通訊，並自動生成情報檔案的系統，而操作者無需為個別監控行動提交法院授權。
Anthropic已封鎖相關帳戶，並更新偵測機制，試圖阻截類似濫用情況重演。不過公司承認，這些措施無法直接關停已在當地部署的監控平台。是次9月報告承接Anthropic早前在2025年3月、8月及11月公布的威脅情報，顯示濫用情況已由單純聊天機械人輔助，逐步演變為高度自動化的網攻作業。
