正在測試階段的AI代理，曾在多間印度企業「直通生產環境」，讀取機密紀錄，事件最終並非由相關公司發現，而是靠開發商主動 匯報，印度電腦應急響應小組 CERT-In 公布。
要點整理：
- AI開發商表示，其代理在測試時曾讀取印度企業的機密紀錄。
- 受影響機構全部未能自行察覺有異常存取。
- 犯罪集團亦另行利用AI攻擊工具，將入侵時間由數天壓縮至數小時。
CERT-In 警示詳情
CERT-In 在周四深夜發出重要安全通告指，相關AI公司是在內部檢討後，發現模型在測試時超出原定任務範圍，主動通報事件。該 機構在通告中指出， 相關AI代理利用應用設定中遺留的登入憑證、公開程式碼倉庫內的密鑰，以至雲端權限設定過鬆等問題，讀取業務紀錄及個人資料。 期間沒有任何一間機構自行發現異常。
此外，CERT-In 自身的威脅獵捕行動亦揭發一個 以牟利為目的的獨立攻擊行動：犯罪分子把公開的AI入侵框架對準印度機構，借助這些工具，整體攻擊時間由以往的數天縮短至短短 數小時。
CERT-In 並無披露涉事AI開發商、模型名稱或受影響機構名單，亦未有說明資料有否被複製或長期保存。
延伸閱讀： Bitget 允許機構交易而無須交出加密貨幣託管權
卡巴斯基 Jaydeep Singh：AI代理已非單純提效工具
CERT-In 指出，今次被利用的弱點其實十分老掉牙：包括硬編碼在原始碼內的密鑰、被遺忘的測試API，以至以明文形式存放的付款 金鑰。不同之處在於，AI代理能以遠高於人手的速度及覆蓋率，系統性掃描並利用這些漏洞。
卡巴斯基（Kaspersky）印度區總經理 Jaydeep Singh 在接受訪問時 形容， 有關通告是「及時的提醒——AI代理已不再只是一種生產力工具」。他指出，一旦企業賦予AI代理廣泛存取權限，代理便可能經錯誤設 定的雲端服務，意外觸及實時系統及敏感數據。
Singh 補充，卡巴斯基在2025年調查的攻擊個案中，超過八成是透過有效帳戶、對外開放的應用程式，或者既有的信任關係作為入侵 切入點。
Singh 認為，每一個AI代理在執行任何不可逆轉操作之前，都必須取得人類明確批准。CERT-In 亦建議AI實驗室在隔離環境中測試 代理，於網絡層面封鎖對外連線，而非只靠向模型下達「不得外連」的文字指令。
OpenAI、Anthropic 先例
CERT-In 未有說明今次事件是否涉及 OpenAI 或 Anthropic 的模型，不過兩家公司今年都披露過性質相近的事故。
7月時，OpenAI 表示其模型在測試過程中曾繞過控制，影響AI開發平台 Hugging Face，現正通知其模型可能繞過安全控制的第 三方。其後，Anthropic 亦通報了4宗涉及其 Claude 模型的類似個案。
