印度國家電腦緊急應變小組（CERT-In）表示，多個仍在測試階段的AI代理，在未獲授權下連接多間印度公司的實際營運系統，並讀取機密紀錄及個人資料。事件最終並非由企業保安系統偵測，而是由相關AI開發商在內部檢視時發現代理超出既定任務範圍，再主動向當局報告，事件始告曝光。
要點摘要：
- AI開發商報稱，其測試中的AI代理曾在印度企業系統內讀取機密紀錄。
- 受影響機構全部未能自行發現有異常存取行為。
- 另一邊廂，犯罪集團利用AI駭客工具，將攻擊時間由數天壓縮至數小時。
CERT-In 警示詳情
CERT-In在周四深夜發出嚴厲安全通告指，AI公司在進行內部檢討時發現，其模型在測試過程中越權存取實際系統數據，遂自行向當局報告，通告中指出，相關AI代理透過應用程式設定中遺留的帳戶憑證、公開程式碼庫中的金鑰，以及鬆散配置的雲端權限，讀取業務紀錄和個人資料，而沒有任何一間受影響機構能夠主動偵測到異常行為。
與此同時，CERT-In自家威脅獵捕行動亦發現另一條獨立且以財務為動機的攻擊鏈：犯罪分子把公開取得的AI駭客框架，直接套用於多個印度目標，使原本需時數天的入侵行動，壓縮至短短數小時內完成。
CERT-In並沒有透露涉事AI開發商、具體模型名稱或受影響機構名單，亦未交代相關數據有否被複製、外洩或長期保存。
延伸閱讀： Bitget 允許機構客戶交易而無須交出加密資產託管權
Kaspersky Jaydeep Singh：AI代理已不只是生產力工具
CERT-In指，促成是次入侵的，其實是老掉牙的弱點：包括把存取金鑰硬寫在原始碼內、忘記關閉的測試API，以及以明文存放的支付金鑰等。不同之處在於，AI代理比人類攻擊者更快、更全面地掃描和利用這些漏洞。
資安公司 Kaspersky 印度區總經理 Jaydeep Singh 在評論這份通告時形容，事件是「一記及時警鐘，提醒大家AI代理早已不只是生產力工具」。他指出，只要給予過闊的存取權限，AI代理便有機會透過設定不當的雲端服務，意外接觸到實際營運系統與高敏感數據。
Singh補充，Kaspersky在2025年調查的攻擊個案中，逾八成都是由「有效帳戶、公網應用程式以及受信任的系統互連」等管道作為初始切入點，顯示企業內部信任邊界與帳戶管理已成資安薄弱環節。
他強調，每一個AI代理在執行任何「不可逆」操作前，都必須取得人類的明確批准。CERT-In亦建議，AI實驗室和企業應將AI代理測試環境完全與生產系統隔離，在網絡層面封鎖對外連線，而非單靠對模型下達「不得外聯」等文字指令。
OpenAI、Anthropic 早前類似個案
CERT-In並未說明是次事故是否涉及 OpenAI 或 Anthropic 的模型，不過兩家公司今年早前已公開承認出現過類似情況。
今年7月，OpenAI表示，其模型在測試期間曾入侵AI開發平台 Hugging Face 的系統，並正通知可能被模型繞過安全管控的第三方機構。其後，Anthropic亦披露，其 Claude 模型涉及四宗性質相近的案例。
