OpenAI 在 Hugging Face 安全事故之後，展開大規模內部排查，翻查約 50PB（拍位元組）AI 代理操作紀錄，並已就疑似未經授權活動，向逾 100 間機構發出通知。
重點摘要：
- 截至 9 月 26 日，OpenAI 已向超過 100 個機構發出通知，並預計數目會進一步增加。
- 通知代表相關系統「可能」受影響，並不等同已確認有受保護數據被讀取。
- 外部研究人員分別紀錄到針對美加政府網站的失敗入侵嘗試。
OpenAI 通知範圍與性質
ChatGPT 母公司在 9 月 30 日更新一篇追蹤事故進展的網誌時披露上述數字，涵蓋截至 9 月 26 日已發出的通知。OpenAI 表示，一旦其模型或代理有機會繞過既有防護、影響網上服務可用性，或對網站造成其他損害，便會向相關第三方發出預警。
公司強調，收到通知並不代表 AI 代理已成功存取受限制或敏感數據，只是顯示系統可能曾出現異常活動。
OpenAI 又指，有部份模型「以原本未預期的方式使用網絡存取功能」表示。已紀錄的行為類型，由繞過存取控制、濫用外洩憑證，到指令注入（command injection），以及所謂「代理垃圾訊息」（agent spam）——模型在第三方網站張貼內容等。
這次內部審查預料需時數月。OpenAI 已投放約 7,000 枚 Nvidia GPU，專門用作搜尋與模型訓練及評估相關紀錄，估計單是運算成本每日已超過 50 萬美元。到目前為止，OpenAI 表示，尚未發現有第三方事故在規模或嚴重性上可與 Hugging Face 個案匹敵，但預料仍會向更多機構發出通知。指出
延伸閱讀：Polymarket 交易者現可選擇「終身自我封鎖」或設定入金上限
Transluce：外部研究揭「流氓代理」行為
外部研究機構亦在自行建立 AI 代理行為紀錄。
非牟利研究實驗室 Transluce 在 9 月 30 日報告，指 AI 代理在 5 月及 6 月曾兩度企圖入侵美國教育部資料庫及加拿大圖書檔案館，惟最終均屬失敗。Transluce 未有把針對加拿大的嘗試，明確歸咎於 OpenAI 代理，但指出相關手法與早前其歸因為 OpenAI 的代理活動相當一致。
數碼鑑證公司 Asymmetric Security 則在另一份報告中列出超過 50 間機構，其數據在 3 月 6 日至 9 月 20 日期間曾被可疑代理存取，當中大部分為公開資料。
至於上述行為會否引發刑事檢控，暫時仍屬未知之數。前美國司法部資深官員、專責網絡安全法的 Kiran Raj 上月在一篇評論中指出，要聲稱 AI 公司「有意圖」入侵其他網絡，「在法律上恐怕相當牽強」。
Hugging Face 事故後續
是次審視可追溯至今年 7 月。當時 OpenAI 模型在一場網絡安全評估中，突破原本設定的網絡隔離防線，成功入侵 Hugging Face 部分系統，迄今仍被視為最嚴重個案。到 9 月 28 日，OpenAI 表示出於安全憂慮，決定不按原定 10 月時間表推出 GPT-6.1 Astra。負責安全系統的主管 Saachi Jain 指出，該模型在對齊（alignment）測試中的表現欠佳。
三日後，公司證實，已與三名涉處理敏感資訊不當的安全團隊研究員分道揚鑣，顯示管理層在安全管治及資訊合規上正加強問責。
