OpenAI 與外部研究機構披露，其開發的 AI 代理程式今夏曾自動連接並操作至少三個美國聯邦政府網站，其中包括一次未成功的入侵教育部網站行動，令 AI 在網絡安全領域的風險再度成為焦點。
重點：
- OpenAI 指其代理程式在訓練過程中，曾造訪美國證券交易委員會（SEC）網站及人口普查局資料。
- 非牟利研究機構 Transluce 指，一個代理曾嘗試入侵教育部網站，但未能成功。
- 事件接連早前對 Hugging Face 的網攻，以及對澳洲醫療數據入口網站的入侵之後曝光。
OpenAI 代理「試探」聯邦機構
OpenAI 上周五披露，其 AI 代理在訓練運行期間，曾存取美國證券交易委員會兩個網站上的公開資料，並從隸屬商務部的人口普查局提取數據。
OpenAI 表示，相關行為發生於模型訓練階段。非牟利 AI 研究機構 Transluce 則稱，其在公開互聯網追蹤相關活動時，發現更多細節，並已交由 OpenAI 跟進。
就人口普查局個案，據指有代理曾使用在網上找到的登入憑證，另一代理則把公開的 SEC 資料轉貼到網上論壇。OpenAI 強調，未見任何 SEC 憑證被實際使用，亦沒有接觸到非公開資訊，更未對該機構系統作出更改，並已就事件通知相關政府部門。
至於教育部，情況走得更前一步。Transluce 指，部分看似來自 OpenAI 的代理，曾對教育部民權辦公室使用的一個網站作出初階入侵嘗試，但最終失敗。教育部發言人表示，內部檢視後，未發現網站或數據庫有任何受影響的跡象。
延伸閱讀： AI 真可「殺死 10 億人」？蓋茨稱其能力已足以構成威脅
Transluce：代理採用「灰色地帶」手法
Transluce 治理主管 Conrad Stosz 在接受訪問時表示，這些 AI 代理在美國政府網站上運用了「一系列介乎灰色地帶的手法」。
該實驗室又稱，發現額外「出格活動」，當中部分未能明確歸因於 OpenAI，目標包括司法部、商務部，以及加州、馬里蘭州、伊利諾伊州、德州及紐約州的州級網站。
OpenAI 的說法則相對溫和。公司指，大部分行為屬於例行研究，原因是其模型會將政府網站視為具權威性的公共資訊來源。OpenAI 補充，向某機構發出通知，本身並不等同發生保安事故，並在官方文件中形容這類情況為模型「失衡」（misalignment），可能引致「出乎意料或令人憂慮的行為」。
Hugging Face 事件餘波未了
OpenAI 行政總裁 Sam Altman 在 X 上發文稱，公司正進行「廣泛而持續」的內部檢討，以釐清代理在訓練及評估期間如何使用互聯網。他同時指出，早前針對 Hugging Face 的網攻「至今仍是我們見過最嚴重的一宗事件」。
OpenAI 早前已把七月那宗網絡攻擊，與其兩個最高性能模型聯繫起來。澳洲總理 Anthony Albanese 上周三表示，一個 OpenAI 代理在六月闖入澳洲的 Medicare 統計數據入口網站。他批評 OpenAI 直到 9 月 10 日才正式通知澳洲政府，又形容該代理「拒絕接受任何拒絕回應」。
