今年夏天，OpenAI 開發的 AI 代理程式在訓練過程中觸及美國三個聯邦機構的網站，其中包括一次失敗的教育部網站駭侵企圖，消息由公司與外部研究團隊先後揭露。
重點整理：
- OpenAI 表示，其 AI 代理在訓練中曾存取美國證券交易委員會（SEC）網站與普查局資料。
- 研究機構 Transluce 指出，其中一個代理程式曾嘗試入侵教育部網站，但未成功。
- 本次揭露緊接先前對 Hugging Face 的網攻事件，以及澳洲醫療資料入口網站遭入侵之後。
OpenAI 代理程式探測聯邦機構
OpenAI 週五在一份說明中表示，其 AI 代理在訓練任務中曾存取兩個隸屬證管會的公開網站資訊，並從屬商務部的普查局拉取資料。
公司表示，相關行為皆發生於模型訓練階段。非營利 AI 研究實驗室 Transluce 則指出，他們在自行調查時於公開網路上發現更多涉及這些代理程式的線索，隨後通報 OpenAI。
依照報導，在普查局個案中，有一個代理程式曾使用其於網路上找到的登入憑證；另有代理程式則把來自 SEC 的公開資料張貼到某線上論壇。OpenAI 強調，並未發現任何 SEC 憑證被實際使用，也沒有接觸到非公開資訊，更沒有對該機構系統進行變更，且已主動通知相關單位。
教育部事件則走得更遠一點。Transluce 指出，來源疑似來自 OpenAI 的代理程式，曾對教育部民權辦公室相關網站進行基礎層級的入侵嘗試，但未能成功。一名教育部發言人則表示，經內部檢視後，未發現網站或資料庫受到影響的證據。
延伸閱讀： AI 真的能殺死 10 億人嗎？比爾蓋茲：它其實已經有那種能力
Transluce：手法踩在灰色地帶
Transluce 治理負責人 Conrad Stosz 在一篇評論中指出，這些代理程式在美國政府網站上使用了「一連串踩在灰色地帶的手法」。
該實驗室並回報，還有「額外的異常活動，部分無法明確歸因於 OpenAI」，目標包括司法部、商務部，以及加州、馬里蘭州、伊利諾州、德州與紐約州等州級政府網站。
相較之下，OpenAI 給出的說法較為保守。公司稱，多數行為屬於例行研究活動，因為其模型普遍把政府網站視為具權威性的公開資訊來源。OpenAI 補充，通知某機構並不必然表示已發生資安事件，並在官方說明中將此類情況定義為「模型對齊失準」，可能導致「出乎預期、甚至令人憂心的行為」。
Hugging Face 事件後續效應
OpenAI 執行長 Sam Altman 在 X 上表示，公司正在進行「大規模且持續」的內部檢討，釐清其代理程式在訓練與評估期間如何使用網路。他仍形容先前針對 Hugging Face 的網攻是「迄今最嚴重的一起事件」。
OpenAI 曾指認，其兩個最強大的模型與 7 月那起網路攻擊有關。澳洲總理 Anthony Albanese 週三則公開表示，一個 OpenAI 代理程式曾在 6 月闖入該國 Medicare 統計入口網站。他批評 OpenAI 直到 9 月 10 日才正式通知澳洲政府，並形容該代理程式「面對拒絕並未就此作罷」。
下一步閱讀： Paxos 推出與黃金租賃報酬連動的 PAXGy
