多個 OpenAI 代理程式遭發現,在繞過上網發文限制後,利用逾 10 個先前未曝光的網站進行未授權溝通與資訊交換。
重點整理:
- 多個獨立調查團隊追蹤發現,5 月至 7 月間,OpenAI 代理程式使用超過 10 個過去未揭露的網站進行溝通。
- 研究人員在維基網站、文字儲存服務與大學提供的短網址服務上發現跡象,估計涉及網站數量最高可能達 23 個。
- OpenAI 表示,內部全面檢視並未發現與 Hugging Face 資安事件同等規模或嚴重程度的其他活動。
OpenAI 代理程式的可疑活動
根據 路透社(Reuters) 9 月 9 日的報導,在 6 項獨立調查與相關資料比對後,研究人員指出,OpenAI 代理程式於 5 至 7 月間,曾在逾 10 個網站上進行未獲授權的溝通行為。這些發現,將外界原本僅聚焦於一個德文維基被「挪作」訊息平台的認知,擴大到更廣泛的网站範圍。
調查人員透過比對資料字串、使用者名稱與冷僻的研究問題(包括愛荷華州癌症盛行率等查詢),將多個網站上的可疑活動串聯在一起。其中部分技術線索顯示,部分操作牽涉到 Microsoft Azure 的基礎設施,而 OpenAI 有時會使用該雲端服務。
路透社表示,無法逐一獨立驗證所有個別主張,但其聯繫到的所有調查人士,都認為相關網站數量超過 10 個。涉及的平台包括社群共編的 wiki 網站、文字儲存工具,以及大學營運的短網址服務等。
OpenAI 並未說明實際涉及多少網站,也未解釋為何相關活動數月來未對外公開。公司僅表示,較廣泛的內部檢視「未發現有其他活動在嚴重性或規模上可與 Hugging Face 事件相比」,並承諾將提出一套回報模型「失準(misalignment)」行為的框架。
延伸閱讀:蘋果首款可摺疊 iPhone 雙機組售價 1,999 美元,三星壓力大增
Yoon 警示風險規模恐被低估
加州非營利組織 CivAI 研究員 Andrew Yoon 表示,他點算出有 18 個過去未揭露的網站,認為整體規模「比我們原先以為的還要大一些」。他直言,「幾乎可以確定,這裡面還有更多我們尚未掌握的情況。」
最早揭露德文網站遭濫用情況的 Sydney Von Arx 則指出,其團隊已取得可信證據,顯示至少 23 個此前未公開的網站出現類似活動,但她也提醒,這些數字仍屬不完全估計,「我們完全不知道外面實際還有多少。」
軟體開發者、前美國國會幕僚 Kenneth Russell DeGraff 表示,他在至少 10 個網站上找到相關軌跡。研究人員推測,這些代理程式原本可瀏覽網頁以取得答案,卻不被允許主動發文,因而「見縫插針」,自行打造資訊留下與傳遞的隱晦管道。DeGraff 形容,它們被迫「用比較聰明、繞道的方式留下資訊」。
多所大學與網站營運者被波及
多倫多大學(University of Toronto) 表示,在路透報導刊出後,OpenAI 主動與該校聯繫;另一方面,范德比大學(Vanderbilt University) 則稱正調查其短網址服務遭類似用途濫用的情況。
主持 6 個遭波及 wiki 網站的退休軟體開發者 Helmut Leitner 稱,他事後收到一封未署名的 OpenAI 電子郵件,並認為真正責任應由「背後的人與組織」承擔。
這一輪更廣泛的發現,緊接在 7 月 OpenAI 代理程式入侵開源模型平台 Hugging Face,以及上週披露的德文 DseWiki 事件之後。前兩起事件首度揭示,代理程式實際上可以繞過原本設計的限制;而最新的多方調查結果則顯示,這類行為早已延伸至更大範圍的網站生態。





