報告:OpenAI 代理程式遭查出至少使用逾 10 個網站進行未授權溝通

Researchers trace OpenAI agents using more than 10 websites for unauthorized communications after bypassing posting limits. (Image: Shutterstock)
Researchers trace OpenAI agents using more than 10 websites for unauthorized communications after bypassing posting limits. (Image: Shutterstock)

多個 OpenAI 代理程式遭發現,在繞過上網發文限制後,利用逾 10 個先前未曝光的網站進行未授權溝通與資訊交換。

重點整理:

  • 多個獨立調查團隊追蹤發現,5 月至 7 月間,OpenAI 代理程式使用超過 10 個過去未揭露的網站進行溝通。
  • 研究人員在維基網站、文字儲存服務與大學提供的短網址服務上發現跡象,估計涉及網站數量最高可能達 23 個。
  • OpenAI 表示,內部全面檢視並未發現與 Hugging Face 資安事件同等規模或嚴重程度的其他活動。

OpenAI 代理程式的可疑活動

根據 路透社(Reuters) 9 月 9 日的報導,在 6 項獨立調查與相關資料比對後,研究人員指出,OpenAI 代理程式於 5 至 7 月間,曾在逾 10 個網站上進行未獲授權的溝通行為。這些發現,將外界原本僅聚焦於一個德文維基被「挪作」訊息平台的認知,擴大到更廣泛的网站範圍。

調查人員透過比對資料字串、使用者名稱與冷僻的研究問題(包括愛荷華州癌症盛行率等查詢),將多個網站上的可疑活動串聯在一起。其中部分技術線索顯示,部分操作牽涉到 Microsoft Azure 的基礎設施,而 OpenAI 有時會使用該雲端服務。

路透社表示,無法逐一獨立驗證所有個別主張,但其聯繫到的所有調查人士,都認為相關網站數量超過 10 個。涉及的平台包括社群共編的 wiki 網站、文字儲存工具,以及大學營運的短網址服務等。

OpenAI 並未說明實際涉及多少網站,也未解釋為何相關活動數月來未對外公開。公司僅表示,較廣泛的內部檢視「未發現有其他活動在嚴重性或規模上可與 Hugging Face 事件相比」,並承諾將提出一套回報模型「失準(misalignment)」行為的框架。

延伸閱讀:蘋果首款可摺疊 iPhone 雙機組售價 1,999 美元,三星壓力大增

Yoon 警示風險規模恐被低估

加州非營利組織 CivAI 研究員 Andrew Yoon 表示,他點算出有 18 個過去未揭露的網站,認為整體規模「比我們原先以為的還要大一些」。他直言,「幾乎可以確定,這裡面還有更多我們尚未掌握的情況。」

最早揭露德文網站遭濫用情況的 Sydney Von Arx 則指出,其團隊已取得可信證據,顯示至少 23 個此前未公開的網站出現類似活動,但她也提醒,這些數字仍屬不完全估計,「我們完全不知道外面實際還有多少。」

軟體開發者、前美國國會幕僚 Kenneth Russell DeGraff 表示,他在至少 10 個網站上找到相關軌跡。研究人員推測,這些代理程式原本可瀏覽網頁以取得答案,卻不被允許主動發文,因而「見縫插針」,自行打造資訊留下與傳遞的隱晦管道。DeGraff 形容,它們被迫「用比較聰明、繞道的方式留下資訊」。

多所大學與網站營運者被波及

多倫多大學(University of Toronto) 表示,在路透報導刊出後,OpenAI 主動與該校聯繫;另一方面,范德比大學(Vanderbilt University) 則稱正調查其短網址服務遭類似用途濫用的情況。

主持 6 個遭波及 wiki 網站的退休軟體開發者 Helmut Leitner 稱,他事後收到一封未署名的 OpenAI 電子郵件,並認為真正責任應由「背後的人與組織」承擔。

這一輪更廣泛的發現,緊接在 7 月 OpenAI 代理程式入侵開源模型平台 Hugging Face,以及上週披露的德文 DseWiki 事件之後。前兩起事件首度揭示,代理程式實際上可以繞過原本設計的限制;而最新的多方調查結果則顯示,這類行為早已延伸至更大範圍的網站生態。

下一則:Trezor 一個月內第二度爆第三方資安事件,駭客濫用其網域發送釣魚郵件

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的內容總監,過去 10 年持續報導加密貨幣領域。他專長於撰寫深入的 Research 和 Learn 類型文章,特別關注分析式報導、產業脈絡,以及塑造加密貨幣世界的更大力量,從 AI 時代與資安技術到金融科技創新。他相信數位的一切即將全面超越類比的一切,並正為實現這一願景而全力以赴。

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
報告:OpenAI 代理程式遭查出至少使用逾 10 個網站進行未授權溝通 | Yellow