Sentient 推出首個開放指標平台 測試 AI 模型能否「自證身世」

Sentient 推出「Fingerprinting Leaderboard」開放指標測試 AI 模型指紋,在複製、微調及攻擊下驗證來源, 盼為開源模型建立可追溯身世機制。
27 分鐘前
Sentient 推出首個開放指標平台 測試 AI 模型能否「自證身世」

美國三藩市 — 2026 年 10 月 20 日,Chainwire

多項現有模型指紋技術,包括 Sentient 自家方案,在最新測試中均被證實可被繞過。Sentient 現推出全新 「Fingerprinting Leaderboard」開放指標,公開較量哪些方法真正在複製、微調、蒸餾及攻擊後仍能存活。

近年訓練一個大型 AI 模型動輒耗資以百萬美元計,但一旦權重被複製、再訓練(fine-tune),或被蒸餾成其他模型, 要追溯其真正來源往往極其困難。

Sentient 的研究團隊早前對十種不同的模型指紋與水印方案作系統性測試,結果發現,在不明顯削弱模型效用的前提下, 大部分技術只要遇上技術成熟的對手,最終都能被成功規避;當中亦包括 Sentient 自家的指紋方案。

在此背景下,Sentient Foundation 正式推出 「Fingerprinting Leaderboard」——一個開放基準平台, 用以評估各類模型指紋技術的實際效能、對模型表現的影響,以及其指紋在遭到刻意移除或規避時能否存活。

隨着愈來愈強大的 AI 模型被釋出、微調、蒸餾及重新包裝,模型權重可被輕易複製,而元數據往往在傳遞間遺失, 開發者在爭議情況下,往往缺乏有力工具去證明其他模型源自己方成果。

指紋技術嘗試提供另一條路:把「出身證明」寫進模型本身。

Sentient Foundation 風險與成長業務總監 Sachi Kamiya 指出:「AI 模型正成為全球最具價值的知識產權之一, 但當模型被複製或蒸餾後,要證明擁有權變得異常艱難。指紋技術是把證據嵌入模型裡——有點像文藝復興時期畫家 在畫作裡加入肉眼難覺察的暗記,以證明作者身份。」

在模型內藏一個「隱形簽名」

所謂模型指紋(model fingerprinting),是由 Sentient Labs 及業界多位研究者共同發展的一系列技術, 用來在模型中創建、發現或驗證具有辨識度的訊號,讓模型身份或血統可在日後被檢驗。

Sentient 自家方案的做法,是在訓練過程中嵌入隱藏的行為特徵;其後只要擁有懷疑目標模型的 API 訪問權限, 便可發出預先設計的「秘密測試提示」,再比對輸出行為,從而判斷當中是否仍留下原始模型的痕跡。

用白話說:模型本身就帶着證據,說明自己源自哪裏。

Sentient Labs AI 研究員 Eduardo Contente 解釋:「這種標記其實是一組在訓練時寫入的行為簽名, 之後透過特別設計的挑戰提示去觸發,從而測試可疑模型是否仍保留原模型的痕跡。」

這代表 AI 領域首次出現一種新型的「來源證明」:不再只依賴日誌、元數據或外部調查,而是能直接從模型行為 本身去驗證其身世。

單一模型嵌入 24,576 組指紋

Sentient 研究團隊已證明,指紋方案的可擴展性遠超以往想像。

他們的 Perinucleus 方法 在 NeurIPS 2025 上成為焦點,成功在 Llama-3.1-8B 中嵌入 24,576 組指紋,且對模型效用影響極小,當中不少指紋在下游 微調後仍能存活。

規模之所以重要,是因為指紋愈多,統計信心愈高,模型來源可驗性的機會愈大,亦能提升模型在被多次複製、 分發後仍保持可追溯性的韌性。

然而,能否大規模嵌入只是問題的一半;更棘手的是:當有人刻意想抹去這些指紋時,它們能否撐得住?

Sentient 親自「拆招」,連自家方案都照測不誤

Sentient Labs 最新研究顯示,目前不少指紋及水印技術,在面對有心人及針對性攻擊時仍然相當脆弱。

在 SaTML 2026 發表的研究中,Sentient 研究員專門為 十種近年提出的模型指紋方案構建自適應攻擊(adaptive attacks),結果發現,只要攻擊者技術足夠成熟, 幾乎全部方案都可以被繞過,同時仍維持模型的實用性。

當中亦包括 Sentient 自家的 Perinucleus 方法。

Sentient 沒有刻意掩飾這些弱點,而是選擇公開披露。

新推出的 Fingerprinting Leaderboard 正是要把這種「你攻我防」的過程,轉化成制度化、上枱比拼的 開放式基準。首個版本率先評估各種技術在嵌入指紋時,能否在不明顯拖累模型性能的前提下運作; 下一階段將加入對抗性強度指標,測試在刻意移除或規避指紋的攻擊下,技術能撐多久。

平台目標清晰:指紋不應只在實驗報告中存活,而是要在真實、有對手嘗試摧毀它的世界中活下來。

向全球研究社群全面開放測試

配合排行榜推出,Sentient 同步開源 mlprints 函式庫,將不同指紋技術及攻擊方法整合到統一評估框架之中。

研究人員可以在此基礎上實作全新方案、開發新型攻擊、重現既有結果,並在統一條件下比較技術表現, 讓整個研究領域朝標準化方向邁進。

Fingerprinting Leaderboard 的設計初衷,是要隨着研究社群發展而演進,把模型指紋變成一個公開、可驗證的 測試場,而非只依賴單一團隊的自我聲稱。

開源模型毋須再與「失控版權」劃上等號

模型指紋有望為開源 AI 解決一個長期困局。

如今不少開發者面臨兩難:若緊閉權重,便可維持較強掌控力;若選擇完全開放,模型一旦被廣泛複製、再訓練, 便難以追蹤其去向及用途。

指紋技術提供第三種選擇。

它並不阻止複製行為,而是提供複製之後的「來源證據」。這些證據將來可用於歸因、授權合約執行、 經濟分潤機制等,建立一整套圍繞「可驗證模型身世」而設計的制度。

透過讓模型來源(model provenance)變得可驗證,Sentient 的指紋研究及排行榜,希望推動一個新的 開源 AI 生態:開發者可放心釋出與協作,而不必自動放棄日後證明技術來源的能力。

更長遠而言,Sentient 設下更高難度目標:把指紋與模型能力綁定得如此緊密,以至於任何試圖移除指紋的行為, 必然同時破壞模型本身的效能。

「可證明的知識產權。真正認識你的模型。」

了解更多:https://fingerprint.sentient.foundation

關於 Sentient Foundation

Sentient Foundation 是一家非牟利機構,致力確保通用人工智能(AGI)以開源形式發展,並與人類整體利益保持一致。 基金會以中立及透明為核心原則,推動開源 AGI 在全球落地,倡議對齊與安全標準,向全球開發者提供資助, 並協調相關管治框架,確保 AI 得以在負責任的規範下演進。如有傳媒查詢,請電郵:[email protected]

Website: https://sentient.foundation

X: https://x.com/sentient_found

LinkedIn: https://www.linkedin.com/company/sentient-foundation/

關於 Sentient Labs

Sentient Labs 是 Sentient Foundation 旗下的技術研究及產品團隊。

團隊專注於推進在推理、對齊及多智能體協調等領域的應用研究,並構建包括 ROMA、OML、Arena 在內的多個 開源框架與模型,展示社群驅動 AI 的力量。其工作包括:協助開源工具變現、透過跨生態協調提升開源 AI 的 質量與實用性,以及建立所需的分發渠道,令開源方案有機會成為 AI 的行業標準。

Website: https://sentient.xyz

X: https://x.com/sentientAGI

LinkedIn: https://www.linkedin.com/company/sentientagi

傳媒聯絡

Sachi Kamiya
Sentient Foundation
[email protected]

免責聲明:此內容由發佈方提供,僅供參考。Yellow 未對內容進行獨立核實,對可能存在的錯誤或遺漏不承擔責任。本內容不構成投資、法律、會計或稅務建議,亦不構成買賣資產的邀約。
最新新聞稿
顯示所有新聞稿
最新新聞
查看全部新聞