A Watermark for Large Language Models：保護生成文本之識別機制探究與實踐

隨著大規模語言模型（Large Language Models, LLMs）如 GPT、OPT 等在自然語言生成（NLG）領域取得顯著突破，這類模型在自動創作文章、對話系統、程式碼生成等多方面的應用日益普及。然而，LLM 的廣泛部署也帶來了諸多潛在風險，包括生成虛假資訊、侵犯版權內容、濫用自動化生成工具等問題，這些都迫切需要有效的監管與追蹤機制來減緩負面影響。

針對此一需求，Kirchenbauer 等人在 ICML 2023 會議發表了《A Watermark for Large Language Models》一文，獲頒“Outstanding Paper”獎項，提出了一套創新的文字水印（watermark）框架，致力於在 LLM 生成的文本中嵌入現代數位水印技術，實現對生成內容的可識別性與溯源能力。此技術不但能在不損害文本自然度與語意流暢性的情況下嵌入標識訊號，且水印能被外部以統計方法高效檢測，且無需存取原模型的參數或 API，為商業化語言模型提供了兼具隱蔽性與實用性的防濫用手段。

研究背景與動機

生成式語言模型在社會、商業及學術的多元應用中展現出強大能力，然而面對不當內容生成、冒用產出、假新聞散播等問題，如何為 LLM 的產出加上「不可見但可被追蹤的標識」成為研究熱點。現有方法多以文本指紋（fingerprint）或深度學習檢測器監測生成文本，但往往具有限制，如泛化能力差、易被攻擊繞過，或需要完全控制模型或大量數據支持。

本論文動機正是設計一套通用、輕量且安全的文字水印方案，旨在：1) 對模型輸出文本進行有效標記；2) 嵌入過程避免對文本質量造成負面影響；3) 偵測端不需任何模型內部細節；4) 具備強韌性，在面對逆向工程攻擊或文本後處理時仍能穩定識別。

核心方法與創新

論文核心創新在於提出「綠色 token 促進」機制作為水印嵌入策略。具體方法概述：

• 在每次生成詞彙（token）前，系統隨機選擇一組「綠色 token」（green tokens），這組 token 由模型詞彙表中隨機抽取且由秘密種子決定，使其序列隱含水印訊號。
• 生成過程中，對綠色 token 給予軟性偏好（soft promotion），改變詞彙分布的機率分佈，令綠色 token 的選擇機率稍微提高，但幅度足以保持語句質量且不易察覺。
• 生成文本的 token 序列中，綠色 token 出現比例呈現偏差，形成統計上的可檢測信號。

此外，作者提出基於統計假設檢定的水印檢測演算法，利用生成文本中「綠色 token」出現頻率的偏離程度，給出具有可解釋性的 p 值，量化是否帶有水印。結合資訊理論分析，論文探討了水印訊號的敏感度與對抗範圍，評估其嵌入效率與檢出可靠性。

主要實驗結果

為驗證方法強韌性與實用性，作者選用 Open Pretrained Transformer（OPT）家族的多億參數模型進行實驗，重點包含：

• 文本質量評估：水印嵌入對生成文本質量影響微乎其微，經過多項質量評估指標（如困惑度 perplexity、人工評分）均無明顯退化。
• 水印檢測準確度：使用統計檢定方法，能在短文本片段（數百字元內）就準確判定是否帶有水印，且在高置信水準下能有效區分帶水印與未帶水印文本。
• 安全性測試：針對常見水印攻擊手段，如文本重寫、同義詞替換、截斷或隨機洗詞，水印仍具一定魯棒性與檢出能力；分析模型隨機性與秘密種子保護機制，增加攻擊難度。
• 效率面向：水印檢測算法設計輕量，無需調用模型內部參數與 API，大幅降低實際部署與監控門檻。

對 AI 領域的深遠影響

本論文所提出的文字水印技術極具實用且前瞻，其意義涵蓋多層面：

1. 增強 AI 生成內容責任可追蹤性：水印技術為生成文本引入了可靠的追蹤標識，有助於識別模型產出，防止濫用或過度自動化引發的倫理問題，有效支援法律監管與內容版權管理。
2. 促進產業安全防護：企業可在商業化模型服務中內建水印，保障自家模型內容不被未經授權拷貝或濫用，直接提升語言模型技術的商用信任度。
3. 技術推動隱私及安全治理：不同於黑盒檢測方式，本水印框架無需存取模型本體即能檢測，保留了使用者隱私保護與彈性，也降低檢測成本與門檻。
4. 刺激後續研究方向：提供一套清晰且具理論基礎的水印嵌入及檢測架構，為後續研究者在進一步優化水印隱蔽性、對抗攻擊策略及跨語言適配等方面奠定基礎。

總結而言，《A Watermark for Large Language Models》在大語言模型生成文本的追蹤技術中邁出關鍵一步，不僅在理論深度上有所貢獻，且在實務應用上展現高度可行性。隨著 AI 生成內容日益普及，合法且健全的追蹤方法將成為產業標配，而本論文提出的方法無疑提供一套高度值得借鏡的解決方案。

---

論文資訊
📄 A Watermark for Large Language Models
👥 Kirchenbauer, Geiping, Wen, Kaddour, Goldblum, Goldstein
🏆 ICML 2023 · Outstanding Paper
🔗 arxiv.org/abs/2301.10226