在現代機器學習領域，數據的重要性無庸置疑。模型性能往往直接受限於數據品質及其結構分布，因此理解並量化「單筆數據對模型的貢獻」成為一大研究熱點。Data Shapley（數據 Shapley 值）方法作為一種理論嚴謹的數據價值衡量框架，基於合作博弈論中 Shapley value 的概念，量化每筆訓練資料對模型性能的邊際增益，進而幫助資料篩選、資料授權、模型解釋等多方面應用。然而，傳統的 Data Shapley 計算方法需要在大量資料子集上重新訓練模型，計算成本極高，使得其在大規模模型和數據集上難以實用，更遑論針對單次訓練得到的具體模型進行精確歸因。
針對上述挑戰，Wang 等人在 ICLR 2025 發表的傑出論文《Data Shapley in One Training Run》創新性地提出「In-Run Data Shapley」方法，實現了在一次標準訓練過程中直接計算數據貢獻度，極大地提升了計算效率與實用的可行性。此突破使得過去難以觸及的數據歸因問題得以在現代大規模預訓練（foundation model pretraining）階段首次被精確評估，為數據透明化、版權保護、資料庫優化和模型可信度等領域帶來革命性影響。
研究背景與動機
隨著深度學習模型規模不斷擴大，尤其是大規模基礎模型（如 GPT、BERT 等）訓練通常使用海量且來源複雜的數據集。理解「哪些數據實際有助於提升模型性能」變得尤為重要，這不僅關乎模型效能，也涉及到資料授權、隱私權、以及生成式 AI 內容的版權爭議問題。傳統 Data Shapley 框架雖理論完善，卻在計算上極為昂貴，因為它需要多次反覆訓練熱門模型的不同子集以計算每筆數據的邊際影響，導致無法應用於實際大規模預訓練場景。
此外，現有方法的 Shapley 值都是基於「模型訓練算法的整體期望」，並非針對特定的一次訓練結果或者實際獲得的單一模型。這意味無法精確評估特定實例模型對單筆數據的依賴度，限制了數據歸因的精細化和針對性分析需求。
核心方法與創新
「In-Run Data Shapley」的核心創新在於將數據 Shapley 計算融入單次模型訓練的流程中，摒棄了傳統需重複訓練多模型的繁重過程。具體而言，作者提出了一種理論與實踐結合的新框架，通過在訓練過程中即時計算各數據點的邊際貢獻，利用模型參數更新的細粒度資訊來推斷其對最終模型性能的實際影響。
該方法核心步驟包括：
- 利用訓練過程中梯度與損失函數變化的即時追蹤，結合適當的數學近似，推導數據樣本的貢獻度估計公式。
- 設計高效演算法可在不額外大幅增加運算開銷的情況下，於一次訓練迭代內同時計算數據貢獻分數，實現「零冗餘」的數據權重評估。
- 將評分機制直接與最終訓練模型綁定，完成對單一訓練結果的特定歸因，打破過去只能針對整體訓練算法期望給出一致評價的限制。
此方法最具挑戰的部分是如何在保證貢獻度估計準確度的同時，避免傳統 Shapley 計算複雜度帶來的指數級增長。論文採用了精妙的數學推導及近似技巧，加上系統實現優化，使其在實際神經網絡訓練管線中幾乎零額外成本地完成評估。
主要實驗結果
作者在多種深度學習任務上進行了廣泛的實驗驗證，涵蓋圖像分類、自然語言處理以及大型基礎模型預訓練階段，取得以下關鍵成果：
- 高效性驗證：In-Run Data Shapley 在單次訓練流程中執行，額外時間開銷極小，與標準訓練流程相比僅有微幅增加，與傳統 Data Shapley 需要重訓數百甚至上千次模型相比計算成本降低數十至數百倍。
- 精準性評估：與經典的重訓方法計算的 Shapley 值高度相關，驗證了方法在保有理論基礎嚴謹度的同時，做出了準確且合理的數據價值估量。
- 實用案例分析：在基礎模型預訓練階段，首次實現了大規模數據貢獻度的調查與可視化，揭示部分數據子集對最終模型表現具有顯著而具體的影響，為數據篩選、內容版權釐清提供了量化依據。
- 法務與倫理探討：利用數據 Shapley 評估結果，討論生成式 AI 中數據版權的責任劃分，為日益嚴峻的 AI 版權爭議提供了全新思路，促進監管政策發展。
對 AI 領域的深遠影響
《Data Shapley in One Training Run》這篇論文的貢獻不僅是算法層面的突破，更對以下幾個方面產生了長遠影響：
1. 數據價值金融化與版權管理
隨著生成式 AI 技術大放異彩，訓練數據的合法性與版權屬性越發重要。In-Run Data Shapley 的高效計算能力使得單筆數據的價值能夠被量化和追蹤，有助於未來建立數據交易合理定價機制和授權策略，促成數據產業的良性發展。
2. 預訓練數據品質控管與優化
在大型模型預訓練中，能精確識別與評估數據子集及個體對模型性能的貢獻，有助於資料科學家進行數據清洗、過濾噪聲數據以及制定策略以挑選高質量資料。此舉可提升模型效果，降低訓練成本，並增強實際應用可信度。
3. 模型可解釋性與信任構建
過去數據貢獻分析受限於計算困難與方法泛化，無法針對特定模型精準解釋資料影響。In-Run Data Shapley 協助研究者和用戶了解模型決策背後的數據依賴性，提升模型透明度和解釋能力，是邁向可信 AI 的重要技術支柱。
4. 推動相關技術研究與應用擴展
此項工作將激發對數據貢獻度計算方法的後續研究，促進結合強化學習、持續學習、多任務學習等場景的數據價值分析。同時為監管機構和業界提供可行工具，促進 AI 生態系更加健全、公正。
總結而言，《Data Shapley in One Training Run》以其突破性的理論與工程實現，成功將數據貢獻度評估從理論走向大規模應用，是 AI 頂會 ICLR 2025 中一篇兼具學術深度與實務影響力的傑出論文。對於從事數據管理、模型訓練優化、生成式 AI 法規擬定的工程師與研究人員而言，此論文提供了全新視角與強大工具，開啟了理解數據與模型關係的嶄新篇章。
論文資訊
📄 Data Shapley in One Training Run
👥 Wang, Mittal, Song, Jia
🏆 ICLR 2025 · Outstanding Paper Honorable Mention
🔗 arxiv.org/abs/2406.11011
沒有留言:
張貼留言