The Value of Prediction in Identifying the Worst-Off

在人工智慧與機器學習技術快速發展的今日，政府及社會福利機構越來越多地倚賴預測模型來辨識社會上最脆弱、最需要幫助的群體。傳統目標常是最大化某種整體效益（如全體人口的平均健康指標），然而近年在公平性（equity）導向的政策設計中，更強調將有限資源傾注於「狀況最糟者」（worst-off）。在此背景下，Fischer Abaigar 等人在 2025 年 ICML 發表的獲獎論文《The Value of Prediction in Identifying the Worst-Off》提出一套嶄新且嚴謹的理論與實證分析框架，旨在系統性探討預測在促進公平且精準辨識最弱勢對象上的價值與限制，並與其他政策工具（例如擴充行政資源）作出比較。

研究背景與動機

政府社會福利計畫，如失業救濟、醫療補助等，經常面臨有限預算或資源分配困難。投入資源最重要的目標之一，便是「幫助那些最需要救助的人」，即聚焦於社會中處境最艱困的個體。傳統政策規劃中多以人口整體效益最大化為依歸，然而這可能導致弱勢群體被忽視或資源分配不均。近年來，機器學習被視為提升政策精準度的關鍵技術，能透過數據挖掘與預測模型，提高辨識「最糟者」的能力。儘管如此，預測的準確度、模型選擇及其在公平性導向下的實際影響尚未被系統探討，政策制定者面臨的決策困境是：究竟投資於打造更精準的預測模型，還是增加行政資源（如人力或現金補貼）的擴充，哪一種策略對促進弱勢族群福利影響最大？本論文即是針對這項核心問題提出建模、理論分析以及實務案例研究。

核心方法與創新

論文作者從數學建模的角度切入，建立了一個將預測與資源分配結合的福利經濟模型。模型中，假設政府政策透過兩個「槓桿」來提升弱勢者的福利：第一是「預測能力」（prediction accuracy），反映能否精確辨識出最需要幫助的個體；第二是「行政容量」（bureaucratic capacity），代表可實際執行干預措施的人力與資金等資源。

創新之處在於，作者不僅考量模型預測的靈敏度與特異度，還探討了在有限行政容量限制下，預測改進與擴充資源之間的邊際效應與組合效果。此方式突破了以往只聚焦單一預測模型表現的侷限，反而提供一個多元視角來評估公平導向政策工具的整體效率。此外，論文也針對「最糟者」定義進行了細緻討論，使模型具備高度實務可解釋性。

在實證部分，作者以德國長期失業問題為範例，利用大型官方調查及就業資料，構建真實背景下的實驗。透過比較不同預測模型（包含傳統統計法與機器學習方法）結合不同層級的行政資源分配，該研究展示模型預測精準度提升所帶來的直接福利改善，同時也量化了行政容量加碼帶來的間接效益。

主要實驗結果

從結果面看，論文揭示數個令人深思的洞見。首先，適度提升預測準確性確實能顯著增進最弱勢群體所獲得的幫助，尤其在資源有限時，更好的辨識能力有助資源「錢花得巧」。然而，在行政容量相對不足的情況下，過度追求預測精度的邊際效益會急劇遞減，因為即使能精準識別最嚴重者，若缺少足夠的人力或資金施以援手，改變仍有限。

其次，相較於單純增強預測，合理分配並擴充行政容量同樣關鍵，甚至在某些場景下，增加直接干預能力對弱勢的福利提升更為有效。此發現提醒政策制定者，技術提升與組織資源擴展兩者都不可偏廢，須協同優化。

最後，論文同時提出了一套「決策者工具包」，包含數學分析工具及可視化介面，幫助真實政策制定過程中評估預測模型與資源配置策略的長期福利與公平性影響，促使使用者可根據具體數據與環境制訂最合適策略。

對 AI 領域的深遠影響

本論文在人工智慧應用於社會政策領域帶來了多重重要貢獻。首先，它強調了「公平」與「效率」在社會福利政策設計中的複雜交互，提供了嚴謹數學基礎來解析預測技術並非孤立的解決方案，而是政策多面向考量下的關鍵一環。這對 AI 研究者與實務者皆提出了新挑戰：如何在提升模型性能的同時，深入理解其在資源限制與社會組織架構中的應用極限。

此外，該研究擴展了機器學習在「解決不平等」議題上的貢獻視野。過去多數公平性研究聚焦於模型內在的偏誤與公正指標，而此論文進一步將焦點放在「結果公平」（outcome fairness），強調實際受惠者的福利改變，將 AI 模型與政策實踐更緊密結合。

最後，論文提供的理論架構與實驗方法也為未來跨領域研究奠定典範，激勵在資料科學與公共政策的交叉領域中，發展更完善的決策支持系統，促進社會資源合理且公平的分配。這不僅是技術突破，更是一種倫理與社會責任的深化實踐，代表 AI 不僅能做「更聰明的決策」，更可助力「更公平的社會」。

總結而言，《The Value of Prediction in Identifying the Worst-Off》一文不僅為預測模型在弱勢識別上的應用提供了嶄新視角，更在政策設計中整合技術與組織實踐，為 AI 與公平性研究注入新的理論與方法論基礎。對人工智慧發展與社會應用的未來具有里程碑式的意義，值得學術界與政府部門廣泛參考與追蹤。

---

論文資訊
📄 The Value of Prediction in Identifying the Worst-Off
👥 Fischer Abaigar, Kern, Perdomo
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2501.19334

Score Matching with Missing Data

在機器學習領域中，學習資料分布是核心任務，而「score matching」作為一種參數估計技術，因其在許多先進模型中的關鍵應用而備受重視，例如擴散過程（diffusion processes）、能量模型（energy-based models）與圖模型估計（graphical model estimation）等。Score matching 的特點在於透過估計資料分布的梯度（即 score function），避免了傳統最大似然在計算正規化常數時的巨大計算負擔。然而，在真實世界中，數據缺失是普遍且不可避免的問題，這對任何學習方法而言都是一大挑戰。然而，針對score matching在缺失資料環境中的適用性，過往研究少有深入探討。

來自 Givens、Liu 和 Reeve 三位學者於 2025 年 ICML 所發表的《Score Matching with Missing Data》一文，獲得了傑出論文獎（Outstanding Paper），提出了極具前瞻性的框架與方法，成功將score matching拓展至包含部分缺失資料的場景，廣泛適用於任意子維度資料缺失的情況，完善了該方法在實務中的彈性與實用性。

研究背景與動機

傳統的score matching假設資料是完整可見的，但實際應用中，從醫療數據、遙測資料到用戶行為記錄，常存在缺失值。缺失資料往往會導致模型訓練偏差、估計效果變差，甚至無法使用部分現有方法。雖已有多項缺失資料處理技術（例如多重插補、EM算法），但它們大多聚焦於最大似然或貝式估計框架，score matching 在缺失環境的理論與方法卻鮮少被觸及。

因此，本論文的核心動機在於如何在不放棄score matching便利性的前提下，設計一套通用且理論健全的估計策略，讓score matching不僅能處理完整資料，亦能針對任意子集缺失資料進行有效學習。

核心方法與創新

本論文主要貢獻在於提出兩種創新score matching方法來應對缺失資料問題：

1. 重要性加權方法（Importance Weighting，IW）：此方法基於傳統score matching的目標函數，引入樣本重要性權重以補償缺失機制造成的偏差。具體來說，作者透過對存在缺失的資料部分，計算條件分布的校正權重，使得score matching的參數估計仍保持一致性。重要性加權法具有明確的理論保證，論文中證明了在有限樣本及有限域下的重要性加權估計的收斂界限，並展示該方法在樣本量較小、資料維度較低的環境中表現尤為優異。
2. 變分推論方法（Variational Approach）：針對高維度且缺失模式複雜的資料環境，直接透過建立可行的變分下界來近似缺失資料的似然，從而改寫score matching目標。此方法利用變分分布捕捉缺失資料的潛在結構，並採用漸進優化演算法最大化變分目標，特別適用於維度龐大且缺失模式多變的資料集。

兩種方法在理論與實務上互補，IW方法偏重理論穩定性與低維、小樣本設定，變分方法則在高維度與複雜缺失結構下更具彈性和適用性。此外，作者框架通用，不僅涵蓋基本score matching，也可延伸至擴散模型和其他score-based方法，顯示方法的廣泛適用潛力。

主要實驗結果

為驗證方法效能，論文作者設計多組實驗：

• 模擬資料中的圖模型估計：透過構造不同缺失比例及模式的圖結構資料，測試兩種方法在結構與參數恢復上的準確度。實驗結果顯示，重要性加權法在低維場景及較少缺失情況下，能顯著提升估計準確率，並且比傳統插補方法更穩健。而變分方法在資料維度升高及缺失模式複雜化時，能保持相對穩定且優異的性能，證明其在大規模問題中的實用價值。
• 真實世界數據應用：論文亦在健康醫療及社會科學數據上驗證，本方法不僅提升了缺失資料情況下分布估計的可靠性，也帶動下游任務（例如缺失值補齊、異常檢測）的表現改善。

整體而言，實驗充分展現兩種方法各自優勢與限制，並借此彰顯作者所提出框架之彈性與實用性。

對 AI 領域的深遠影響

本篇論文的貢獻深刻推動score matching在實際應用中的潛力，並使之能夠有效處理缺失資料問題，這在人工智慧尤其是無監督學習、生成模型和高維模型估計中意義非凡。以下為本工作帶來的重要影響：

• 拓展score matching的應用範圍：過去score matching多受限於完整資料，本研究突破此限制，提高了該技術在不完美資料環境下的適用性，促進其在現實世界問題中的廣泛運用。
• 理論與方法論的雙重進展：透過融入重要性加權與變分推論，作者不僅提供強健的理論保證，也構建了實務可行方案，使學界與產業界均能直接採用。
• 推動缺失資料建模方法創新：缺失資料問題歷久彌新，本研究提出的新思維與方法，為後續缺失資料處理與未標記資料利用提供了範例，激發更多創新方法與理論誕生。
• 增進生成模型與圖結構模型的魯棒性：在擴散模型及圖模型等熱門領域中，資料缺失普遍存在，本論文所提技術可提升這些模型在真實環境中的穩定性與表現，有助於推動技術商用與大規模部署。

綜合而言，《Score Matching with Missing Data》不僅在技巧上具有高度創新性，更為score matching方法在面對現實數據挑戰時提供了堅實解決方案。這無疑是機器學習缺失資料研究中的重要里程碑，值得後續研究者深入學習與延伸。

---

論文資訊
📄 Score Matching with Missing Data
👥 Givens, Liu, Reeve
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2506.00557

Conformal Prediction as Bayesian Quadrature

隨著機器學習技術在醫療診斷、自動駕駛、金融風險管理等高風險場域的應用日益廣泛，模型不確定性的量化成為保證系統安全與穩健性的關鍵。傳統的黑盒預測模型雖然能提供點估計，卻無法明確告訴使用者在未來部署環境中可能遭遇的誤差範圍。針對此一挑戰，作為一種無分布假設（distribution-free）的不確定性表示方法，保序預測（Conformal Prediction, CP）因其可在不依賴模型內部結構的情況下，給出群組級別的置信集合（confidence set）以及嚴格的頻率性錯誤保證（frequentist coverage guarantee），而受到廣泛重視。然而，保序預測基於頻率主義（frequentist）概率理論，限制了其在更廣泛且複雜場景中不確定性解釋的靈活性與豐富度。

在此論文中，Snell 與 Griffiths 重新審視了保序預測的數理基礎，從貝葉斯（Bayesian）的角度切入，提出一種嶄新的詮釋及擴展架構——將保序預測視為一種貝葉斯數值積分（Bayesian Quadrature, BQ） 問題。典型的保序預測框架中，我們試圖對未知分布下的損失或殘差函數進行區間估計。而為了估計這類分布的特徵量，該論文指出，保序預測實質上等同於以貝葉斯高斯過程（GP） 模型為先驗，對在驗證資料上計算的損失函數進行貝葉斯積分推理。此新視角突破了頻率主義的限制，種類不只是保證覆蓋率，而能夠提供一套可解釋、且反映不確定性本質的後驗分布結構。

研究背景與動機

保序預測的發展源自於頻率主義統計推斷，透過將測試樣本與歷史驗證資料一起排名，構造可覆蓋新樣本的預測區間。儘管這些區間確保了長期平均錯誤率低於預設門檻，但該保證往往假設資料是獨立同分布（i.i.d）且忽略了模型參數不確定性的內在結構。因此，在模型未知且環境因素多變的真實世界部署時，單一置信區間未必能充分反映誤差分布的詳細信息，尤其在場景異質性與資料分布漂移出現時，保序預測的頻率性保證與具體應用產生差距。

此時，貝葉斯方法以其天然的後驗推理框架能夠兼顧模型不確定性，自然地融合先驗知識與觀測數據，有效輸出受約束的概率分布。本文動機正是在探討如何透過貝葉斯數值方法重構保序預測框架，以同時獲得不依賴假設的健壯且具解釋性的預測不確定性表示。

核心方法與創新

核心創新是將保序預測問題轉換為以貝葉斯數值積分解決的機率推理問題。傳統保序預測關注損失函數的分布，試圖找到能以實際覆蓋率為基礎的分位數界限。作者將一次損失函數視為黑盒函數，利用高斯過程建模該函數，該 GP 充當一個概率分布上的先驗。不像傳統通過頻率分位數估計界限，該方法通過貝葉斯積分（Bayesian Quadrature）計算該函數在待測分布上的期望與其他統計量，從貝葉斯後驗視角得到測試階段預期損失及不確定性。

這裡的 Bayesian Quadrature 是一門結合數值積分與概率模型的技術，將積分視為一個隨機變數估計問題，透過高斯過程刻畫函數形狀和積分誤差。相比簡單頻率派的分位數界限估計，它提供了一種分布式且可更新的不確定性量化方式，能在有限資料下反映估計不確定性與損失函數的複雜結構。

作者針對保序預測提出了貝葉斯替代方案，稱之為“Bayesian Conformal Prediction”。該方法不僅保留原本頻率性覆蓋率的有利條件，也加入了後驗分布的豐富表達，能提供跨越損失函數全域的置信分布，而非單一界限。此外，此框架能自然整合先驗資訊，並能有效調節損失估計在新環境中的適應與泛化能力。

主要實驗結果

作者在多個合成及真實世界資料集上，包含迴歸任務與分類任務，詳細比較了頻率保序預測與所提 Bayesian Quadrature 方法的效能差異。實驗結果強調了幾個重要發現：

• 在有限樣本情況下，傳統保序預測的覆蓋區間保守且範圍較寬，難以精確反映測試損失的真實行為；而 Bayesian Conformal Prediction 透過後驗推斷給出更為緊湊且合理的預測分佈，能有效降低冗餘區間。
• 新方法提供了損失預測的完整後驗分布，工程師及決策者不只知道一個置信界限，更能因應後驗分佈特性進行風險評估與決策模擬。
• 在存在模型不確定性與測試分布漂移時，Bayesian 方法展現出更強的魯棒性與靈活調整能力，頻率保序預測因其假設限制易遭遇失效或過度保守的問題。

此外，論文亦分析了計算效率與實用性，證明所提出方法能在合理的計算資源下實現，且與現有保序預測方法能在不改變下游模型架構的前提下相容。

對 AI 領域的深遠影響

本文對於不確定性量化研究與應用具有多方面重要影響。首先，它革新了保序預測的理解與使用方式，從根本層面推動了不確定性保證技術由頻率主義向貝葉斯統計的轉變，這種理論突破有助於拓展不確定性量化方法的應用邊界，特別是在複雜環境與有限數據情況下。

其次，透過將貝葉斯數值積分引入到預測誤差估計，該研究架構可應用於各類機器學習任務，包括深度學習模型的置信評估、模型集成方法的不確定性評估，甚至是自動化決策系統中的風險控制。此外，後驗分布的易解釋性優化了風險管理流程，增強AI系統在實際部署中的透明性與信任度。

再者，本文也為未來將頻率性框架與貝葉斯框架結合提供了理論基石，刺激更多跨統計範式的不確定性建模研究，例如如何融合先驗結構、實時更新不確定性表示等擴展方向。

總結而言，Snell 與 Griffiths 的這項研究不只是對保序預測技術本身的進化，更是對未來機器學習模型不確定性保障方法的一次全新設計，強化了AI在高風險環境下的應用安全性與決策可靠性，對學術界與工業界均具有長遠價值。

---

論文資訊
📄 Conformal Prediction as Bayesian Quadrature
👥 Snell, Griffiths
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2502.13228

Roll the Dice & Look Before You Leap: Going Beyond the Creative Limits of Next-Token Prediction

在當前自然語言處理（NLP）與生成模型領域中，基於「下一個字元預測」（next-token prediction）的訓練範式已成為主流。這類模型透過大量文本資料中每個字詞的連續性，學習在給定上下文下預測下一個字詞，看似擁有了閱讀理解與自然語言生成的能力。然而，隨著技術推進，研究者逐漸注意到此類方法在「創造性生成」這一更開放且複雜的任務上存在著顯著瓶頸：它們往往過於「目光短淺（myopic）」，難以實現長期規劃或追求出人意表的創新解答。Nagarajan 等人於 ICML 2025 發表的傑出論文《Roll the Dice & Look Before You Leap: Going Beyond the Creative Limits of Next-Token Prediction》即針對此限制，提出全新的視角與實驗方法，試圖突破當前模型的創意天花板。

研究背景與動機

在現代生成模型中，例如 GPT 系列，它們的核心訓練目標是透過最大化每一步「下一個字元」的條件機率來完成學習，這使得生成過程高度局限於局部最佳，而非整體優化。這樣的「單步預測」策略在大多數語言任務中效果顯著，但對於需要「跨越多步驟」、「規劃未來狀態」或「探索未被觀察可能性」的開放式創意任務則顯得力不從心。換句話說，當任務需要模型不僅要在語言結構上合理，更必須在策略或概念層面進行隨機化的遠見規劃時，這類模型往往難以產出真正多樣且原創的結果。

此外，當前生成模型常用的多樣性調節方法如「溫度採樣（temperature sampling）」主要是在輸出層透過擾動機率分布來誘導多樣化，但此方法依然基於單步預測，缺乏從源頭即引入隨機化的機制。基於上述痛點，作者團隊希望設計一組簡潔而具代表性的「算法性任務測試床」，對比不同生成策略，並系統性探究生成模型的創造力極限與可能的突破方向。

核心方法與創新

本論文最重要的貢獻之一是設計了一組極簡但能反映真實世界開放性問題本質的算法性任務。這些任務抽象地模擬了許多需要創新思考的場景，主要涵蓋兩類：

1. 抽象知識圖的隱式隨機規劃：例如聯想詞語遊戲、類比推理或科研過程，需要模型跨越多層關聯發現新連結。
2. 結構與模式創建：如數學問題設計、蛋白質序列合成，需要貫穿多步邏輯且產生全新組合。

基於這種任務設計，作者系統地比較了三種生成方法：

• 標準的下一字元預測（Next Token Prediction）：最常用的生成策略，但本論文證明其在創造力方面的侷限與短視性。
• 無教師訓練方法（Teacherless Training）：不依賴人類示範，透過逆向推理等多步長期優化策略，表現出更高程度的創造性與探索能力。
• 擴散模型（Diffusion Models）：利用逐步去噪過程生成資料，天然具備多樣性探索的能力，被證明在完成多元與原創內容方面比傳統方法更具優勢。

另一項技術創新是作者提出的 「種子條件化（Seed-Conditioning）」 機制。不同於從輸出分布直接採樣的溫度調節，種子條件化在輸入層注入適度隨機噪音，既可維持生成結果的連貫性，又能更有效產生多樣化的輸出變體。在某些實驗條件下，該方法甚至超越了溫度採樣，成為誘導多元創作的新手段。

主要實驗結果

透過精心設計的最小算法任務，實驗清楚揭示以下幾點：

• 下一字元預測模型在生成多步長遠規劃內容時，表現明顯不如結合長期隨機策略的模型。此類模型傾向於選擇局部高概率路徑，欠缺跨步創新性思考。
• 無教師訓練和擴散模型優於傳統方法，特別是在要求多階段決策與組合創造性內容的任務中。這展示出多步驟、跨維度的隨機化學習對於實現更高層次創造力的必要性。
• 從輸入層注入噪音（種子條件化）不僅保持了語義與結構的一致性，也明顯提升了生成內容的多樣性。這種方法在部分實驗中比從輸出層調整溫度更有效。

此外，作者將代碼與任務框架開源，促使社群能在可控且可重複的環境中進一步研究生成模型的創意能力。

對 AI 領域的深遠影響

本論文以嚴謹的方法論與簡潔的任務設計，指出了當前 AI 文本生成最流行的訓練機制——下一字元預測的核心限制，並提供了可行的替代路徑。這對 AI 領域具有多方面的深刻影響：

1. 創造力的量化與解析：透過該論文提出的極簡算法任務，研究者得以以更定量、可控的方式評估模型的創造力與長期思維能力，為未來研究奠定基礎。
2. 生成模型架構的革新指向：傳統的 Next-Token 生成策略或許需被補充甚至取代，特別是在高創新要求的任務中。無教師訓練和擴散模型等方法被證明在多樣性與原創度上有顯著優勢，將激發後續架構與訓練方法的設計思考。
3. 隨機性注入策略的新典範：種子條件化作為一種在輸入層調節隨機性的方式，在保持生成品質與加強多樣性間取得平衡，為生成模型調參與控制提供全新思路，有機會成為下一代生成調節的基石技術。
4. 跨領域應用潛力：由於此研究模型所探討的策略跨越語言、數學、蛋白質設計等多個創造性領域，為 AI 在科學發現、藝術創作、教育設計等各方面注入新動能。

綜合而言，Nagarajan 等人提出的觀點和方法，挑戰了 NLP 與生成式 AI 既有的框架與瓶頸，開啟了以更遠見和創造力為導向的 AI 系統設計新局。對於希望在 AI 創新應用中尋求突破的工程師與研究生，此論文不僅提供了理論基礎，更指明了實踐的具體路徑，具有高度的理論價值與工程啟發性。

---

論文資訊
📄 Roll the Dice & Look Before You Leap: Going Beyond the Creative Limits of Next-Token Prediction
👥 Nagarajan, Wu, Ding, Raghunathan
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2504.15266

Train for the Worst, Plan for the Best: Understanding Token Ordering in Masked Diffusions

隨著生成模型的蓬勃發展，尤其在離散資料領域（如自然語言、符號序列等）中，模型如何高效且靈活地進行生成成為研究熱點。過去以自回歸模型（Autoregressive Models, ARMs）為主流，因其訓練與推論流程相對直觀，但推論時只能嚴格按照固定的序列順序逐步解碼，靈活度與速度受限。近年來，掩碼擴散模型（Masked Diffusion Models, MDMs）作為一種新興生成架構，成功引入可自由調整解碼順序的能力，使推論變得更靈活、高效，但訓練過程則須解決龐大的填充（infilling）問題，計算複雜度大增。Kim 等人於 ICML 2025 所發表的《Train for the Worst, Plan for the Best: Understanding Token Ordering in Masked Diffusions》一文，針對這兩種模型在訓練與推論中的「順序策略」問題，提出深入的理論分析與實證驗證，並因其原創性與實用性榮獲該年度的 Outstanding Paper 獎。

研究背景與動機

自回歸模型（如 GPT 類模型）在離散序列生成上展現卓越成果，其依序生成下一個 token 的形式，使訓練和推論均相對簡單。然而，這種一詞接一詞的生成策略在推論時有明顯瓶頸：生成過程無法並行，並且無法根據內容或上下文彈性決定生成順序，導致對長序列的生成效率及結果品質受限。

掩碼擴散模型（MDMs）則開創性地借鑒了圖像擴散模型的成功架構，將生成問題表述成一系列「去噪」或「填空」任務：模型學習在大量可能被遮蔽的token位置中填入正確內容。這使得推論時可以不受先前生成序列位置所限，按照任意順序解碼任意 token，大幅增加解碼自由度和潛在效率。可是，這種靈活性的代價是，訓練時模型要同時學習無數子問題，每個填空設置對應一種「子序列推理」任務，導致計算複雜度呈指數爆炸。

因此，本論文的動機在於：如何理論與實務層面解析訓練時的「最難子問題」和推論時的「最優解碼策略」，期望透過「針對最壞情況訓練，而在推論時規劃最佳順序」的策略，讓 MDMs 在解決複雜離散序列生成任務時發揮最大效能。

核心方法與創新

本研究首先從理論層面分析了 MDMs 與 ARMs 在訓練上的差異。作者以形式化方法證明，MDMs 在訓練時必須應對指數級增長的子任務空間，這些子任務即各種可能的遮蔽組合填充問題，遠較 ARMs 僅需學習依序生成的單一路徑複雜得多。換言之，MDMs 天生面臨訓練計算複雜度的瓶頸。

接著，論文重點探討推論階段。由於 MDMs 允許按任意順序生成 token，如何選擇最佳的解碼順序成為關鍵。作者提出一套「自適應解碼順序策略」，根據當前已生成的部分信息動態決定下一個要解碼的 token，藉此避開「難解的子問題」，有效減少探索空間與錯誤累積。這種策略類似問題導向的「貪婪搜索改良」，但特別適配離散掩碼擴散的架構，顯著提升了推論質量與速度。

技術上，論文結合理論證明與優化算法設計，並提出一個啟發式方法來估算當下選擇 token 的困難度，指導解碼順序調整。此外，作者針對 Sudoku 等邏輯謎題這類結構嚴謹、需要高階推理能力的離散任務，進行嚴格的驗證與對比實驗，證明該策略的實用價值。

主要實驗結果

實驗部分以 Sudoku 解題任務為核心測試場景。此類問題代表了離散序列生成中高難度且結構性強的挑戰，適合驗證模型的推理能力和解碼策略的有效性。透過比較，作者發現：

• 預訓練的 MDM 透過傳統固定解碼順序，解題正確率僅約 7% 以下，表現不甚理想。
• 引入自適應解碼順序策略後，解題正確率大幅提升至約 90%。
• 同時，相較於訓練參數量是 MDM 7 倍的自回歸模型（並且經過教師強化(training by teacher forcing)以學習理想解碼順序），MDM 不只匹敵更具參數規模和順序資訊的自回歸模型，甚至在準確率上優於對手。

此外，作者進一步分析了自適應策略擇序的效果，證明動態序列規劃使模型能集中資源攻克「最難子問題」，從而避免無謂的錯誤累積，強化推論過程的穩定性，這在許多其他離散生成任務中同樣適用且具潛力。

對 AI 領域的深遠影響

本論文最核心的學術貢獻，是首次全面系統地揭示離散擴散模型訓練與推論順序設計的雙重挑戰，並創新提出「針對最壞情況訓練、推論時規劃最佳策略」的通用思維框架。這一想法顛覆了以往自回歸模型固定序列生成的觀念，為離散領域生成模型的效率與效果提升開創新路徑。

從應用層面看，自適應解碼順序策略意味著未來生成模型不必受限於單一路徑解碼，將能靈活適配多變且複雜的推理任務，提升在自然語言處理、程式碼生成、邏輯推理甚至科學計算等領域的表現。該研究的方法與理論框架亦可啟發多模態生成和更廣泛的結構化生成問題。

此外，本論文對如何在龐大複雜性與實際效能間找到平衡的洞見，對擴散模型乃至其他類型生成模型的設計策略具有指導意義。在擴散模型快速發展背景下，其提出的動態解碼策略和訓練分析可望成為未來改良擴散模型、提高推論效率及生成品質的重要參考。

總結而言，Kim 等人的工作不僅深化了對離散擴散模型本質難題的理解，更提出極具實用價值的解決方案。這項研究代表了生成模型領域的一大突破，有望推動新一代更強大且靈活的生成架構誕生，影響深遠且持續。

---

論文資訊
📄 Train for the Worst, Plan for the Best: Understanding Token Ordering in Masked Diffusions
👥 Kim, Shah, Kontonis, Kakade, Chen
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2502.06768

CollabLLM: From Passive Responders to Active Collaborators

近年來，大型語言模型（Large Language Models，簡稱 LLM）在自然語言處理領域帶來革命性的突破，成為多種語言理解與生成任務的基石。然而，目前主流的 LLM 通常以「被動回應」（passive response）模式運作，亦即依據使用者當前的輸入提供下一步回應，並且訓練標準多以「下一回合獎勵」（next-turn rewards）為主，這種設計固然有效提升短期回應的準確度，但卻忽略了對話或互動的長期目標與策略協作。因此，當面對模糊或開放性問題時，傳統 LLM 往往無法主動引導使用者或深度挖掘使用者真正的需求，導致互動效率不彰，且難以達成複雜任務的深層合作。

針對此一瓶頸，Wu 等人於 ICML 2025 發表的論文《CollabLLM: From Passive Responders to Active Collaborators》提出了創新的訓練框架──CollabLLM，致力於讓 LLM 不僅僅是被動地回應使用者，更能成為主動合作的夥伴，深入理解並協助達成使用者的長期目標。該論文榮獲大會傑出論文獎（Outstanding Paper），彰顯其在 AI 領域高度的創新性與實務價值。

研究背景與動機

傳統的 LLM 優化方法以強化學習（Reinforcement Learning）結合人類反饋（如 RLHF）為主，通常以促使模型產生高即時獎勵的回應為目標。但此策略存在明顯限制：

• 缺乏長遠視野：訓練機制關注短期對話回合，無法評估多回合互動中的累積價值。
• 被動回應限制創造力：模型多依賴指令式輸入，對模糊或開放性需求不具主動探索與釐清的能力。
• 互動效率低下：無法有效協助使用者梳理需求、整合資訊或提出建議，導致任務完成時間拉長。

基於上述問題，研究者提出 CollabLLM，期望透過多回合互動模擬與獎勵機制設計，培養模型具備策略性思考與主動協作能力，使 AI 更符合人性化、協作導向的應用需求。

核心方法與創新

CollabLLM 的核心思想在於「多回合感知獎勵」（Multiturn-aware Rewards）與「合作模擬」（Collaborative Simulation）策略：

1. 合作模擬：該方法在訓練過程中，模擬整個多回合人機互動情境，不僅評估單回合的語言生成品質，更以多回合完整對話結構來計算回饋。此舉讓模型能洞察各回合間的相互影響，捕捉到長期合作價值。
2. 多回合感知獎勵：不同於單純追求回應正確性，該獎勵機制設計來衡量模型主動探索用戶意圖、提出建議、推動任務進展的能力，獎勵模型的「積極合作」表現。
3. 强化微調：通過 RL 整合多回合感知獎勵，模型在大型語言模型基礎上進行微調，逐步學習從被動回應轉向主動合作的 behaviors。
4. 多任務互動基准：論文同時提出一組涵蓋多個複雜任務的互動基準，包括文件創建等挑戰性任務，旨在全面評估模型在實際協作場景下的表現。

這種方法極大地拓展了 LLM 在多回合語境理解與決策的能力，使模型不再只是簡單對使用者命令做出反饋，而是能夠推動對話向前發展，協助釐清和完成複雜的使用者目標。

主要實驗結果

研究團隊在所設計的多回合互動基準上，將 CollabLLM 與多個基線模型進行了廣泛比較，結果顯著：

• 任務完成度提升：CollabLLM 在三個核心複雜任務上的平均任務表現提升達 18.5%，顯示主動合作能有效提升解決問題的效率與品質。
• 互動性顯著增強：由專業 LLM 評審進行的互動性評分提高 46.3%，意味著模型對話更具引導性與智慧性，能促成更順暢且富有成效的溝通合作。
• 人大用戶研究：在 201 名評審組成的用戶調查中，CollabLLM 增加了 17.6% 的使用者滿意度，並且減少使用者在任務上花費的時間約 10.4%。此結果明確反映了模型的實際應用價值及使用便利性。

整體而言，CollabLLM 不僅在定量指標上取得卓越成果，更在主觀體驗面上獲得高度肯定，充分展現其跨出傳統 LLM 被動框架的重要里程碑。

對 AI 領域的深遠影響

CollabLLM 的提出意味著 AI 語言模型從「回應工具」邁向「合作夥伴」的轉型。這種主動探索使用者意圖、協同推動任務進展的能力，有望深刻改變人機交互的未來形態：

• 人性化與效率兼顧：模型不僅提供資訊，更能從對話中理解背景與目標，給予策略性建議，提升整體互動效率與使用者體驗。
• 多領域應用拓展：無論是專業文件編寫、產品設計輔助還是教育輔導，CollabLLM 皆有潛力成為協同創作的重要推手，促成人機合作的新篇章。
• 推動複雜任務的自動化：透過強化多回合互動策略，AI 具備從容處理多步推理與決策的能力，未來可支持更多需要長期規劃的智能應用。
• 訓練與評估的新標準：「多回合感知獎勵」與「合作模擬」的創新機制，為後續 LLM 研究提供了有力的理論與實務框架，促使訓練策略從單回合轉向多回合視角。

綜上所述，CollabLLM 不僅填補了大型語言模型在多回合互動中的空白，其背後的理念與技術創新，將驅動下一代 AI 在協同智慧領域邁向更新高度。這篇論文在 ICML 2025 中獲得傑出論文獎可謂實至名歸，值得 AI 研究者與工程師深入學習與借鑒。

---

論文資訊
📄 CollabLLM: From Passive Responders to Active Collaborators
👥 Wu, Galley, Peng, Cheng, Li, Dou, Cai, Zou, Leskovec, Gao
🏆 ICML 2025 · Outstanding Paper
🔗 arxiv.org/abs/2502.00640

Data Shapley in One Training Run 獲獎深度簡介

隨著機器學習在各領域大規模應用，理解資料對模型訓練的重要性越發關鍵。Data Shapley作為一種理論嚴謹的資料貢獻度衡量工具，能量化單筆資料對模型表現的具體影響。然而，以往的方法需透過多次重訓模型於不同資料子集，計算成本極高，不但難以用於大型模型，且無法針對特定訓練結果執行精準的資料歸因。Wang 等人在 ICLR 2025 發表的論文《Data Shapley in One Training Run》突破此瓶頸，推出了革命性的方法：只需一輪訓練即可完成資料貢獻度評估，且效率幾乎與一般模型訓練同級，進而首度實現基礎模型（foundation model）預訓練階段的大規模資料歸因，獲得會議傑出論文榮譽提名，成為生成式 AI 及資料管理的重要里程碑。

研究背景與動機

傳統深度學習模型強烈依賴龐大且多樣化的資料集，然而資料並非皆等價：部分資料可能極具價值，有助提升模型泛化能力；反之，部分數據可能帶來負效應或偏誤。因應這種實務需求，Data Shapley 利用合作博弈理論中的“Shapley value”概念，嘗試公平分配每筆資料對模型整體性能的邊際貢獻值。此理論框架不僅合理且具備唯一性，但現行「離線」Data Shapley 計算需反覆移除或加入資料，再重複訓練多次模型，計算成本呈爆炸式增加。

面對大型深度神經網絡，尤其是需要數百至數千 GPU 小時預訓練的基礎模型，傳統 Data Shapley 方法極難實行。此外，以往方法會產生資料貢獻分數，卻無法反映特定模型訓練過程的個別差異，意味其評估結果只是資料本身的平均貢獻度，而非針對「某次訓練中實際得到的模型」做出精確歸因。此一缺陷限制了資料審查、版權鑑定及模型微調等多項應用發展。

核心方法與創新

本論文提出的 In-Run Data Shapley，針對上述問題，開創性地僅以 一次模型訓練，即得到明確的資料貢獻值估計。此方法的核心在於整合了新穎訓練過程追蹤與動態評估技術，在前向和反向傳播間嵌入資料影響力分析，實時累積資料對模型參數影響的梯度跡象。透過巧妙利用隨訓練時間變化而更新的參數空間信息，與資料對損失函數的敏感度，In-Run Data Shapley 能推估每筆訓練資料的「增量貢獻」，避免傳統評分需反覆重新初始化模型的計算負擔。

具體實作上，方法利用 模型內部對資料影響的微分訊號，像是資料如何逐層改變參數更新路徑，在單次訓練流程中整合這些影響分數。此跨參數與時間軸的追蹤策略，配合理論上的估計修正機制，使得資料貢獻得分達到高準確且穩定的估算質量。此外，作者對演算法設計持續精簡，確保額外計算成本微乎其微，近乎將資料歸因整合入標準訓練過程，避免二次運算。

主要實驗結果

論文中，作者透過多組涵蓋小型與大型模型的實驗，驗證 In-Run Data Shapley 在準確性與效率上的優越表現。與傳統 Shapley Value 計算方法相比，新方法在資料重要性排序及貢獻度評估上高度一致，皮爾森相關係數超過0.9，但運算時間卻減少至傳統的千分之一。特別是在大型基礎模型 GPT-2 的預訓練階段首次實驗，成功在一次訓練流程內完成對數百萬筆資料的貢獻度評估，這種規模先前不可想像。

另外，藉由對不同類型資料（例如新聞、百科、網路文本）對模型性能影響的分析，作者發現某些資料集段落對預訓練具有顯著正貢獻，而另一些資料中則隱含潛在風險，如資訊過時或有害偏誤。此外，應用演算法辨識出對下游任務效能關鍵的資料子集，為資料過濾、清理策略提供理論依據。這些案例足以顯示 In-Run Data Shapley 不僅是一種理論工具，更具備極強的實務價值。

對 AI 領域的深遠影響

In-Run Data Shapley 解決了資料貢獻估計的兩大核心瓶頸——高計算成本與缺乏針對特定模型的精確歸因——從而徹底改變了資料價值評估的現場實務。此技術的垂直突破，讓研究者及業界首度能在基礎模型的龐大預訓練環境中執行細粒度的資料審計與選擇，不僅提升模型品質，也預示更透明、公平的資料使用規範。

另一方面，隨著生成式 AI 的崛起，資料來源的版權爭議日益突出。In-Run Data Shapley 能夠精確量化每筆資料對生成模型的影響，成為未來著作權判定、資料合規審查的重要技術基石。此外，該方法彈性極高，能融入現有訓練架構，促使資料集中管理和動態更新策略的可行性大幅提升，進而推動 AI 訓練從資料層面進行更有意識、可控的優化。

總括來說，《Data Shapley in One Training Run》不僅是資料價值理解領域的技術飛躍，更是推動 AI 可解釋性、公平性及責任性的關鍵突破，為更透明、可審計的人工智慧生態系鋪路。未來在 AI 法規制定、數據治理及機器學習模型優化方面，這項創新無疑將成為核心參考標準，深刻影響學術與產業的未來發展路徑。

---

論文資訊
📄 Data Shapley in One Training Run
👥 Wang, Mittal, Song, Jia
🏆 ICLR 2025 · Outstanding Paper Honorable Mention
🔗 arxiv.org/abs/2406.11011