Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond) 深度簡介

在當今自然語言處理領域，語言模型（Language Models, LMs）已展現出極為強大的生成能力，從問答系統、文章撰寫到對話機器人等各個應用層面均有卓越表現。然而，一項潛藏且重要的議題逐漸浮現：這些模型在生成開放式、創意性內容時，往往表現出高度的同質化，亦即不同模型甚至同一模型多次生成的回答相當雷同。這不僅限制了輸出多樣性，長遠來看可能還會影響人類的思維及文化多元性。NeurIPS 2025 中由 Jiang 等人所發表並獲得最佳論文的《Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)》，聚焦於語言模型生成多樣性不足問題，提出系統化的研究架構與大規模資料集，深入探討這個現象背後的機制，並為後續改善提供方向。

研究背景與動機

語言模型透過大規模訓練語料學習生成流暢且合理的語句，但目前多數評估語言模型的指標多集中於生成文本的流暢度與語法正確性，卻較少關注生成的多樣性。尤其是當面對開放式問題，如「如何創造一個故事」或「給我一些產品命名的點子」這類沒有標準答案的任務時，理想的語言模型應該能夠呈現出多元而富有創造性的回答。然而，現有方法容易陷入「模式崩潰」（mode collapse）現象，使輸出文字單調甚至重複，造成「人工蜂群」效應（Artificial Hivemind）：不同模型甚至多個生成過程間高度趨同，缺乏差異性。

此外，先前多數研究針對生成多樣性的探討常限於特定狹隘任務，且缺乏足夠規模與真實世界互動的開放式對話資料，使得系統性分析不足。加上對多樣性評估的標準落後，研究者難以衡量與優化模型生成多樣性。

核心方法與創新

為徹底破解上述困境，本論文做出多項重要貢獻：

1. 引入 Infinity-Chat 資料集：該資料集包含超過 26,000 條真實且多元的開放式用戶提問，覆蓋廣泛題材且每條問題均可產生多種合理答案，反映出真實使用情境。資料集同時附帶超過 31,250 個人類評註，由 25 位不同標註者對每則回覆進行絕對評分與偏好判斷，提供高品質的標準判準，用以研究人類群體及個體差異偏好。
2. 制定首個全面性的開放式提示分類法：透過分析 Infinity-Chat 中的問題，論文提出包含 6 大類、17 個子類別的分層分類架構，系統化地描述了用戶對語言模型開放式提問的多樣面向，例如「頭腦風暴」、「意見蒐集」、「故事創作」等，有助於理解不同任務對生成多樣性的挑戰。
3. 揭示「人工蜂群效應」：利用資料集進行大規模實驗，作者觀察到兩種明顯現象：首先是「模型內重複」（intra-model repetition），即單一模型多次生成回答間差異很小；其次是「模型間同質化」（inter-model homogeneity），幾個不同架構與訓練資料的語言模型往往產生雷同的輸出，彷彿形成一個「人工蜂群」，反映出整個語言模型生態系統往往缺乏多元聲音與創意突破。
4. 深度分析人類評價差異：研究發現，不同標註者對同一條回答可能存在明顯偏好差異，而現行的語言模型、自我評分獎勵模型（reward models）與自動評估系統（LM judges）均未能有效捕捉這種多元化偏好，導致評分模型校準度降低。這指出多元的人類主觀性是生成內容評估中不可忽略的核心挑戰。

主要實驗結果

通過在 Infinity-Chat 平台上對包含 GPT-4、PaLM、Claude 等多款先進語言模型的大規模測試，作者錄得以下關鍵發現：

• 所有模型在開放式問答上都存在模式崩潰現象，生成內容高度重複。
• 不同模型生成的內容相似度顯著高於隨機預期，表示不同團隊訓練的模型往往在思維模式上趨同。
• 不同類型的提問（如創意腦力激盪 vs. 事實回答）對模式崩潰的敏感度有差異，創意類任務多樣性尤為有限。
• 人類評價的多樣偏好揭示現有獎勵模型和自動評分方法在真實人類偏好捕捉上存在缺陷。

對 AI 領域的深遠影響

本論文針對語言模型多樣性不足、開放式生成重複性過高的問題，首次系統性且大規模地提供了高質量資料庫與評價標準，為未來生成模型研究奠定了堅實的基礎。其影響可分為以下幾點：

1. 提高對生成多樣性長期風險的關注：「人工蜂群」現象暗示，人類對 AI 輸出接收的長期影響可能是思維趨同與文化單一化，提醒學術界及產業應加強對生成模型多樣性的監測與引導，納入 AI 安全與倫理的考量。
2. 推動多元評價體系發展：傳統以單一分數評價生成品質的方式不足以捕捉人類主觀偏好多樣性，未來需要更細緻的群體與個別差異模型，促使生成系統得以綜合多元觀點，提升更貼近真實使用者需求的回應多樣化。
3. 促進更具創意與多樣性的生成模型設計：資料集與分類法的貢獻為設計抵抗模式崩潰的算法創造條件，例如多模型融合、多樣性向量正則化，或是由人類多樣偏好驅動的強化學習策略等，皆可借助本研究提供的基礎設施進行嚴謹驗證與改良。
4. 跨模態與跨領域應用啟示：儘管此研究聚焦於語言生成，但「人工蜂群」效應可能存在於視覺、音樂等其他生成模型中。未來探討不同模型間同質化及長期多樣性維護的研究將擴大至更廣泛的 AI 生態系，促進跨領域的 AI 安全共識。

總結來說，《Artificial Hivemind》透過建立全新開放式生成大資料庫 Infinity-Chat，並結合創新的分類與評價系統，精確揭示了語言模型在開放式場景下的模式崩潰問題與跨模型趨同現象，提出了未來抵抗這種同質化趨勢的實證依據與理論框架。這對 AI 社群而言，不僅是深入理解模型內在缺陷的重要里程碑，也是推動生成模型多樣性安全策略的關鍵起點。

---

論文資訊
📄 Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
👥 Jiang, Chai, Li, Liu, Fok, Dziri, Tsvetkov, Sap, Choi
🏆 NeurIPS 2025 · Best Paper
🔗 arxiv.org/abs/2510.22954