Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond) 深度簡介

隨著大型語言模型（Language Models, LMs）在自然語言生成領域的迅速發展，生成內容的多樣性與創意性成為評價其質量的重要指標。儘管現今 LMs 在許多任務上表現優異，但在開放式生成（open-ended generation）場景中，模型產出的內容卻常因「趨同現象」而缺乏多樣性，呈現出類似甚至雷同的回答，這引發了對人類思維可能在長期暴露於此類輸出下被「人工集體心智」（Artificial Hivemind）所同化的憂慮。然而，目前量化與評估模型生成多樣性的標準方法仍相當有限，尤其缺乏針對真實世界多元且開放的用戶詢問的完整數據資源和研究框架。

本篇論文《Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)》由 Jiang 等學者發表於 NeurIPS 2025，榮獲最佳論文獎，其核心貢獻即在於提出一套全新且大規模的研究體系，系統性地探討語言模型在開放式任務上的模式崩潰（mode collapse）與內容同質化現象，並透過龐大的實驗數據與人類標註揭示未曾被充分關注的「人工集體心智效應」。

研究背景與動機

過去對 LMs 生成多樣性的探討，往往聚焦於狹義任務（如隨機數字、專有名詞生成）或重複抽樣來評估模型變異，但這些方法難以擴展至日常開放式對話及應對多解答案的複雜場景。對於不具備單一正確解答的用戶查詢，模型的回答不但要具備合理性，還需具備創造力與多元面貌，才能促進更具包容性的人工智慧產出。此外，若不同模型產出的答案高度相似，則意味著模型群體可能在長期使用中強化某種固定思維範式，潛藏著潛在的社會文化風險和 AI 安全問題，這是目前研究與產業界急需解決的核心挑戰。

核心方法與創新

針對上述挑戰，作者提出以下三大創新：

1. Infinity-Chat 大規模數據集：此數據集涵蓋 26,000 條真實世界的開放式用戶查詢，這些查詢涵蓋廣泛場景且允許多種合理的回應，無單一正確答案。數據集的多元性遠超傳統封閉型任務，為研究開放式生成提供了堅實基礎。
2. 開放式查詢分類法：研究團隊建立了首個完整的多層次分類架構，將 LM 面對的開放式任務分為六大類（例如：頭腦風暴、創意構思等），細分 17 個子類別，為後續多樣性與生成特性研究建立標準化分析工具，促進不同方法之間的比較與復現。
3. 大規模人類標註與評價體系：數據集中配備超過 31,000 條人類評分與偏好註釋，平均每條樣本有多達 25 位獨立標註者，涵蓋絕對評分和兩兩偏好評比。這種精細入微的人類評價機制使得研究能夠深入探討不同個體偏好的多樣性，並衡量語言模型、獎勵模型及 LM 評審機制的校準度，特別是在個體間取向差異明顯的場景中其效能低落。

主要實驗結果

基於上述方法，論文中展開了一系列大規模實驗，主要發現包括：

• 模型內部重複（intra-model repetition）：同一模型在多次生成中，往往呈現較高的回應雷同性，顯示模式崩潰普遍存在，限制了回答的多樣性和創造力。
• 跨模型同質性（inter-model homogeneity）：不同架構或訓練手段的模型間生成內容驚人地相似，暗示不論模型大小或訓練方式如何差異，當前 LMs 均趨向於生成同一風格或觀點的答案，凸顯「人工集體心智」效應的普遍性。
• 人類偏好多樣性與模型校準問題：儘管模型生成的整體質量相當，人類標註者在偏好上存在明顯分歧。論文指出，現有 LMs、獎勵模型及評審系統在處理具有明顯個體化偏好的場合，校準度不佳，難以充分反映多元的人類審美與判斷。

對 AI 領域的深遠影響

本論文的貢獻不僅在於提供了第一個大規模、多層次、多維度的開放式生成評測框架，更在於揭露了一個潛藏在 AI 大規模部署背後的關鍵社會技術問題——語言模型的「人工集體心智」現象。隨著 LMs 被廣泛運用於內容生成、決策輔助、教育和創意產業，模型間的高度同質化或許將改變人類的思維模式與文化多樣性。

因此，未來的研究需要積極探索如何設計促進多樣性與創造力的生成架構，開發更靈活且能捕捉多元人類偏好的評價機制，同時制定針對此類「集體心智」可能帶來的長期 AI 安全與倫理風險的對策。Infinity-Chat 作為首個此類資料庫與分析工具，將成為引領此方向研究的重要基礎資源，促使學界與業界共同驅動AI生成內容在豐富性與責任性之間取得更好的平衡。

總結而言，這項研究不僅深化了對語言模型模式崩潰與同質化現象的理解，也啟示我們重新思考 AI 對於文化多樣性、人類思維及社會互動的潛在影響，為未來 AI 技術的安全、透明與多元發展指引了重要路徑。

---

論文資訊
📄 Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond)
👥 Jiang, Chai, Li, Liu, Fok, Dziri, Tsvetkov, Sap, Choi
🏆 NeurIPS 2025 · Best Paper
🔗 arxiv.org/abs/2510.22954