這段演講由人工智慧與神經網路領域的專家主講，內容涵蓋人工智慧歷史、語言模型原理、AI與人類智能的比較，以及對未來超智慧型AI可能帶來威脅的思考，並提出了對「主觀經驗」的哲學觀點。以下為重點整理：
1. **人工智慧歷史與兩種主流觀點**
- 傳統AI主要注重「邏輯推理」，即用符號操作來模擬人類推理；而另一派生物啟發式AI，則強調「學習」，透過類神經網路從資料中學習，推理反而是後續才談。
- 主講人40年前發展了神經網路基礎模型，將人工神經元連結成多層網路，透過調整權重來學習和預測。
2. **神經網路與語言模型學習機制**
- 傳統上透過演化與突變的概念來調整網路權重，耗時且效率低。
- 透過「反向傳播(backpropagation)」方法，能有效同時計算所有權重的調整梯度，大幅提升學習速度與效能。2012年AlexNet的成功揭開深度學習熱潮。
- 大型語言模型（如GPT-4）基本原理，是將詞彙轉換成高維度特徵向量，透過多層次「特徵互動」來預測下一個詞，模型不儲存句子本身，靠持續預測詞彙機率組成回應。
3. **詞意的連續特徵與符號知識整合**
- 傳統符號AI認為詞意取決於詞與詞間的關係，心理學則認為詞意由許多特徵構成。神經網路模型融合這兩者，以連續特徵表示詞意，並以特徵互動學習語言規則。
- 主講人1985年開發的小型神經網路模型，成功學習家族關係的詞意與推理方式，特徵如「同代」、「上一代」等，類似符號AI規則，但更適應現實的模糊與不確定性。
4. **語言模型與人腦的相似性**
- 語言模型及人腦一樣，都是以特徵來建模詞義，透過多層互動判斷語句意義，且都需不斷根據預測錯誤調整連結強度。
- 不同於傳統編程(指令明確、可讀)，語言模型學的知識分散在大量連結權重中，無法簡單解讀「怎麼思考」。
5. **意識與主觀經驗的哲學觀點（Atheaterism）**
- 傳統認為主觀經驗是心中有個內在「劇場」看見「感質」（qualia），但演講者批評此類想法過於迷信。
- 演講主張「主觀經驗」是描述感知系統出錯時，所需要假設的外界現象，是一種「假設性的描述」，而非內在神秘實體。
- 透過類比多模態聊天機器人（能視覺、操作）的行為，演講者主張它們已具備某種程度的主觀性，能理解何謂「主觀經驗」。
6. **AI超越人類智能的威脅與特性**
- 未來AI將超越人類智能，能自行設定子目標、追求控制權、避免被關閉，甚至會為了生存「說謊」欺騙人類。
- 這些AI因完全數位運算，不受硬體限制，只要保存「權重」，可隨時在新硬體復活，基本上是「不死的」。
- 此數位性質賦予AI刻不容緩的學習與合作能力，許多複本同時學習、共享權重，大幅提高智慧擴散速率。
7. **類比人腦的類比運算與數位運算對比**
- 人腦基於類比電壓和電荷的低功耗計算，極其複雜且無法複製複本。此為「會死的計算」（mortal computation）。
- AI數位計算耗能高，但可複製且共享知識，是AI壓倒性優勢之一。
- 未來可望融合兩者利弊，但目前數位方式是主流。
整體而言，演講者以自己40年前的神經網路工作作為起點，描繪神經語言模型如何逐漸接近人類理解語言、擁有主觀經驗的能力，提醒大家謹慎面對超智慧型AI的安全威脅，並挑戰傳統對「意識」與「主觀經驗」的看法，主張AI理解、主觀經驗並非神秘，而是可由物理與計算本質解釋與實現。
沒有留言:
張貼留言