本次訪談邀請了圖靈獎得主珠迪亞·佩爾(Judea Pearl),他以對人工智慧及因果推理的卓越貢獻聞名。佩爾回顧了自己從物理和電機工程背景跨足AI領域的經歷,並深入闡述了他對AI、因果關係及人類智識的看法。
佩爾強調他獨特的教育經歷對其科學思維方式的影響:老師採用人文視角講授科學,激發學生以行動者身份參與科學探索,強化學習的主動性和思考力。他回憶自己小時候堅持正確知識的重要性,這份執著塑造了他後續的研究態度。
他曾在超導物理領域取得「Pearl vortex」的重要發現,奠定了其基礎科學功底,隨後進入電子儲存技術研發,並在UCLA開展教學及AI相關研究,特別關注棋類遊戲中的搜尋與啟發式評估機制,並證明了alpha-beta剪枝的最優性。
佩爾深入介紹了人工智慧歷史上面對的不確定性問題,提出以圖論表達條件獨立,進而發展貝氏網絡與因果圖論(graphoid理論),改變了以往概率論中對不確定性和依賴關係的理解。
他提出「因果歷程階梯」理論,將推理分為三個層次:觀察(association)、干預(intervention)、解釋(counterfactual explanation)。他指出目前大型語言模型(LLM)處於第一層,依賴從人類編撰的知識中提取信息,尚不具備真正理解干預和因果關係的能力。
佩爾認為實現通用人工智慧(AGI)必須將語言模型的能力與因果推理整合,讓系統具有主動介入和解釋的能力,而非僅僅是被動複製和總結現有知識,這需要在數學、電腦科學和認知科學跨領域的突破。
他特別強調人類的「主動好奇心」和「掌控環境」的需求是智慧形成的關鍵,如果未經控制地設置具有好奇心並追求控制感的AI,可能造成失控風險。他也提及在科研過程中勇於反叛和懷疑權威的重要性,唯有如此能突破保守和惰性,推動學術前沿。
對於未來AI發展,他不認同當前部分科技領袖過於樂觀地認為LLM或深度學習將直接導致AGI,也質疑編程「意識」的科學嚴謹性。佩爾呼籲科學家應務實看待因果推理的限制與潛力,專注於結合多種方法推動智能系統的真正進化。
訪談最後,佩爾分享了對自身科學職涯的反思與建議,認為跨領域整合與對工具的掌握是成功關鍵,並展望未來能研發出類似人類好奇心驅動,具備干預和解釋能力的智慧機器。
