本次訪談於電腦歷史博物館舉行，由Mark Edkin主持，並邀請到NVIDIA資深副總裁Bill Dally與谷歌副總裁Norm Jouppi，並由著名計算機科學家Dave Patterson引領討論。三位重量級領導人針對人工智慧晶片設計的熱潮（Silicon Gold Rush）展開深入對話，涵蓋現況、技術異同、市場競爭以及未來挑戰，內容豐富且啟發性十足。
AI晶片爆炸式發展的三大特點
- 龐大的經濟需求：AI技術在眾多領域已展現出強大效能，推動對算力的無窮需求。
- 相較複雜的超級運算應用，Transformer模型架構相對簡單：有助於快速定位並優化關鍵計算核心，加速硬體創新。
- 快速迭代和演進的意願：企業及研究者樂於迅速調整與更新設計，避免技術老化。
GPU與TPU的設計差異與市場定位
Bill Dally強調NVIDIA的GPU具有多樣功能與廣泛客戶，硬體設計須兼顧不同需求，著重數值運算精度和稀疏性支持，實現更高能源效率。Norm Jouppi分享谷歌TPU從第二代開始即針對超級運算機設計，採用光連接技術與3D網路架構，利於快速且低延遲的分佈式計算，專注於提升整機性能。
系統整合與生態建設的重要性
兩位皆認為AI晶片已非單純硬體競賽，硬體與軟體、系統架構整合成關鍵競爭門檻。NVIDIA從Pascal世代起即推出完整的DGX Superpod解決方案，方便部署與維護大型集群；谷歌依賴其系統設計經驗優化TPU網路，達成高效能與可用性。
軟體生態與編譯技術的角色
Norm指出TPU硬體設計中，與編譯團隊緊密合作以提升軟體可用性，並保持架構彈性。Bill分享NVIDIA自CUDA以來對軟體生態的持續投入，為AI應用築起穩固基礎。兩者均認為軟體壁壘正在因AI輔助生成代碼而減弱，未來仍需重視高效庫與框架支持。
精度縮減與性能提升的未來展望
Bill與Norm皆提及數值精度從FP32向低精度（如FP16、FP8）演進已帶來大幅性能與效率提升，但在未來幾代晶片中，低精度改進空間有限，需要從稀疏性、數據局部性及演算法模型等多方面探索新突破。
AI與硬體緊密協作的優勢與挑戰
Norm指出AI模型更新速度快速，而硬體從設計到量產需耗時多年，硬體設計需聚焦於通用運算單元以兼容多種模型變化。Bill提及兩大公司透過內部推動AI研究，吸收尖端技術以調校硬體，但依舊須面對不確定的未來應用需求。
方法與競爭：從金礦開採者到工具販售者
Bill形容AI產業如同歷史上的金礦熱潮，企業像「礦工」尋找新垂直應用市場，而硬體與系統公司則扮演「販售工具」角色，無論誰找到黃金，都能獲益。
AI硬體的社會影響與責任
兩位專家探討了AI應用對醫療、教育、工程及娛樂等多領域帶來的革命性進步。Bill提醒人們須警惕深度偽造和網路攻擊等負面效應，並重視就業轉型與人才再培訓的需求。Norm分享了AI在科學研究（如蛋白質摺疊）與日常應用（如Google Maps）中的潛移默化。
目前AI晶片發展的瓶頸與未來能源策略
- 能源供應是目前最大限制，因資料中心用電龐大，且分布式電網和環境影響是挑戰。
- 半導體製造與特別是記憶體產能不足，產品價格飆升。
- 冷卻系統及成本亦須創新突破，液冷技術已成主流。
- 討論涉及可再生能源、核能與熱能電池等可能解決方案。
量子計算與AI晶片的關聯
兩人一致認為量子計算與當前AI晶片定位不同，對大數據運算的AI訓練及推理影響甚微，量子在通訊安全領域有其價值，但對計算加速助益有限。
針對未來設計的展望
訪談分享了新興定製晶片設計（如“etched architecture”）的潛力與挑戰；普遍認為硬體可程式性仍是核心要素，因應AI模型的快速演化。
中央化與邊緣運算的平衡
兩位認為若無延遲與網路限制優先於雲端計算中心處理，但特定應用（如自動駕駛）需在邊緣進行運算，故硬體需求依應用而異，以魯棒與實時響應為核心。
數位與類比計算的對比
專家分析了類比運算在能效上的理論優勢，但指出類比系統在精準度與測試驗證上存在挑戰，使得數字電路仍居主導地位。
未來晶片設計軟體與AI的結合
雙方展望AI與大型語言模型（LLM）將深度融入晶片設計流程，尤其在驗證環節可大幅提升設計效率與品質。
新世代硬體工程師的建議
- 鞏固數學與科學基礎，建立跨領域知識。Bill特別強調廣泛了解從電路到架構的技能。
- 培養溝通能力，能清楚表達技術構思與合作精神。
- 善用人工智慧作為夥伴，但須掌握基礎原理才能判斷AI結果的正確性。
- 深入理解歷史教訓，避免重蹈覆轍。
整場對談展現AI晶片產業的黃金時代特質，從技術創新、系統整合、軟硬體協同，到社會影響與人才培育，每一環節皆深刻影響著未來的發展方向。三位資深領袖藉由自身豐富經驗與前瞻視野，為業界與學界指引了寶貴的思考角度與行動指南。
沒有留言:
張貼留言