前Tesla AI主管Andrej Karpathy分享軟體在AI時代的變革與未來趨勢

這段訪談是前Tesla AI主管Andrej Karpathy分享軟體在AI時代的變革與未來趨勢，重點總結如下：

1. **軟體演進：1.0到3.0**

   - 軟體1.0是傳統電腦程式碼（如C++）。

   - 軟體2.0是神經網絡權重，即大家所知的深度學習模型參數，透過數據訓練而非直接編碼。

   - 軟體3.0則是以大型語言模型（LLM）為核心，使用自然語言（如英語）進行「編程」，即利用prompt（提示語）來驅動模型運作，是全新可編程的電腦形態。

2. **LLM類比與產業定位**

   - LLM類似於1960年代的作業系統，因為它們是複雜的軟體生態系統，不只是簡單的資源輸出。

   - LLM管理計算資源和記憶體（如context window）以解決問題，並透過API向開發者提供服務，類似公共事業的概念（像電力供應）。

   - LLM也類似晶圓廠（fab），因建置成本高昂且技術門檻高，中央化管理成為主流。

   - LLM的生態呈現開源與閉源並存趨勢，例如hugging face與llama生態系。

3. **LLM的心理學與使用特性**

   - LLM像是「人類行為模擬器」，具備廣泛的知識但會出現錯誤（幻覺現象）、認知缺陷與短期記憶限制（context window）。

   - 它們的智能不均衡，某些任務超越人類，卻在基本常識上犯錯。

   - 它們容易被欺騙（prompt injection）與有安全風險，需謹慎監控使用。

4. **部分自治應用（Partial Autonomy Apps）**

   - 最有效利用LLM方式不是直接對話，而是開發專門的應用（app），如編碼輔助工具Cursor、資訊搜尋工具Perplexity等。

   - 這些應用中，人類和AI合作：AI負責生成，使用者負責驗證。

   - 重要的是設計友善的GUI介面來加速驗證流程，以及靈活調節自治程度（Autonomy Slider），避免AI大範圍改動。

5. **教育與LLM協作**

   - AI不能完全替代老師，需要設計有審核機制並限縮AI任務範圍的教學軟體，避免AI「迷路」。

   - 拆分教師端與學生端的專屬應用，有助於保持課程品質與進程。

6. **軟體開發新趨勢：自然語言編程（Vibe coding）**

   - 使用自然語言完成編程變得可能與有趣，不需高深技術背景，使更多人能開發應用。

   - Karpathy親自用LLM快速製作APP、服務等，突出自然語言指令帶來的便捷。

   - 然而從編碼到系統部署仍有複雜流程，DevOps工作仍需改良。

7. **為AI代理（Agents）優化軟體與文檔**

   - 未來軟體要同時面向人類和AI代理使用，如用專門的lm.txt文件指示LLM怎麼操作網站。

   - 開發更適合LLM理解與操作的文檔格式與API，替代傳統為人類設計的說明文件。

   - 舉例：Versell與Stripe已改用Markdown格式並將介面行為轉成API命令，有助於AI自動執行。

8. **展望與建議**

   - AI時代是重寫軟體的黃金機會，開發者需熟悉三種軟體 paradigms（1.0、2.0、3.0）。

   - 對LLM的理解需包容其超能力與缺陷，與AI協作須保持人類在迴路中，不宜過度放權。

   - 強調部分自治產品與友善GUI的重要性，類比Iron Man的裝甲，結合人類與AI的強項。

   - 未來十年LLM將持續演化，業界需要共同探索最佳實踐與架構。

總結而言，Kazparthy視LLM為軟體3.0的核心，是新世代可用自然語言編程的「作業系統」，將深刻變革軟體開發、使用及整個科技產業。開發者需掌握新型態編程技巧，設計人機合作的半自律應用，並重新思考軟體與AI代理共存的基礎設施。這是歷史性的大轉折，也是充滿無限機會的時代。