2025年8月30日 星期六

CIA臥底與內鬼:Andrew 與 Jihei 的《Shadow Cell》揭密

本摘要整理 Andrew 與 Jihei Bustamante 在訪談中揭露的要點,涵蓋他們於 CIA 的任務分工、代號國家(Falcon/Wolf)、追捕內鬼(mole)的經過、作戰手法、被發現與撤離、對科技與政治的觀察,以及對一般人的實務建議。

核心人物與身分

  • Andrew:前空軍、成為 CIA 的作戰(operations/case)相關人員,負責實務執行、外勤與行動規劃。
  • Jihei(Ji):原為社工,後成為 CIA 的 targeter(辨識與篩選潛在情報來源/目標),專責找出可利用的目標並製作檔案。
  • 代號國家:Falcon(敵方)、Wolf(友方/鄰國),CIA 為保密以化名稱呼。

事件起因與任務目的

  • 一友邦通報:有 CIA 人員被敵方策反(成為內鬼),分享作戰、幹員、資產等重要情報。
  • CIA 無法直接起訴或公開指控(需本國證據),於是策劃「Shadow Cell」計畫:在友方國(Wolf)建立新型細胞式作戰,打造新的情報來源,誘使內鬼露出破綻以便蒐證。
  • 主要目標:建立新情報來源(對 Falcon 收集),次要目標:引誘內鬼犯錯、留下可司法化的證據以逮捕。

作戰方法與貿易巧技(tradecraft)

  • 身分與掩護:用商業掩護(commercial cover)、新別名(aliases)、護照替換(passport swaps)與「清道路線(cleansing route)」通過中立國進入 Falcon,避免被追溯回友方國。
  • 借鏡恐怖組織:以恐怖份子「細胞模型」建立小型、分工明確、安全隔離的行動單位(shadow cell),提升隱蔽與韌性。
  • 管道建置:回收同僚操作所產出的資料(如死信箱、隨身硬碟)以供 targeter 建檔,再由 case officer 進行接觸與招募。
  • 監控偵測(SDR,surveillance detection route):有系統的路線與偵測方式辨識追蹤車輛與人員(多次出現的「同一輪廓/車牌/服裝」),並用「拖尾」策略搜集追蹤者資料。

被發現、撤離與後果

  • Andrew 在 Falcon 被發現遭監控(追蹤車輛、步行尾隨),當場以代號和燒掉式通訊(burner phone / coded message)通知 Ji,觸發撤離程序。
  • 在遊戲廳(arcade)與追蹤者短暫對視,代表行動已「burned(曝露)」。之後 Andrew 實施自救、SDR 與假裝正常離境流程,最終被帶入二次邊檢(secondary),接受詢問後放行回國。
  • 評估結論:Andrew/其別名被燒毀(無法再往返 Falcon);但 Shadow Cell 的其他成員仍可保全並延續其運作。
  • 後續發展:該內鬼最終被 FBI 設局引回美國逮捕(在機場),證據顯示其為有意(witting)向敵方出賣情報,收取數十到數百千美元等報酬。

技術安全與情報倫理

  • 沒有絕對安全的裝置或通訊:任何設備終將被攻破是常識,須以空氣間隔(air-gapping)、一次性通訊、最小曝露當原則處理關鍵資料。
  • 資金與黑預算:情報單位會經營掩護公司(有時也是真公司),資金來自沒入財產或商業獲利,形成「黑色預算」。
  • 道德兩難:情報行動常為「道德模糊」— 為了國家安全可能會使用令人不適的方法或資源(如提供或調配違法物品作為交易籌碼)。

對美國政治與社會的觀察

  • 兩位作者認為美國正處於轉型期:行政權力增長、國內對政府信任下降、政策僵局(gridlock)會帶來更大風險(經濟衰退、社會分裂、被外力利用)。
  • 若內部撕裂與無法達成政策決議,將削弱國力並使敵對國家獲利。

個人影響與抉擇

  • 任務與被曝導致兩人重新評估職業與家庭:在被燒毀後、和懷孕因素結合下,兩人選擇離開 CIA,回到民間、寫書並分享經驗。
  • 討論了 CIA 的文化:對機密與忠誠的高度依賴會使人產生強烈歸屬與認同,但也可能限制個人生活與家庭。

實用教訓與可學習的技能

  • 基礎勝於花巧(sticks & bricks):回到基礎的情報與執行紀律常比過度依賴高科技更有效。
  • 人際與談判技巧:誘導(elicitation)、鏡映(mirroring)、沉默策略、最小情報原則等在談判、採訪、商業會談都極具效用。
  • 生活建議:當下行動與珍惜家人重要——不要把人生的喜悅一再延後到「將來」。

關於本書與出版爭議

  • 作者因簽署終身保密協議,書稿經過 CIA 審核、曾一度被要求收回或重新分類;最終透過律師與憲法訴訟威脅達成出版協議。
  • 書中揭露的多處交易、貿易技巧與內鬼事件,使 CIA 擔心曝光的細節可能被外界反向推理出更多敏感資訊。

推薦與結語

本次訪談與書籍《Shadow Cell》提供罕見的第一手情報行動描寫,從戰術(如 cleansing route、SDR、cell model)到戰略(內鬼處理、跨國合作),均有實務層面的揭露。建議對情報、國安、或交易技巧感興趣者閱讀原書以獲更完整細節;一般讀者可由本摘要掌握要旨:情報是團隊的工作、技術並非萬靈藥、而國家安全常涉及道德兩難與沉重代價。



認知革命:AI 帶來的十兆美元機會與投資主題

本文總結 Sequoia 關於「認知革命」的簡報要點,說明為何 AI 可比擬工業革命、可能帶來高達 10 兆美元的機會,並提出當前投資趨勢與未來重點主題。

一、核心論點(AI ≒ 工業革命)

- 將 AI 視為一場認知革命,類比工業革命的關鍵三個時點(蒸汽機、第一個工廠系統、裝配線),強調技術成熟常需「專門化的配套」才能產生大規模變革。

- 現在的專門化工作主要由新創公司推動,這些公司會把通用 AI 元件專門化以產出具體應用。

二、商業機會(市場規模與擴張)

- 類比雲端時代中 SaaS 從小市場擴大成數千億市場,Sequoia 認為 AI 有機會不只搶占現有自動化份額,還會擴大整體服務市場(美國服務業約 10 兆美元),形成「10^13 美元」級別的機會。

- Sequoia 舉例其已投領域(如護理、軟體開發、法律)來說明大 TAM 存在並可被重構成大型 AI 公司。

三、當前五大投資趨勢

  • 槓桿化勝過確定性:工作將從人力親自操作轉為以大量 AI agent 放大個人產出(100% 以上甚至千倍槓桿),但結果的具體形式與確定性降低,需要人類校正。
  • 以真實世界為衡量標準:評價 AI 成效從學術基準(如 ImageNet)轉向真實場景的表現(例如在 HackerOne 等實戰競賽中的成績)。
  • 強化學習回歸中心舞台:RL 在近年發展迅速,許多團隊與產品使用 RL 來優化能力(例如程式碼模型訓練案例)。
  • AI 進入實體世界:除了人型機器人,AI 正被整合於硬體製造、流程優化與品質檢驗等實體應用(如加速硬體製程並負責 QA)。
  • 新的生產函數為算力:以「每位知識工作者的 FLOPS」作為生產力衡量,預期最低 10x、甚至 1,000x–10,000x 的算力消耗成長,推動推理與相關服務需求。

四、未來五大投資主題

  • 持久記憶(Persistent memory):包含長期上下文記憶與代理人格/身分的延續性,是進入更多工作職能的關鍵,目前尚無清晰的 scaling law,是重大機會。
  • 無縫溝通協定(AI-to-AI protocols):類比 TCP/IP 對網際網路的啟動作用,AI 間的標準化溝通將催生新應用(例如 AI 自主比價並完成購買流程)。
  • AI 聲音(AI voice):語音品質與延遲已達實用水準,短期內聲音應用(消費者陪伴、療癒、企業語音協調、場外交易等)會快速落地,勝過短期內的 AI 視頻。
  • AI 安全(AI security):從研發階段到分發再到終端使用者的整體安全,預期出現大量保護模型、分發與使用安全的解決方案,且每人與每個代理都可能有多個安全 agent。
  • 開放原始碼(Open source):認為開源在 AI 生態扮演重要角色,若開源無法與商業巨頭競爭,將影響創新與生態的開放性;Sequoia 支持構建強健的開源模型以保證更多人能夠參與。

結語

- 若能在上述主題上取得進展,認知裝配線(cognitive assembly line)的形成時間可被大幅壓縮,從工業革命那樣的長時程縮短為數年內的快速演進。

- Sequoia 鼓勵創業者與投資者共同參與這波「認知革命」,把握擴張市場與建立大型 AI 服務公司的機會。



Dave Plameumber:從機器碼到任務管理員、復古硬體與自閉症視角的工程人生

本次訪談聚焦資深微軟工程師 Dave Plameumber 的成長與職業經歷、技術心得、以及他以自閉症視角對生活與工作的方法論。重點如下:

  • 早期與自學經歷:童年接觸 TRS-80、後來的 Commodore 64,從手寫機器碼、6502 組碼入門,曾在業餘時寫出 Galaga 類遊戲與 Amiga 的檔案快取程式 HyperCache(以此自費讀書)。
  • 進入微軟的契機:透過寄發作品與冷郵件聯絡,獲得 MS-DOS 團隊實習/工作機會。於 MS-DOS、SmartDrive(磁碟快取)、CD-ROM 快取等專案上有實際貢獻,後來轉到 shell 與 NT 團隊,參與將 Windows 95 UI 移植到 NT 的工作。
  • 代表作品:他為 Windows 撰寫並帶入的著名工具包括早期的 Windows Task Manager(小巧穩定、僅 87KB,重視多執行緒與最低依賴)、Zip/Zip Folders 支援(由個人 shareware 被微軟收購並整合)、以及將 Space Cadet Pinball 代碼移植到多平台等。
  • 工程與除錯實務:強調工具的重要性(若有 git 會簡單很多)、大量除錯是日常(常在組合語層級追蹤 call stack)、跨 ISA(x86、MIPS、Alpha、PowerPC)調試的挑戰、對 assert 的重視、以及在多執行緒 UI 中避免卡死的設計原則。Task Manager 的效能優化(例如類似 Hamming 的變動檢測來盡量只重畫變動單元)是精細工藝的範例。
  • 團隊與文化觀察:談到 Bill Gates 的執著與招募頂尖人才、Dave Cutler 在 NT 核心設計的關鍵角色、團隊內激烈的技術辯論,以及工程師文化、工具與長期擁有權(ownership)對作品精緻度的影響。
  • 商業與法律教訓:分享以 shareware / 線上廣告起家的創業經驗、後來因試用提醒頻率與預設實物光碟選項等被檢舉的經驗,反思對使用者與法規的敏感度與設計倫理。
  • 自閉症觀點與人生策略:他以「單向聚焦」(monotropism)解釋自閉症常見特質:高度專注但不擅長多工、感覺敏感與重複行為。建議自閉特質者以作品與技能(portfolio)為主銷,而非以社交魅力求職;也教導周遭人如何以明確、直接的溝通協助自閉者。談及遮蔽(masking)、情緒崩潰與情緒後處理等實務應對。
  • 近作與興趣:目前用 Lua+Python 做強化學習去訓練玩 Atari Tempest 的 AI、復原與欣賞 PDP-11、維護 GitHub Primes(跨語言效能比對)等專案,並持續在 YouTube 分享技術與修復內容。
  • 對程式未來的看法:認為 LLM/生成工具會成為強大的輔助(特別幫助經驗豐富的工程師更快上手新語言或 API),但完整替代架構師或自底向上撰寫核心系統仍需時間;「vibe coding」對新手有限,但對有經驗的程式設計師是倍增生產力的工具。
  • 人生與價值:對他而言,生命意義在於「做出有用且複雜的事物」──以創造與修復為喜悅來源,並希望把經驗與工具交給下一代。

總結:Dave 的故事融合低階硬體、系統軟體到商業實務與自閉症自我理解,呈現一位工程師長期累積細緻技術工藝與對人性、產品設計與團隊文化的反思。對有志學軟體系統或關心自閉症者,均具高度啟發性。



AI 的多神論:分散的智能、網路國家與延壽經濟

本次訪談主角為科技與創業思想家 B​alaji Srinivasan(Bologi/Balaji),與主持人及來賓圍繞 AI、加密貨幣(特別是 Bitcoin)、網路國家、與延壽(longevity)等主題展開深度討論,重點整理如下:

1. AI:多神論而非單一神(polytheistic, not monotheistic)
- 當前與可預見的 AI 生態趨於「多個大型模型/AGI 共存」,而非單一絕對勝出的超級智慧。模型之間互相追趕、互相跳躍改進,短期內可能有數個競爭者並立。
- 硬起飛(hard takeoff)或單一 ASI 的情境雖被討論,但現實上因為算力、監督、模仿、政府介入與資訊外洩等因素,單一壟斷型態相對不易長期成立。政府或規範也可能阻止「一超獨霸」局面。

2. AI 是「放大人類智慧」而非替代(amplified intelligence)
- AI 擅長系統一(直覺、模式生成)與系統二(邏輯、計算)在某些面向,但目前多為「中間到中間」能力:可以加速研究、生成內容、寫程式,但需要人類驗證與審核。
- 聰明的人與 AI 配合能達到更高成效;AI 更像是「員工/初級助手」,人類管理者需審核、驗證其輸出,避免垃圾進垃圾出(garbage in, garbage out)。

3. AI 的瓶頸與發展面向
- 主要瓶頸包含:如何下好 prompt(指示方向)、如何驗證輸出(evals)、以及在混沌、隨機或加密/圖靈不可逆問題上的根本限制(如某些隨機系統、不可預測的動態系統)。
- 自我改進(recursive self-improvement)正在被積極投入資源(訓練⇄推理的平衡、更多內部自優化),但是否會出現指數級超越仍有高度不確定性;近期數月將十分關鍵。

4. 網路(Internet)與中國:數位 vs 實體的雙強對峙
- B​alaji 提出宏觀觀察:中國代表物理世界(製造、基礎建設、軍事),而「自由的網路」代表數位世界(AI、加密、媒體、貨幣)。未來的全球格局將是「中國 vs 網路」的兩極競爭。
- 中國具主權及高強度國家能力(例如封閉生態、監控、地緣供應鏈優勢),其劣勢是人口老化,但可用自動化、機器人等補強;網路一方則靠去中心化、言論與貨幣自由等優勢。

5. 金融與加密(Bitcoin)
- Bitcoin 被視為「數位黃金」,是高電壓的儲備資產;區塊鏈與加密貨幣是互聯網時代的貨幣層,為 AI 與機器人自主交易提供天然基礎(程式可持有錢包、快速部署帳戶等)。
- 雖然 BTC 本身的每秒交易量有限,但透過包裝(wrapped BTC)、二層與交易所之間的結算,仍可支援大量網路交易與機器經濟。加密作為一類技術不太可能消失,雖然單一鏈可能遭遇攻擊或需升級(例如量子威脅需協議改造)。

6. 生物科技與延壽
- AI 對生物醫療的推進主要在「資料萃取、文本/文獻整合、結構預測(如蛋白摺疊)、檢測輔助」等可評估的領域,能大幅加速研發流程。
- 但真正改變人類壽命的重大突破,常被法規(例如 FDA)、風險態度與社會政治結構所限制。B​alaji 提醒應注意法規瓶頸與司法/補償制度的不對等(風吹草動可能導致創新受阻)。

7. 網路國家(Network State)與社群治理
- B​alaji 推動「網路國家」與 Network School:透過線上社群演化成具有主權特徵的實體或多地分佈的自治體(startup societies / network states)。
- 他認為未來不是單一國家主導,而會出現許多以理念、貨幣、規範為基礎的新社群/國家(類似「千個社群」替代過去的單一體系),這些網路社群將包容來自全球的「dark talent」(未被傳統機構開發的優秀人才)。

8. 對企業家與個人的具體建議
- 企業家:直接面向受眾(go direct),建立自有內容與社群,精通 AI 工具,內部掌握內容創造;若在美國,建議考慮遷往相對友善的州(例如德州、佛州 / Miami、Austin),把加密資產私鑰移出交易所做冷錢包儲存。
- 個人/在職者:若擅長數學/程式,建議投入短期深度自學(線下、無干擾)以掌握 ML/CS 基礎;養成「離線專注」習慣以提升線上工作效率;加入/建立實體社群(微學校、集體教育)以建立可靠的離線網絡。
- 投資與風險:對於加密與新技術保持學習與長期視角;避免情緒化短線交易;設定冷靜的採買/研究提醒,而非被新聞驅動。

9. 時間線與未來展望
- 訪談中提及 2035 為世界可能「難以識別」的分水嶺:政治、金融、社會結構將被互聯網與技術深刻重塑。AI 的關鍵演變期可能在未來數月到數年內出現重大指標性進展,但是否形成單一霸主仍具不確定性。
- 延壽、太空、比特幣、網路國家等三者被視為連動的願景:延壽與機器、去中心化貨幣與自治社群共同構成未來文明的核心元素。

總結性觀點
- 當前技術浪潮呈現高度複雜與多元:AI、加密、地緣政治與生物科技相互交織。B​alaji 的立場偏向「網路優先」:數位社群、去中心化貨幣與自由互聯網將成為重要對抗或平衡中國等實體勢力的力量。
- 同時,他強調技術的倫理與監管現實(例如 FDA、國家監管)不可忽視,且未來最關鍵的資源之一將是「風險承擔與容錯的司法/管轄環境」,這也正是網路國家與創新特區等概念試圖解決的問題。

延伸資訊:B​alaji 提到 Network School(ns.com)、即將舉辦的 Network State 會議(2025 年 10 月 3 日,新加坡)與其他活動,關心者可至 ns.com 查詢報名與詳情。



宇宙未證實的奇物:從引力真空星、白洞到多重宇宙

這段演講從恆星如何受壓力與重力平衡出發,帶出一系列理論上可能但尚未被觀測到的奇異天體與宇宙現象,重點整理如下:

- 恆星與支持壓力的類型  
  介紹太陽與一般恆星的情況:核心核融合產生輻射壓支撐重力;耗盡燃料後會演化為白矮星(由電子簡併壓支撐)或中子星(由中子簡併壓支撐)。說明昌德拉塞卡極限(約1.4太陽質量)與中子星最大質量(約2.2太陽質量),以及超出時會形成黑洞。

- 更奇異的物質與更致密的恆星想像  
  若存在能產生比中子簡併壓更強壓力的「非常規物質」,就可能有比中子星更致密的天體;但對“實際”物質有布赫達爾(Buchdahl)限制:真實物質的半徑不能小於9/8倍史瓦西半徑。若允許局部出現負壓(或非典型能量條件),此限制失效,系統可接近黑洞大小且不形成事件視界。

- 引力真空星(gravastar)  
  特殊解中若恆星內部呈現常數正能量密度與相等大小負壓(類似真空能量),則內部重力與負壓互抵,內部像真空一樣沒有淨引力,物質可自由漂浮。這類天體可以在外觀上相當接近黑洞,造成觀測上與黑洞混淆;是否能以引力波或其他方式區分仍具挑戰性。曾有研究提出黑洞成長速率與暗能量一致,主張黑洞可能是由暗能量構成的gravastar,但此結論遭到觀測與理論上的爭議。

- 白洞與時空全解的對偶性  
  在彭羅斯圖(Penrose diagram)中,黑洞的數學解通常有對應的「白洞」部分:白洞像時間反向的黑洞,物質可以從裡面噴出但不能進入。數學上白洞是可接受的解,但在實際宇宙中是否存在不確定,可能因不穩定性早已消失。白洞也與平行宇宙的區域相連(圖上會出現多個重複區域),顯示廣義相對論的完整解包含更複雜的時空結構。

- 旋轉與帶電黑洞帶來的蟲洞與因果悖論  
  旋轉(或帶電)的黑洞解比靜止中性黑洞複雜,內部可能沒有不可避免的未來奇異面,允許穿越內層視界後進入類似蟲洞的區域,甚至通往其他宇宙或回到過去的路徑。但這些路徑會引發因果悖論,且實際形成時常被認為會因不對稱性或量子重力效應而被破壞或改變。

- 黑洞消亡、白洞的量子起源與資訊悖論  
  透過霍金輻射,黑洞會蒸發至普朗克質量尺度,此時廣義相對論失效,量子重力方法(例如環量子重力)預測小黑洞可能透過量子躍遷形成白洞,並在極長時間尺度上釋放先前落入的資訊,這為解決黑洞資訊悖論提供了一條可能路徑。同時有人提出整個宇宙的起源(大爆炸奇異點)可能類比白洞的產生。

- 暗能量與宇宙常數問題(宇宙學常數悖論)  
  現代宇宙加速膨脹由「暗能量」驅動,其有效能量密度極小(約10^-9 J/m^3)。量子場論卻預測一個超級巨大的真空能(遠超觀測值,差別達數十至百二十個數量級),這是物理史上最嚴重的不匹配之一。若暗能量略大或略小,結構與生命都可能無法形成,這引出極度看似「人擇」的巧合問題。

- 人擇原理與多重宇宙(解釋宇宙常數的可能性)  
  Weinberg等人提出:若存在大量不同物理參數的宇宙(多重宇宙),我們只會出現在那個參數值允許星系和生命形成的子集。常見的多重宇宙類型包括:時間分離的循環宇宙(每次新宇宙參數不同)、空間上不可觀測但物理不同的區域(永恆膨脹情境),與量子力學的多世界(每次量子測量分支出獨立宇宙)。這些框架能自然化解微調問題,但目前難以實驗驗證。

- 可觀測性與科學地位  
  許多這類理論在數學與物理上是自洽且合乎理論規範的,但缺乏直接觀測證據。歷史告訴我們:黑洞、逆行行星、反物質、宇宙微波背景等曾是理論預言後被驗證的例子,暗示未來有機會發現目前尚未觀測到的天體。但要證明如gravastar、白洞或多重宇宙存在,仍需更好的數據、理論發展或全新的觀測技術。

總結:演講強調科學中理論預測與觀測驗證的關係——許多奇異但自洽的時空與物質概念(如引力真空星、白洞、蟲洞、多重宇宙)在理論上可能存在,且有時比觀測更先一步提出。是否真實存在,需靠未來更精細的觀測、數據與量子重力等理論進一步檢驗;就歷史經驗看,理論常會先行,而自然最終會給出答案。



GPT-5、代理與幻覺:Black Hat 上的現實檢視

這段訪談由 Gary(應為 Gary Marcus)在 Black Hat 場次接受訪談,重點是對最近 GPT-5 發表的冷靜評估、LLM(大型語言模型)本質缺陷、代理(agents)與「vibe coding」帶來的資安風險,以及對未來 AI 路徑的技術與安全建議。

1. GPT-5 並非跳躍式進展:GPT-5 在多項基準上小幅提升,但並非所謂「AGI(通用人工智慧)」的巨大躍進;有重要基準(如 ARC/AGI 類)未超越最近的對手(例如 Grok 4)。總結:是漸進改良,不是革命性突破。

2. 幻覺(hallucination)仍是核心問題:Gary 回溯他2001年提出的觀察,說明神經網路使用的分散式表徵(embedding)會導致過度泛化,因此模型會「憑概率捏造事實」。即便信息可在維基或其他來源驗證,模型仍會在可查證事實上出錯或捏造(例如名人身世、事件細節、甚至程式行為)。

3. 代理與自動化寫碼的危險:當模型被賦予多步、自主行動能力(寫程式、下載並執行套件、搜尋網頁、整合外部代碼片段),每一步都會增加錯誤與攻擊面。現場展示與研究顯示 prompt injection、惡意範例或隱藏於註解/偏右欄位的代碼都能導致遠端程式碼執行(RCE)等嚴重資安事件。

4. Vibe coding 與自動安裝的誘惑:即便平台提供關閉 auto-install 等選項,使用者為了效率或貪快仍可能同意安裝不明套件或忽略提示。這使得開發流程充滿外部不信任代碼的引入,增加系統被滲透的風險。

5. LLM 是黑盒且非真正理解語意:Gary 強調 LLM 本質上像「強化版自動完成」,擅長統計預測,但不擅長穩健的抽象表示或可驗證的事實保存。把關鍵基礎設施或高風險任務交給目前的 LLM/代理,是把世界建立在「希望它正確」的黑盒上,而非可檢驗的白盒系統。

6. 對齊(alignment)與倫理指令尚未解決:簡單的系統提示(例如「不要捏造」、「寫安全的程式」)在實務中無法保證模型不犯錯;把不遵守規則的模型「解雇」在技術上不適用(不像人類員工可直接解雇)。長期的價值對齊、避免傷害等問題仍未取得實質進展。

7. 技術路徑與混合方法:純深度學習(大規模預訓練)面臨報酬遞減與本質性局限。Gary 建議結合符號(symbolic)方法與神經方法的混合架構,採用能提供可解釋性、可驗證性的白箱元件,來彌補 LLM 的盲點。

8. 對 AGI 時點的看法:沒原則性的阻礙使 AGI不可能,但以現有架構短期內(幾年)達成 AGI 的可能性不高。可能性範圍很廣:5 年、10 年或更長都有可能,且不確定性來自於「是否找到合適新架構」。

9. 實務建議與警示:Gary 最後提醒資安社群:prompt injection 與 agent 資安將成為重大、廣泛且特殊的攻擊面;對關鍵系統(電力、基礎設施、國防、醫療等)務必謹慎,避免讓不可靠代理擁有高自治權。要採取防護措施、審計代碼來源、限制自動安裝與加強人類監督。

總結:現階段 LLM 與代理帶來實用價值,但並非萬靈藥;它們的「幻覺」「過度泛化」「黑盒性」與由此衍生出的資安風險,要求我們在推動自動化與代理化的同時,投入更多在可驗證性、混合式架構與防護(尤其是對 prompt injection 與外部代碼來源)的工程與政策工作。切忌在關鍵領域過早放手讓當前 LLM 完全自治。



2025年8月27日 星期三

AI 週報重點整理:GPT‑5、在地化推理、機器人與AI經濟戰爭

本集訪談涵蓋近期AI領域的關鍵動態:從GPT‑5與模型能力提升、前沿模型下放到消費端硬體、機器人與BCI進展,到企業競賽、人才戰、以及AI落地的挑戰與機會。

GPT‑5 與能力躍升
GPT‑5 Pro 在各種基準(例如IQ測驗)顯示明顯進步,能在數學、物理與優化問題上做出新貢獻(包含改進證明或提出新方法)。討論者認為現有以「平均人類分佈」為基準的評測已飽和,需要更艱深、專家級的 benchmark。

在地化推理與邊緣運算趨勢
高階模型即將能在消費級GPU(例如高階遊戲卡)或手機上執行,帶來低延遲、隱私保護與實體世界互動(如人形機器人)等新體驗。短期重點是延遲與私密性;長期則可能出現「小核心模型 + 外部知識庫」的設計,將大量推理下放到邊緣裝置。

模型蒸餾與數據/訓練效率的突破
新的「資料高效蒸餾」方法能用極少訓練資源得到接近或等同能力(可能以1%數據/訓練量達到先前水準),此類「overhangs」意味著小公司或垂直化初創能以更低成本打造專用foundation model。

預測與回溯 — 未來與過去的AI
AI在預測複雜系統(如金融、市場走勢)上的能力吸引注意,但一旦預測被廣泛應用即會被市場定價。另一個被提出的有趣方向是「retrodiction(高解析度重建過去)」,能夠補齊歷史資料的不完整性,甚至創造更客觀的歷史記錄。

企業、國家與市場:落地與爭奪戰
- OpenAI 等公司積極在全球(印度、英國等)鋪設服務,並投入大型資料中心(以電力容量為衡量)。
- 大廠間展開高薪搶才、併購或吸才收割(aqua‑hire)戰,造成「殭屍創業公司」與投資生態新挑戰。
- Perplexity提出收購Chrome的天價報價(具有策略與監管角力意涵),Google、Meta、Microsoft、X(Elon)等各有不同戰術與分工。

AI 落地的痛點:MIT報告與企業採用
MIT研究指出多數(約95%)AI試點未達顯著財務回報,原因包括:企業缺乏落地策略、文化阻力、錯誤使用敏感資料,以及嘗試在舊有流程硬套AI。對比之下,原生AI初創更容易把AI作為核心重構業務,成功機率顯著較高。建議:在大公司內打造獨立的「邊緣/skunkworks」AI組織、重啟企業投資/合作(CVC),並以小規模用例快速驗證。

醫療與生物科學的AI加速
多個模型在醫學考試、診斷與蛋白質設計上展現強力能力:例如某模型在美國醫師執照考試上接近或達到高分,另有模型提出改良Yamanaka因子的思路、在細胞重編程與蛋白質設計產生實驗上可用的候選。討論者認為AI在重新分析過去大量實驗資料上,能帶來加速醫療與長壽研究的「逃逸速度」。

腦機介面(BCI)與合併(merge)構想
多家新創(包含討論中的Merge Labs)正以不同技術路徑(如基因調控、超聲、植入/非植入讀寫)追求高頻寬BCI。若能快速實現,BCI可將人類與AI的耦合提升,影響工作、認知與經濟結構;時間窗若足夠短,則可能避免人機脫鉤。

機器人發展:競賽、應用與基準化
中國及其他地區出現人形機器人大賽、場景測試(舞蹈、足球、障礙賽等),並且多家機器人公司開始建構自有「物理世界AI」或控制模型(Helix、Figure 等)。雖然目前速度/效能仍與人類有差距,但快速迭代、比賽與真實場景試驗加速進展。

消費端與晶片戰略
- Google推出可在Phone上極低耗電運行的小模型(例如Gemma 3),展現邊緣AI可行路徑。
- 各國/企業透過資本(如美國對Intel持股、Chips Act)與製造(Samsung 與其他廠商)強化國家/公司在晶片與資料中心的實力,AI競賽已擴展到供應鏈與能源(電力)層面。

社會、政策與倫理側面
討論觸及AI可能影響生育率(Elon提出「AI增加出生率」的看法引發爭議)、政府以AI輔助或代替行政決策(例如部分國家提議AI部會或以AI監督以減少貪腐),以及AI在監管、人才流動、併購與國際地緣政治的角色。

結論與機會要點

  • 基準需升級:用更專家化、科學化的評測來衡量AI進步。
  • 邊緣與延遲是決勝關鍵:許多實際應用依賴低延遲與私密性,推理下放趨勢不可逆。
  • 蒸餾與資料設計將放大小型團隊的競爭力:1%資源達到過去水準的可能性,為垂直化初創帶來大量機會。
  • 大型企業需建立獨立AI邊緣單位、恢復企業投資項目,並與初創建立實驗性合作路徑。
  • 醫療、生物、製造與機器人是短中期最具破壞與回報的應用領域。

總體而言,訪談傳達出的共同觀點是:AI的進展速度遠超過既有節奏,既有架構需快速調整以免被淘汰;同時大量新機會正向創業者、擁有資料與願意改造流程的組織開放。