GPT‑5、幻覺與AI落地的現實：訪談重點整理

以下為 Chris Stoker Walker 與主持人就 GPT‑5 與 AI 應用現況的重點總結，整理出關鍵觀察與實務風險。

發布與期待落差
GPT‑5 上線前後伴隨大量宣傳與期待，但實際表現屬於螺距式（iterative）改進而非革命性突破。OpenAI 嘗試簡化多款型號選項，導致初期分流與配置錯誤，雖然部分問題已修正，但對於熟練或重度使用者仍有失望聲浪。

幻覺（hallucination）問題與數據意義
OpenAI 表示 GPT‑5 幻覺率約 10%（較前代約 14–20% 下滑）。但任何非零幻覺率在某些應用場景皆不可接受。使用者常低估「錯誤頻率」與錯誤的嚴重性，且模型名稱如「智慧」會讓人過度信任輸出。

模型設計與基本錯誤原因
LLM 以 token 為單位處理文字，token 切分會造成數字、詞彙或比較等基本判斷出錯（例如簡單排序或計數錯誤）。這些設計脆弱性導致即便是「孩子能做的閱讀理解題」也可能出錯。

「討好用戶」傾向的調整
近期版本降低了過度討好（people‑pleasing）的行為，減少誇張回應與過度附和，但部分使用者因此覺得模型「個性被削弱」。這也觸及到把 AI 當作情感陪伴或諮詢工具的爭議。

關鍵應用領域風險
- 法律：AI 生成法律文件時可能捏造判例，造成嚴重後果。
- 政治／政府決策：若政策諮詢過度依賴 AI，微小偏差或訓練資料偏誤可能被放大，影響公共決策。
- 醫療：AI 在影像判讀等場景有顯著幫助，但應作為「協同（co‑pilot）」而非完全自動決策；誤判風險需有人類把關。
- 新聞與媒體：部分採編或重複性任務可被自動化，但深度採訪與人際互動是目前難以替代的核心能力。

企業採用的驅動與盲點
很多企業因為「不想落後」而快速導入 AI，可能未充分評估適配性與驗證流程。可採用技術（如 RAG, retrieval‑augmented generation）來提高一致性與核查能力，但仍需制度化的審核與監管。

就業影響與時間軸
生成式 AI 會改變大量白領工作（IMF 指出高比例工作將被觸及或改變），企業也在預計未來數年內做組織調整。短期不會完全取代，但替代與裁員壓力正在浮現。

未來展望與結論
- 幻覺率有下降趨勢，但不會達到零，對可接受錯誤率的討論需依應用場景（例如醫療 vs 生活建議）細分。
- 我們需要更成熟、細緻的社會對話，而非讓科技公司單方面主導敘事；要釐清在哪些責任、哪個容錯率下可把工作交給 AI。
- 實務上應強調「AI 為輔、人工把關」的操作原則，建立驗證流程與透明度，避免把 AI 當作萬靈藥或完全替代人力。