跳至主要内容

06｜什麼是幻覺？AI 為什麼會「自信地胡說八道」

"什麼是幻覺？AI 為什麼會「自信地胡說八道」"

👻 一句話：幻覺 = AI 講得頭頭是道，但事實是錯的——這不是 bug，是 LLM 的工作原理副作用。

一、幻覺是什麼​

幻覺（Hallucination） = AI 產出的內容看起來合理、語氣自信，但實際上錯誤、不存在、或無依據。

例子：

  • 引用「金管會 2026/8/30 公告第 99-9 條」——根本沒這條
  • 編造書籍 ISBN、論文作者、案例公司
  • 把 A 規範的條文套到 B 規範
  • 把 2023 數字說成「最新」

⚠️ 最危險的是「自信」——AI 不會說「我猜的」，它的口吻跟講真話完全一樣。

二、為什麼會幻覺？​

LLM 本質是「預測下一個 token 機率分布」的模型：

給定前面 [T1, T2, T3, ...]，
預測下個最有可能的 Tn 是什麼？

模型沒有「真假」概念，只有「合理」概念。

當訓練資料沒有對應正確答案，模型仍會生成「長得很像答案」的東西——這就是幻覺。

三、幻覺的 5 種類型​

類型例子怎麼抓
編造事實引用不存在的法條「證券交易法第 99-9 條」對照原文核對
過度自信把可能講成必然（「一定」「絕對」）看用詞
混淆來源A 法規條文套到 B 法規對照原文
跨領域亂連ESG 揭露條款套到一般銀行業用領域常識
時間錯位引用 2023 規範但說「最新」看日期

四、為什麼幻覺特別難解​

① 訓練資料本身有錯​

網路爬蟲訓練資料含大量錯誤、過時、矛盾資訊。

② 模型「壓縮」事實時失真​

GPT-4 / Claude Opus 把幾兆 token 壓進幾百億參數——細節必然丟失。

③ 沒有 "不知道" 訊號​

模型輸出 token 是分布，不會主動拒答——除非 prompt 寫死讓它能說「不知道」。

④ 流暢度 ≠ 正確性​

LLM 的訓練目標是「像人類寫的」，不是「正確」——這兩個有時候是反向的。

五、怎麼降低幻覺​

① RAG（檢索增強生成）⭐ 最有效​

給 AI 看實際文件，而不是讓它「回想」。

你問: 「金管會 ESG 揭露要求？」
       ↓
[RAG 撈出真正的金管會公告 PDF 段落]
       ↓
AI 基於檢索結果回答 → 附引用

② Temperature 降到 0​

Temperature 控制「創意度」。降到 0 → 每次取機率最高 token → 行為穩定、不亂創造。

③ Grounding（要求引用來源）​

Prompt 加：「每個事實必須附原文出處」。AI 編造時露餡。

④ 紅線指令​

Prompt <critical> 段：「絕對不能編造法條編號 / 數字」。

⑤ 結構化輸出 + Schema​

要求 JSON 輸出 + 必填來源欄位 → 缺欄位視為失敗。

⑥ Human-in-the-loop​

重要交付（SOP / 法律 / 對外發布）一律經人類審。[詳見 D 審核員機制]。

六、怎麼識別幻覺（給審核員的清單）​

訊號該警覺
法條 / 條號 / 編號對照官方原文
具體數字（金額、百分比、日期）查原始來源
人名 / 公司名查公開資料
引用文獻 / 書名 / ISBN查圖書館 / Google
「一定 / 絕對 / 必然」看上下文是否有保留
「最新 / 目前 / 現行」看資料截止日

→ 凡涉及事實而非意見的，都要校。

七、案例：受監管產業的幻覺紅線​

在受監管產業（法律、醫療、金融），幻覺成本特別高：

場景幻覺後果
法規摘要錯客戶被誤導、服務方聲譽受損
交付文件差一字交付錯誤、需賠償
人物 / 資歷編造客訴、法律風險
投資 / 醫療建議幻覺可能觸法（多數國家禁止無資格的專業建議）
法遵揭露建議錯客戶被裁罰、反向求償

→ 對應的解：審核員機制 + 雙架構（機敏資料走地端） + 紅線清單。

八、模型不同，幻覺率也不同​

業界研究（2026 中）大致排序：

模型一般任務幻覺率適合的高風險場景
Claude Opus 4.x~3-5%法律 / 醫療 / 金融
GPT-5~5-8%一般商業
Gemini 3 Pro~6-9%多模態
Llama 3.3 70B~10-15%內部工具
較小開源模型~20%+不建議高風險

數字會因評測方法、領域、prompt 工程差異而變。

九、常見誤解​

❌ 誤解✅ 正解
「模型升級就不會幻覺」降低，不會消失。GPT-5 仍會
「Fine-tune 解決幻覺」不一定。可能反而學會更自信地胡說
「RAG 就 0 幻覺」不。如果檢索撈錯了，AI 仍幻覺
「AI 說有就有」永遠對事實做二次校

延伸閱讀​