AI 最危險的不是答錯，是答錯的時候語氣跟答對一模一樣。你看不出差別，因為它從來不會顯得心虛。
AI 幻覺（英文 hallucination）指的是 AI 生成看起來合理、語氣肯定，實際上卻是錯誤、虛假或無根據的內容，例如編出沒發表過的論文、不存在的法條、查無此人的專家。它不是程式出錯，而是模型在不確定的時候選擇了「猜一個像樣的答案」，而不是說「我不知道」。分辨得出這種內容的能力，AI 教育專家李海碩稱為「辨力」，是他提出的韌性工程學中三種持久技能之一，另外兩種是問力與心力。
這篇把 AI 幻覺說好說滿：它是什麼、為什麼會發生、有哪幾種長相、怎麼在事前降低發生率、它對學習（特別是孩子）的影響，以及真的遇到了該怎麼處理。
一、AI 幻覺的定義：它不是出錯，是編造
依 Google Cloud 的說明，AI 幻覺是生成式 AI 產生「看似合理但實際上不正確、虛假或無根據」的內容，而且模型會自信地生成這些資訊，就像它們是真的一樣。
關鍵詞是「自信」。
一般的程式錯誤會報錯、會當掉、會給你明顯不對勁的東西；AI 幻覺不會，它交出來的成品在格式、語氣、結構上都無可挑剔。
| 一般的錯誤 | AI 幻覺 | |
|---|---|---|
| 表現 | 格式亂掉、報錯、明顯怪異 | 格式正確、語氣肯定、讀起來順 |
| 察覺難度 | 低，一眼看得出 | 高，要主動查證才會發現 |
| 發生時機 | 系統故障時 | 模型不確定時（也就是你最需要它的時候） |
| 處理方式 | 重試、回報 | 在 AI 之外驗證 |
為什麼叫「AI 幻覺」？這個詞其實有爭議
依 維基百科的整理，它最早出現在 1986 年的電腦視覺研究，用來描述影像增強；2015 年 Andrej Karpathy 用它形容循環神經網路生成的錯誤引用；2022 年 11 月 ChatGPT 發布後這個詞才真正進入大眾語彙，2023 年劍橋詞典甚至為它更新了定義。
但學界對這個比喻有不小的意見。東北大學的 Usama Fayyad 認為它「誤導地擬人化」了語言模型；卡內基美隆大學的 Mary Shaw 直言這種說法把軟體擬人化；Murray Shanahan 則警告擬人化的框架會讓人誤解系統實際的運作方式。有人主張改用「confabulation（虛構）」或直接說「捏造」。
這件事對一般使用者其實有實用價值。
如果你把它想成「AI 生病了、產生幻覺」，你會等它痊癒；如果你把它想成「AI 在編」，你就會去查證。後者才是正確的心態，因為下一節會說明，這件事短期內不會消失。
二、AI 幻覺是怎麼發生的？三層原因，最深的一層在計分規則
第一層｜資料：它學到的東西本來就有洞
Google Cloud 把資料面的成因列為第一類：訓練資料本身可能不完整、帶有偏誤、包含錯誤資訊，或者單純就是過時了。模型沒有能力分辨資料裡哪些是噪音、哪些是事實，它只能把看到的東西一起學進去。冷門主題、地方性資訊、太新的事件，之所以特別容易出現幻覺，原因就在這裡。
第二層｜模型：它的工作是預測下一個字，不是查資料
語言模型的運作方式是根據前文預測下一個最可能出現的詞，一個接一個接下去。這個機制讓它非常擅長產生通順的文字，但通順跟正確是兩件事。當它接到一個沒把握的地方，它不會停下來，它會接一個「統計上最像答案的詞」。
2025 年 Anthropic 的可解釋性研究提供了更細的畫面：模型內部似乎有一組電路負責在資訊不足時抑制回答，幻覺發生在這組抑制電路被錯誤關掉的時候，例如它認得出某個名字，卻沒有關於這個人的足夠資訊，結果就是它照樣往下講。
第三層｜計分規則：它被訓練成寧可猜，也不要說不知道
這是最關鍵、也最少人講的一層。OpenAI 在 2025 年 9 月發表的研究〈語言模型為什麼會出現幻覺〉直接指出：標準的訓練與評估流程會獎勵猜測，而不是獎勵承認不確定。
原因在評測的計分方式。模型回答「我不知道」得 0 分，但猜一個答案還有機會猜中得分。在這種規則下訓練久了，模型自然學會一件事：寧可自信地猜，也不要誠實地說不會。
這個機制其實很好懂，因為人也一樣。選擇題空白一定是零分，猜 C 至少有四分之一機會；所以每個考過試的人都學會了猜。AI 學的是同一套規則，只是它猜得比人流暢太多，流暢到你看不出那是猜的。
OpenAI 在那份研究裡自己舉了例子：向一個廣為使用的聊天機器人詢問論文作者 Adam Tauman Kalai 的博士論文題目，它信心滿滿給出三個不同答案，沒有一個正確；改問他的生日，同樣給了三個不同日期，也全錯。重點不在答錯，而在「三個版本、每個都很肯定」，這正是猜測被獎勵之後的典型長相。
還有一層來自你：問題本身
Google Cloud 也把提示端列為成因之一：模糊或有歧義的問題、內含錯誤假設的問題、脈絡給得不夠，都會提高 AI 亂猜的機率。例如你問「請說明《XX 法》第 37 條的規定」，但那條根本不存在，多數模型不會糾正你，它會順著你的前提編一條出來。
所以，AI 幻覺會被修好嗎？
短期內不會完全消失。資料的洞可以補、模型可以改，但只要主流評測還在獎勵猜測、懲罰「我不知道」，幻覺就是結構性的問題，不是等下一版模型就會修掉的 bug。OpenAI 自己在文中也說，GPT-5 的幻覺已大幅下降，但仍難以避免。換句話說，查證這件事不會外包給 AI，它會一直是你的工作。
三、AI 幻覺長什麼樣子？研究整理出的 8 種類型
知道有幾種長相，才知道要往哪裡看。2024 年發表在《Humanities and Social Sciences Communications》的一項研究（Sun 等人，2024），蒐集了 243 筆 ChatGPT 產生的失真資訊實例，由三位編碼者逐筆判讀，最後整理出 8 種一級錯誤類型、31 種二級類型。
| 類型 | 白話說法 | 怎麼出現 |
|---|---|---|
| 推理錯誤 | 從已知條件推不出正確結論 | 研究指出這是最常見的一類，特別是條件較多的複雜推論 |
| 無根據捏造 | 沒有依據就生出事實、數據、論點 | 最難察覺的一類。你要求學術觀點或科學證據時最常出現，回頭找引用往往查無此文 |
| 事實錯誤 | 客觀事實或數據講錯 | 模型無法辨識訓練資料中的錯誤與雜訊 |
| 邏輯錯誤 | 違反客觀規律或常識推理 | 因為偏離人類日常邏輯，反而相對容易發現 |
| 數學錯誤 | 算錯，從大小比較到複雜運算都可能 | 它是在「預測」一個像答案的數字，不是真的在計算 |
| 過度擬合 | 回答僵化、套固定句型，不隨你的問題調整 | 多輪對話時比較容易看出來 |
| 文字輸出錯誤 | 翻譯、文法、拼字、程式碼出錯 | 非英語的文法判斷特別容易出問題 |
| 其他 | 歧視、過度過濾、有害資訊 | 涉及價值判斷的內容 |
這張表最實用的兩個資訊是：推理錯誤最常見，無根據捏造最難察覺。前者你可以靠檢查推論過程抓到，後者只能靠查證來源，沒有捷徑。
真實世界的代價：幾個已經發生的案例
這些不是假設。以下案例整理自Evidently AI 的案例彙整與公開報導：
- Google Bard 宣傳影片（2023 年 2 月）：在官方展示影片中聲稱韋伯太空望遠鏡拍下第一張系外行星照片，這是錯的。Alphabet 股價應聲重挫，市值一日蒸發約 1,000 億美元。
- 律師引用虛構判例（2023 年）：美國 Mata 訴 Avianca 航空案，律師採用 ChatGPT 生成的判例，有案號、有法官姓名、有引文，但全部不存在。法官 P. Kevin Castel 於 2023 年 6 月裁定，對律師及事務所處以 5,000 美元罰款。
- 加拿大航空客服機器人：聊天機器人向乘客說明了一套公司實際上沒有的退票規定，後續訴訟中航空公司被判須負責。
- Google AI 摘要建議披薩加膠水（2024 年 5 月）：搜尋結果的 AI 摘要建議在披薩醬裡加無毒膠水讓起司黏合，引發大量轉傳，Google 隨後修正系統。
- 芝加哥太陽報夏季書單（2025 年）：一份推薦書單中 15 本有 10 本根本不存在，卻被掛在真實作家名下。
- 語音轉錄工具（醫療場景）：有調查發現用於醫療場域的 AI 轉錄工具會憑空插入原本沒說過的句子，而使用者多達數萬名醫療人員。
這些案例的共同點是：出錯的都不是外行人。律師、會計師事務所、大型媒體、科技公司自己的展示影片，都翻過車。這說明幻覺不是靠「小心一點」就能躲掉的，需要固定的檢查動作。
四、如何避免產生 AI 幻覺？6 個在事前就能做的動作
完全避免做不到，但發生率可以壓低很多。以下六個做法都對應到前面講的成因，不是通用建議。
- 明確允許它說不知道：在問題後面加一句「如果你不確定，就直接說不知道，不要猜」。這一招直接對應 OpenAI 指出的成因：模型預設被訓練成寧可猜。你手動把「說不知道」變成可接受的答案，等於當場改掉它的計分規則。這是六個裡面最有效、也最少人做的一個。
- 給它材料，不要讓它憑空生：把資料、原文、報告先貼給它，再要求它只根據這份材料回答。無根據捏造最常發生在「請提供學術觀點」這類要它從記憶裡撈東西的任務；改成「請根據我給你的這份資料整理」，捏造空間就小很多。
- 把問題問具體，補上脈絡：模糊的問題會讓它猜你要什麼。說清楚背景、對象、範圍、你要的格式，它就不需要自行補完。
- 檢查你自己的前提：不要問「請說明某條法規的規定」，先問「有沒有這條規定」。含有錯誤假設的問題，多數模型不會糾正你，而是順著編。
- 一次只問一件事：一個問題裡塞五件事，它會為了讓回答完整而在不確定的地方硬補。
- 要求它標出不確定的地方：「哪些部分你有把握、哪些是推測，請分開標示」。分開之後你就知道該查哪幾段，不必整篇重驗。
這六個都屬於「怎麼問」。更完整的提問技巧，在〈AI 指令怎麼下才有效？〉裡有 8 個技巧與 15 句範例，可以搭著用。不過要提醒一件事：問得好只是降低機率，不等於免疫。所以還是要有第六節的事後處理。
五、AI 幻覺會怎麼影響學習？孩子的風險為什麼更高
先看一個數字：只有 7% 的引用是對的
2023 年一項發表在《Cureus》的研究（Bhattacharyya 等人，2023）檢查了 ChatGPT 在醫學內容中生成的 115 筆參考文獻，結果是：
| 結果 | 比例 |
|---|---|
| 完全虛構的文獻 | 47% |
| 文獻真實存在，但引用的內容不符 | 46% |
| 真實且正確 | 只有 7% |
第二列比第一列更值得注意。完全虛構的文獻，你去查會發現查無此文，還算容易抓；但「文獻真的存在、引用內容卻不對」這種，你查到書目存在就會鬆懈，不會再往下核對內文。兩者加起來是 93%。
對學習的三個具體傷害
- 錯的知識被記得特別牢。AI 講得順、有條理、有結構，這些特徵剛好都是幫助記憶的特徵。換句話說，錯誤的內容因為包裝良好，比一段含糊的正確說明更容易進到長期記憶裡。之後要改，成本很高。
- 查證的習慣沒有機會建立。以前找資料要比對好幾個來源，那個過程本身就在訓練判斷力。現在一次就拿到整理好的答案，判斷這個動作被省掉了，省久了就不會了。
- 最隱蔽的一項：學習者失去「我不確定」這個狀態。AI 的回答從不猶豫，久了你也不再猶豫。但「我不確定」正是學習啟動的訊號，沒有這個訊號，人不會回頭補。
第三項跟〈後設認知〉直接相關。後設認知就是知道自己懂了沒的能力，而你必須先知道自己不確定，辨力才有機會啟動。兩者是搭在一起的：後設認知負責發現「這裡我沒把握」，辨力負責去查。
為什麼孩子的風險比大人高？
同樣一段幻覺，放在大人面前跟放在孩子面前，穿透率完全不同。原因有四個。
- 背景知識少，沒有東西可以拿來對照：大人看到「愛因斯坦 1935 年獲得諾貝爾獎」會覺得哪裡怪怪的，孩子不會，因為他手上沒有可以比對的參照點。幻覺最容易通過的地方，就是你完全不熟的領域，而孩子幾乎每個領域都不熟。
- 對權威的信任度高：對很多孩子來說，螢幕上打出來的、講得很肯定的，就等於正確答案。他們還沒有「這個工具會犯錯」的心理模型。
- 正在建立的是習慣，不只是知識：這個階段養成的是「遇到問題怎麼辦」的反射動作。如果反射是「問 AI、照抄」，那不只是這一題錯了，是往後每一題都會這樣處理。
- 他們拿 AI 做的事，剛好都是高風險的：查資料、寫作業、做報告，全部都需要精確的事實與引用，而那正是幻覺最密集的地方。
這也是為什麼教育部建議 13 歲以下不要直接使用市面上的通用 AI，而是改用教學型工具。完整的年齡界線與依據，在〈小孩幾歲適合用 AI 學習？〉裡有整理。
給家長與老師的三個做法
- 把「AI 會編」講在前面，而且要舉例
- 不要只說「AI 有時候會錯」，太抽象。直接示範一次：問 AI 一個你確定它會答錯的問題，讓孩子親眼看到它自信地講錯。看過一次，比講十次有用。
- 把「查證」變成作業的一部分，而不是額外的要求
- 規定用 AI 可以，但要附上一個你自己找到、跟 AI 無關的來源。重點不是防止他用 AI，是讓查證變成流程裡本來就有的一步。
- 用「講給我聽」代替「給我看答案」
- 闔上螢幕，請孩子用自己的話說一次。抄來的講不出來，理解過的講得出來。這一招同時擋掉幻覺與不理解，而且家長不需要懂那個科目也做得到。
更完整的家長引導方式，可以看〈AI 教育是什麼？該怎麼引導孩子正確使用 AI 學習？〉。
六、遇到 AI 幻覺該怎麼處理？5 個步驟
前面談的是降低發生率，這一節是真的發生了怎麼辦。順序很重要，尤其是第一步跟第二步。
- 先停住，不要往外送：發現可疑就先不要轉發、不要交出去、不要貼進報告。前面那些真實案例的損失，幾乎都不是發生在「AI 講錯」的那一刻，而是發生在「有人把它送出去」的那一刻。
- 到 AI 以外的地方驗證：這一步最常被做錯。很多人的反射是回頭問 AI「你確定嗎」，但 Mata 訴 Avianca 案裡那位律師就是這樣問的，AI 回答「是的」，結果那些判例全部不存在。向 AI 查證 AI 等於沒有查證，驗證必須發生在 AI 之外：原始文獻、官方網站、政府公告、實體書。
- 標記那一段，不要整篇丟掉：發現一處錯誤不代表整份都不能用，但也不代表其他部分沒問題。務實的做法是把回答拆成「有具體物的段落」與「通則說明的段落」，前者逐一查，後者風險較低。全丟掉太浪費，全留下太危險。
- 回頭改問法，把錯的前提拿掉：如果幻覺是被你的問題引出來的（例如你問了一個不存在的法條），先修正前提再重問，不要在錯的地基上繼續追問，否則它會越補越像真的。
- 記下來：這個主題它不可靠：同一個模型在同一類任務上的弱點通常會重複出現。把「它在這個領域會編」記起來，下次同類問題直接提高查證強度。這就是辨力累積的方式，一次一格。
還有一個判斷技巧值得單獨提：同一件事換個問法再問一次，看它會不會改口。
真實的知識重問幾次會穩定；幻覺重問常常會冒出不一樣的版本，或立刻道歉改答案。會動搖的答案就是警訊。這一招不需要你懂那個領域也做得到，特別適合完全陌生的主題。
延伸問題：大家都問同一個 AI，想法會不會變得一樣？
這是幻覺之外，另一個和辨力有關的問題，答案是會，但原因跟多數人想的不同。
AI 為了讓回答顯得穩妥，傾向給出最主流、最安全的版本。當一整個班級、一整間公司都問同一個模型，拿到的框架、用詞、甚至舉例都會高度相似。不是有人強迫大家想得一樣，是大家都從同一個起點出發，而且那個起點還被優化成「不容易被反對」。
要避開這件事，做法跟避開幻覺是同一個：先有自己的版本，再看 AI 的版本。
李海碩的「先人後機」講的就是這個順序：先自己想、寫下來，再問 AI、比差異。先想過的人，AI 給他的是對照組；沒先想的人，AI 給他的就是結論，而那個結論跟隔壁的人一模一樣。做法細節在〈怎麼用 AI 學習又不會變笨？〉。
這也是〈一直用 AI 會變笨嗎？〉談的心智脫離在群體層面的樣子。
辨力要怎麼養起來
上面那些方法是動作，辨力是把動作變成反射之後的能力。中間的關鍵是一件不太舒服的事：你得先知道自己哪裡不懂，才知道哪裡該查。
完全不熟的領域，你連該懷疑什麼都不知道，這時候幻覺最容易通過。所以辨力其實要靠監控自己理解程度的能力撐著，也就是〈後設認知〉那一套。另一個方向是讓 AI 用問題引導你、而不是直接給答案，做法在〈蘇格拉底式提問〉。
李海碩是葳格國際學校總校長，也是密涅瓦大學決策分析碩士。決策分析這門訓練從頭到尾在做一件事：檢查你手上的證據撐不撐得起你要下的結論。把同一套檢查搬到 AI 的回答上，就是辨力。問力、辨力、心力三者怎麼組成完整的能力結構，可以看〈AI 時代該學什麼？〉裡的韌性工程學。
七、接下來可以做什麼？三個層級的下一步
今天就能做的（10 分鐘）
- 在你常用的 AI 對話開頭加一句「不確定就說不知道，不要猜」，然後觀察接下來一週它說「我不確定」的次數。
- 找一個你非常熟悉的主題去問 AI，仔細看它哪裡講錯。在自己的專業領域看它出錯，是建立辨力最快的方法，因為你不需要查就知道對錯。
- 把最近一次用 AI 產出的東西翻出來，把裡面所有人名、數字、年份、引用圈起來，實際查三個。
這個月可以建立的習慣
- 固定「先人後機」的順序：任何問題先自己寫下想法，再問 AI，再比差異。
- 把查證寫進流程：凡是要交出去的內容，規定自己至少附一個非 AI 來源。
- 建立你自己的「不可靠清單」：記錄哪些主題、哪些任務它常出錯，下次直接提高查證強度。
如果家裡有孩子
- 示範一次 AI 講錯的樣子給他看，比講道理有效。
- 把「附一個非 AI 來源」變成作業規則。
- 每天問一次「今天學的，講給我聽」。
- 先確認年齡與工具是否合適，參考〈小孩幾歲適合用 AI 學習？〉。
每週一則，把辨力練成習慣
AI 每一版都在變，能不能分辨它講的是真是假，會越來越像基本的識字能力。李海碩的《碩學苑》電子報每週寄一則 AI 學習與思考的觀察，包含最新的研究與可以直接用的判斷方法：👉 訂閱《碩學苑》電子報
AI 幻覺常見問題 FAQ
Q：AI 幻覺是什麼？
A：AI 幻覺是指 AI 生成看起來合理、語氣肯定，實際上卻錯誤、虛假或無根據的內容，例如虛構的論文、法條、人名與數據。它不是程式錯誤，而是模型在不確定時選擇猜測而非承認不知道。
Q：AI 幻覺的英文是什麼？
A：hallucination。原意是幻覺、幻視，用來描述模型「看見」了訓練資料裡並不存在的東西。也可以說 AI hallucinates，或稱 model hallucination。部分學者認為這個比喻過度擬人化，主張改用 confabulation（虛構）或 fabrication（捏造）。
Q：AI 幻覺是怎麼發生的？
A：有三層原因。① 資料：訓練資料不完整、過時或含錯誤；② 模型：它的工作是預測下一個最可能的詞，不是查證事實；③ 計分規則：OpenAI 2025 年研究指出，主流評測獎勵猜測、懲罰「我不知道」，模型因此學會寧可猜也不承認不確定。此外，模糊或含錯誤前提的提問也會提高發生率。
Q：AI 幻覺可以完全避免嗎？
A：目前不行。它屬於結構性問題，不是等新版模型就會消失。OpenAI 表示 GPT-5 的幻覺已大幅下降，但仍難以避免。實務上的處理方式是降低發生率加上事後查證，而不是期待它不再發生。
Q：AI 幻覺的發生率有多高？
A：視任務而定，引用類任務特別高。2023 年《Cureus》一項研究檢查 ChatGPT 生成的 115 筆醫學參考文獻，發現 47% 完全虛構、46% 文獻存在但引用內容不符，只有 7% 完全正確。
Q：怎麼判斷 AI 給的答案是不是幻覺？
A：三個方法。① 看回答裡有沒有可查證的具體物（人名、數字、案號、論文名），有就當成待查；② 要求來源連結，並且真的點開驗證；③ 換個問法重問，會改口的答案就是警訊。
Q：問 AI「你剛才說的是真的嗎」有用嗎？
A：幾乎沒用。2023 年美國 Mata 訴 Avianca 案中，律師就是這樣問的，AI 回答「是的」，但那些判例全部不存在。向 AI 查證 AI 等於沒有查證，驗證必須發生在 AI 之外。
Q：哪些情況特別容易出現 AI 幻覺？
A：冷門主題、需要精確引用的內容（法律、醫學、學術）、太新的事件、數學運算，以及你自己不熟的領域。最後一項最危險，因為你不知道該懷疑什麼。
Q：小孩用 AI 學習，怎麼避免被幻覺誤導？
A：三個做法。① 先示範一次 AI 講錯給他看，建立「這個工具會錯」的概念；② 規定用 AI 可以，但要附一個非 AI 的來源；③ 闔上螢幕請他用自己的話講一次。13 歲以下建議改用教學型 AI，並由老師或家長陪同。
Q：AI 幻覺和 AI 說謊是同一件事嗎？
A：不是。說謊需要知道真相並刻意隱瞞，而模型並不「知道」自己講的是錯的，它只是在產生統計上最像答案的文字。這也是部分學者反對「幻覺」這個擬人化說法的原因。
參考資料
- Kalai, A. T., Nachum, O., Vempala, S., & Zhang, E.（2025）。語言模型為什麼會出現幻覺。OpenAI（論文：arXiv:2509.04664）。
- Google Cloud。什麼是 AI 幻覺？
- Sun, Y., Sheng, D., et al.（2024）。AI hallucination: towards a comprehensive classification of distorted information in artificial intelligence-generated content。Humanities and Social Sciences Communications, 11, 1278。
- Bhattacharyya, M., et al.（2023）。High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content。Cureus, 15(5)。
- Hallucination (artificial intelligence)。Wikipedia。
- AI hallucinations: examples。Evidently AI。
- Mata v. Avianca, Inc.，美國紐約南區聯邦地方法院，2023 年 6 月 22 日裁定。
延伸閱讀：→ 〈AI 時代該學什麼？〉｜→ 〈什麼是後設認知？怎麼練？〉｜→ 〈小孩幾歲適合用 AI 學習？〉｜→ 〈AI 指令怎麼下才有效？〉｜→ 〈蘇格拉底式提問是什麼？〉