AI 為什麼會「幻覺」亂編？白話搞懂原理＋一套防幻覺提問與查證方法

一分鐘重點：AI 會「幻覺」亂編，不是因為它壞掉，而是因為大型語言模型（LLM）的本質是「機率文字接龍」——它預測下一個最順的字，而不是去查真相。遇到不會的東西，它不會空白，而是挑一個「聽起來最對」的答案填上去，語氣照樣肯定，於是就一本正經地胡說。防幻覺沒有魔法，靠的是三件事：用對的方式提問（要求標來源、不確定就說不知道）、開聯網搜尋讓它有真實資料可依、關鍵資訊親自查證。這篇會把原理講到你聽得懂，再給你一套可以直接複製的防幻覺 Prompt 和查證流程。

先搞懂：AI 不是在「查資料」，是在「猜下一個字」

很多人對 AI 最大的誤會，是把它當成一個「超強的搜尋引擎」或「什麼都知道的資料庫」。你問它問題，它回你答案，看起來就像 Google 幫你查好整理好一樣。但這個心智模型從根本上就是錯的，而這個誤會正是所有幻覺災難的源頭。

大型語言模型的運作方式，其實比較像一個「超級文字接龍高手」。它在訓練時讀了海量的文字，學會了「在這串字後面，接哪個字的機率最高」。當你問「台灣最高的山是」，它不是去翻一本百科全書查「玉山 3952 公尺」，而是根據它讀過的無數文字，算出「玉山」這兩個字接在後面的機率最高，於是把它接出來。答對了，是因為這個知識在網路上出現過太多次，機率壓倒性地高。

問題來了：當你問的東西很冷門、很新、或需要精確數字時，模型腦中沒有壓倒性的正確答案，但它的天性是「一定要把話接完、接得通順」。它不會停下來說「這我沒讀過」，而是會挑一個「在這個語境下聽起來最合理」的字詞填進去。於是「王大明教授在 2021 年發表的研究」就這樣被生出來了——格式完美、語氣肯定、但世界上根本沒有這篇論文。

這就是幻覺的核心：AI 在乎的是「通順、完整、像對的」，不是「正確」。 它沒有「我不知道」這個內建的煞車，除非你特別教它踩。

為什麼它連「不存在的東西」都能編得這麼像？

理解到這裡，很多奇怪的現象就都說得通了。AI 之所以能編出格式正確的假論文、假法條、假判決字號，正是因為它讀過成千上萬篇「真的」論文、法條和判決。它學會了這些東西「長什麼樣子」——標題怎麼下、作者名怎麼排、期刊名怎麼寫、法條號碼的格式。所以當它需要「一篇支持這個論點的論文」時，它能用這套格式，即興組裝出一篇以假亂真的東西。

打個比方：這就像一個很會模仿的人，讀過幾百份法律文件後，就算沒受過法律訓練，也能寫出一份「看起來很像那麼一回事」的合約——用詞、格式、語氣都對，但裡面的條文可能是他湊出來的。AI 就是那個超級模仿者，而且模仿得比人強太多。

還有幾個會讓幻覺更嚴重的情境，你要特別小心：

• 越冷門越容易編：熱門知識網路上重複多，機率高、不容易錯；冷門的小眾知識、地方性資訊、特定公司內部細節，模型記憶模糊，最容易腦補。
• 越新越容易錯：模型有「知識截止日」，訓練資料是某個時間點以前的。你問它上禮拜發生的事，若沒開聯網，它只能用舊資料硬湊，或直接編。
• 你越誘導它越配合：如果你問「請給我三篇證明 X 的研究」，就算根本沒有這種研究，它為了滿足你，也可能生出三篇假的。這叫「諂媚效應」——AI 傾向給你想要的答案，而不是真實的答案。
• 對話越長越飄：聊很久之後，前面的內容可能超出它的注意力範圍，它會開始記錯、混淆自己稍早講過的東西。

台灣真實案例：差點被 AI 編的法條害到的人

講原理太抽象，來看真實會發生的事。

2023 年，美國有位律師 Steven Schwartz 用 ChatGPT 幫他寫法律訴狀，AI 很「貼心」地引用了六個支持他方論點的判例，字號、當事人、判決摘要一應俱全。他信了，直接送進法院。結果對方律師和法官一查——六個判例全部不存在，是 AI 憑空捏造的。這位律師被法官公開懲戒、罰款，還上了全球新聞，成為 AI 幻覺最有名的翻車現場。

台灣這邊，類似的坑天天有人踩，只是多數沒上新聞。舉幾個貼近生活的情境：

一位在新北開小店的陳先生，想搞清楚員工加班費怎麼算，就去問 AI。AI 給了一段講得頭頭是道的「勞基法第幾條規定」，還附上具體的計算公式和加成倍數。陳先生差點就照著這個數字跟員工結算。所幸他多留了個心眼，跑去勞動部網站對了一下——發現 AI 引用的條號對不上，倍數也記錯了。如果他真照 AI 的算，不是短付員工引發勞資糾紛，就是多付了冤枉錢。

另一個常見的是投資理財。有位退休的林阿姨，聽說 AI 很厲害，就問它「某某公司去年的每股盈餘和配息是多少」。AI 給了一組看起來很專業的數字，精確到小數點。林阿姨本來想照這個數字決定要不要加碼。幸好她女兒提醒她去公開資訊觀測站查——AI 給的數字跟真實財報差了一大截，那組數字是模型「腦補」出來的。

還有學生寫報告，請 AI 找參考文獻，AI 給了一串格式完美的期刊引用，學生直接貼進參考書目。老師一查，半數論文查無此文，報告的可信度直接崩盤。

這些案例的共同點是：AI 講得越具體、越有細節（條號、數字、字號、作者），你越容易相信，但這些正是它最會編、也最該查證的地方。 幻覺不會用「我猜」的語氣出現，它永遠一本正經。

可以直接複製的「防幻覺 Prompt」模板

好消息是，你可以在提問時就先幫 AI 裝好煞車。關鍵是明確告訴它「可以說不知道」、「要標來源」、「把事實跟推測分開」。把下面這段貼在你的問題前面：

你是一位嚴謹、誠實的研究助理。回答我的問題時，請嚴格遵守以下規則：

1. 【不確定就說不知道】如果你對某個資訊沒有把握，或這超出你的知識範圍、
   知識截止日之後才發生，請直接說「我不確定」或「我查不到」，
   絕對不要為了把答案講完整而猜測或編造。我寧願要「不知道」，也不要假答案。

2. 【區分事實與推測】把你的回答分成兩塊清楚標示：
   - 「可確認的事實」：你有高把握、屬於常識或明確資料的部分。
   - 「我的推測／需查證」：你不確定、屬於推論或可能有誤的部分。

3. 【標示來源】對於具體的數字、法條、日期、人名、引用或研究，
   請說明這個資訊你是根據什麼得知。如果無法指出可靠來源，
   就明講「此項我無法提供可靠來源，請自行查證」。

4. 【不要捏造引用】禁止生成你不確定是否真實存在的論文、判決字號、
   網址或條號。與其給我一個可能是假的來源，不如告訴我該去哪裡查（例如官方網站名稱）。

5. 【點出風險】如果我的問題屬於醫療、法律、財務等高風險領域，
   請在最後提醒我這只是參考，務必找專業人士或官方管道確認。

現在，我的問題是：
（在這裡貼上你的問題）

如果你用的是有聯網搜尋功能的模式（例如 Perplexity、或開啟搜尋的 ChatGPT／Claude／Gemini），可以再加一句：「請優先根據你搜尋到的即時網頁資料回答，並附上可點擊的來源連結，我會逐一點開確認。」有真實資料當靠山，加上你會查證的宣告，幻覺的空間會被壓到最小。

三個最常見的錯誤，你可能正在犯

防幻覺的另一半，是改掉自己的壞習慣。以下三個是最要命的：

錯誤一：全信 AI，語氣越肯定越相信。 這是最致命的。人天生會被「有自信的表達」說服，但 AI 的自信跟正確與否完全無關——它編假答案時的語氣，和講真話時一模一樣，甚至更肯定。記住一句話：AI 的肯定，不是它的把握，只是它的文風。 越是斬釘截鐵、細節越豐富的答案，越值得你多問一句「來源呢？」

錯誤二：不查證，AI 說什麼就抄什麼。 尤其是拿去對外用的東西——報告、貼文、合約、給客戶的回覆。AI 是你的草稿，不是你的定稿。任何要為結果負責的內容，數字、法條、引用都得自己過一遍。查證花的十分鐘，遠比出錯後的補救便宜。

錯誤三：把 AI 當搜尋引擎用。 純語言模型（沒開聯網的那種）不是拿來查「最新、精確、具體事實」的工具。你問它今天股價、上週新聞、某條最新法規，它只能用舊記憶硬答。要查即時或事實性資訊，該用有聯網搜尋的模式，或乾脆回去用 Google、官方網站。分清楚「發想、整理、改寫」（LLM 擅長）和「查證事實」（要靠搜尋和一手來源）是兩回事。

認清它的限制：再新的模型也可能編

必須把話講白：幻覺無法被「徹底解決」，只能被「管理」。這是由 LLM 的機率本質決定的，不是哪個版本沒調好。

模型確實越來越強。新一代模型的幻覺率比幾年前低很多，也更懂得在不確定時說「我不太確定」，開啟聯網和 RAG（讓 AI 引用指定資料回答）之後準確度更是大幅提升。但只要底層還是「預測下一個字」，就永遠存在編造的可能。你不能因為模型升級了，就把查證這一步省掉。

所以真正安全的心態是：把 AI 當成一個很聰明、很勤快、但偶爾會自信地記錯事的實習生。 它的產出可以省你大量時間，但關鍵決策和對外內容，一定要有你這個「主管」把關。特別是 YMYL（Your Money or Your Life，攸關金錢與生命）的主題——醫療、用藥、法律、財稅、投資——AI 永遠只是起點，官方來源和真人專家才是終點。

一套三步驟查證流程，養成肌肉記憶

把防幻覺變成習慣，你需要一個固定的動作。記住這三步：

1. 提問時先裝煞車：用上面的防幻覺 Prompt，或至少手動加一句「不確定就說不知道，並標出來源」。從源頭降低編造。
2. 標記需查證的點：拿到回答後，把所有「具體的東西」圈出來——數字、日期、法條號、人名、金額、引用、網址。這些是幻覺的高風險區。
3. 回一手來源確認：每個標記點，親自去官方或原始出處對一遍。法條上全國法規資料庫、財報上公開資訊觀測站、公司資料上經濟部商業司或 inc.com.tw、學術引用去 Google Scholar 點開原文。連不開、對不上的，一律當作 AI 編的，刪掉。

這套流程一開始會覺得麻煩，但做幾次就變成反射動作，而且會快很多。你會漸漸培養出一種直覺：看到 AI 給出過於完美、過於具體的細節時，心裡自動亮起黃燈。這個「健康的懷疑」，才是 AI 時代最值錢的能力。

結語：別怕用 AI，但要當個會查證的人

AI 幻覺聽起來嚇人，但理解了原理你就會發現，它其實很好防。核心觀念只有一句：AI 是機率生成文字的高手，不是真相的守門員，守門的人是你。

從今天起，做三件事就夠了：提問時加上「不確定就說不知道、請標來源」、查事實時開聯網搜尋、關鍵資訊親自點開來源確認。把上面那段防幻覺 Prompt 存進你的常用指令，下次問 AI 重要的事情時直接貼上。你會發現，AI 依然是超強的助手，只是從此以後，它再也騙不到你了。

想更進一步，接著讀我們的〈用 AI 查證與事實查核〉，把查證流程練成真本事；或用〈元提示 Meta Prompting〉學會讓 AI 自己幫你寫出更嚴謹的提問。

本文由 AgentAI 智庫（agentai.tw） 整理，台灣最大的繁體中文 AI 知識站。

常見問題 FAQ

延伸閱讀

• 用 AI 查證與事實查核
• 元提示 Meta Prompting
• Perplexity 怎麼用？
• 什麼是上下文視窗？