🛡️ Lecture 03.9: 拒絕胡說八道：解密 AI『幻覺』成因與白話防幻覺三招

大家下午安！歡迎回來。我是你們的導師。

在使用 AI 的過程中，幾乎所有新手都遇到過一種令人啼笑皆非、又有點毛骨悚然的現象： 你問大副一個問題，大副以極度自信、理直氣壯的語氣，為你詳細解答。但等你仔細一查，才發現它提到的網址是假的、程式碼裡的函式庫是憑空發明的，甚至連引用的人物論文都完全不存在！

在 AI 業界，這種現象被稱為 Hallucination（幻覺）。

許多新手會氣憤地問：「老師，AI 不是超級電腦嗎？為什麼它會這麼滿口胡言？是不是它在故意騙我？」

今天，我們就用最簡單的底層原理，帶大家拆解 AI 幻覺的成因，並傳授三招立竿見影的白話防幻覺絕招！

---

🔑 1. 心智模型：自迴歸文字接龍與『做夢現象』

要防止幻覺，我們必須先明白：AI 大腦不是搜尋引擎，它是一個『超強的文字接龍生成器』！

我們在 Lecture 03 學過，大語言模型的底層本質是基於機率計算下一個 Token（字詞）。 * （自信的作文比賽選手）： 想像一個文筆極佳、作文比賽總是拿第一名的學生。當考題出現一個他完全沒聽過的歷史人物時，為了不留白，他憑著優異的文筆與邏輯，現場硬編出了一段感人肺腑的歷史故事。他的文章語法完美、邏輯通順，但內容全是編的！大腦的幻覺就是這位作文選手在「硬著頭皮編故事」。 * （《全職獵人》具現化系的幻想構築）： 這就像是具現化系的念能力者！當大腦資料庫裡缺乏實體線索時，自迴歸矩陣會根據語意機率，強行在虛空中「具現化」出一條看起來極為合理的程式碼或網址。這不是惡意欺騙，而是機率接龍在缺乏約束時的自然運作現象。

他只是生成接起來機率高的答案，但並非你的正確的答案接龍。

---

🛡️ 2. 白話防幻覺三招必殺技

既然知道了幻覺的成因，我們該如何在提示詞與操作中拉起防禦電網呢？

🔒 第一招：鎖定退路——提示詞寫入「不知道就老實說不知道」

大腦之所以會作夢，是因為它預設認為你「非要一個答案不可」。 * ❌ 容易引發幻覺的問法：「請告訴我 Python 裡用來自動翻譯點字的 braille_magic_lib 套件怎麼用？」 * ✅ 防幻覺寫法：「請介紹 Python 處理點字翻譯的常用做法。如果你不確定是否有此套件，或者答案不在你的知識庫中，請老實回答『我不知道』，絕對禁止憑空編造函式庫名稱。」 * 效果：這句話在自注意力矩陣中拉起了一條安全退路，大腦會放棄低機率的作夢接龍，選擇老實承認不知。

📡 第二招：接地氣——搭配實體文件與 RAG 檢索（錨定事實）

不要讓大副空手憑記憶回答！ 當你要大副寫程式或回答專案問題時，先把檔案、說明書或網頁傳給它（使用 RAG 或工作區檔案）。 * 提示詞範本：「請完全嚴格基於我提供的 api_doc.md 檔案內容來回答問題。答案中不得包含任何文件中未提及的假設。」 * 效果：把大腦從「憑空背書」拉回「開卷考試」，將注意力強制錨定在實體文字上。

🧪 第三招：觀察驗證——讓大副跑實體測試腳本（Observation 閉環）

這是 agy 等 Agent 最強大的優勢！ 傳統聊天室（如網頁版 ChatGPT）給完程式碼就結束了，無法驗證真偽。而在 agy 中，大副擁有實體終端機工具： * 對大副說：「請幫我寫出這段程式碼，並在終端機裡實際執行它。如果執行出錯，請根據真實的錯誤日誌自己修正，直到測試通過為止。」 * 效果：真實電腦的執行結果（Observation）是絕對不會說謊的！程式碼有沒有幻覺，終端機一跑便知真偽！

---

🍽️ 3. 課堂小測驗與無障礙原則

• 問：為什麼大語言模型會產生「幻覺（Hallucination）」？
  • 答：因為模型的底層本質是基於機率計算下一個字的文字接龍。當缺乏實體資料約束時，它會根據語意機率在虛空中生成看似合理但完全錯誤的內容。
• 問：在 agy 中，防止幻覺最有效、最根本的做法是什麼？
  • 答：讓大副在終端機裡實際執行程式碼（Observation 閉環驗證）！用實體電腦的跑碼結果來檢驗真實性！

掌握了防幻覺三招，你就能徹底擺脫被 AI 瞎編誤導的風險！

👉 下一堂課：Lecture 04 偵探辦案與現場重建：解密 agy 作為 AI Agent 的自主計畫與 ReAct 機制 👉 回課程大綱：學習地圖