小故事：新手小林的第一次 AI 客服上線
小林剛接手一家線上服飾店的 LINE 官方帳號，想用 AI 機器人24小時自動回覆。把 ChatGPT API 直接掛上去，結果第一天就收到顧客投訴：價格寫錯、優惠內容根本不存在，甚至有客人說「你們的客服好像在胡說八道」。小林才發現，AI 在缺乏正確知識庫與限制時，會自己「編」出答案，這就是所謂的「幻覺」。
為什麼會出現幻覺？核心原因一覽
- 資料來源不完整：AI 只能依照它能取得的資訊回答。
- Prompt 指令不夠明確：模型不知道什麼時候該停下。
- 未限制回覆範圍：缺乏知識庫或 FAQ 讓 AI 隨意推測。
- 上下文記憶混亂：多輪對話時前後資訊不連貫。
- 缺少人工驗證流程：錯誤直接送給顧客。
實戰技巧：用雙模型降低幻覺風險
目前許多企業採用「Line@ 串接 Gemini 與 ChatGPT」的雙模型驗證架構。簡單說，Gemini 先負責辨識顧客意圖與即時資訊，確認問題型別；再交給 ChatGPT 產生符合品牌語氣的回覆。這樣的交叉驗證能有效減少錯誤答案。
以下是快速設定步驟：
- 建立固定的 FAQ 知識庫，將產品規格、價格、優惠資訊全部列入。
- 在 Prompt 中加入「只能引用指定資料」與「禁止自行推測」的指令。
- 設定超出範圍時自動轉接真人客服。
- 定期更新知識庫，確保資訊不會過時。
- 匯入 Gemini + ChatGPT，讓 Gemini 判斷是否需要使用 ChatGPT 回覆。
這樣一來，即使顧客問到複雜的多輪問題，系統也會先檢查是否在知識庫內，若超出則交給真人，避免「幻覺」直接跑到顧客眼前。
懶人包總結
- 先建好 FAQ 知識庫，限制 AI 只能引用。
- 使用雙模型（Gemini + ChatGPT）做交叉驗證。
- 加入自動轉真人的保險機制。
- 定期檢查與更新資料。
FAQ
Q: 為什麼只接 ChatGPT 會容易產生幻覺？
A: 因為缺乏資料限制與上下文控制，模型會自行推測看似合理卻不正確的內容。
Q: 雙模型真的能降低錯誤率嗎？
A: Gemini 先過濾問題意圖，只有在確定資訊正確時才交給 ChatGPT，實務上已證明錯誤回覆比例明顯下降。
延伸閱讀
