為什麼 AI 客服會出現「幻覺」？
跟朋友聊天時，我常會問：「為什麼有些 LINE AI 客服明明很聰明，卻會說出錯誤資訊？」整理資料後發現，最常見的原因其實很簡單：資料來源不完整、Prompt 設定不夠明確、以及缺乏上下文限制。當 AI 沒有足夠的參考依據，就會自行「推測」答案，結果看起來合理卻完全錯誤，這就是所謂的幻覺。
降低幻覺的實用技巧：雙模型驗證與知識庫限制
目前許多企業已開始把 LINE 官方帳號串接 Gemini 與 ChatGPT，形成雙模型驗證架構。Gemini 主要負責即時資訊的理解與語意判讀，ChatGPT 則專注於自然語言的生成與品牌語調的調整。這樣的分工可以讓系統在回答前先由 Gemini 檢查問題意圖，再交給 ChatGPT 輸出最終回覆，降低單一模型過度推測的機率。
除了模型的選擇，建立固定的 FAQ 知識庫也是關鍵。企業應該限制 AI 只能引用已審核的資料，並在 Prompt 中加入「禁止自行推測」的指令。如果使用者的問題超出知識庫範圍，系統自動轉接真人客服，避免錯誤資訊流出。
實務上，以下步驟可以幫助你快速落實：
1. 先在後端建立產品、價格、服務細節的 FAQ 資料表，確保每筆資訊都有最新的版本。
2. 在串接 Gemini 與 ChatGPT 的 API 時，設定「只允許引用指定資料」的引數，並加入禁止推測的 Prompt。
3. 設計一個超出範圍自動轉真人的機制，例如當 AI 回答的信心分數低於 70% 時，直接提示「需要真人協助」。
4. 定期檢視 AI 的回覆紀錄，針對錯誤或不符合品牌語氣的回應做修正，並更新知識庫。
這樣的流程不僅能提升回覆的正確率，還能讓 24 小時的智慧客服更貼近真人的服務感受。
FAQ
Q: 為什麼要同時使用 Gemini 與 ChatGPT？
A: Gemini 擅長即時語意判讀，ChatGPT 則在自然語言生成上表現更佳，雙模型交叉驗證能有效降低幻覺。
Q: 若 AI 無法回答，會怎麼處理？
A: 設定超出知識庫範圍時自動轉接真人客服，避免錯誤資訊流出。
延伸閱讀
