想像大語言模型(LLM)就像一個文字接龍預測引擎。它其實不像人類那樣具有真正的思考或理解能力,而是根據你先前給它的所有文字(Prompt),在訓練過的數據資料中計算並猜測「下一個最可能出現的字詞(Token)」。這「下一個最可能出現的字詞」,就是你常聽到的Token。
而提示詞工程(Prompt Engineering),就像是為這個接龍高手寫一份精準的「遊戲規則與背景提示」。透過不斷優化你給它的文字結構、說明與設定,引導它一路接出我們想要的正確答案與樣式,而不是亂猜。這是一個需要不斷試驗與調整的迭代過程。
🎯 核心重點
- LLM 底層運作(預測引擎):LLM 本質上是一個預測引擎(Prediction Engine)。它接收文字序列作為輸入,根據訓練數據計算機率並預測下一個 Token,接著將新產生的 Token 放到句尾,不斷重複這個過程(自迴歸生成)。
- Prompt(提示詞)的本質:提示詞是你提供給模型的輸入,目的是建立良好的上文情境,引導模型預測出正確且符合預期的 Token 序列。
- 提示詞工程的定義:設計、優化與評估高質量提示詞的迭代過程(Iterative process)。包含挑選合適的模型、優化提示長度、調整寫作風格與結構,以及搭配模型的輸出配置(Configurations)。
- 人人皆可上手:不需要是資料科學家或機器學習工程師,任何人都可以撰寫提示詞。
💡 實際例子
假設你希望 AI 幫你寫一封請求客戶退款的郵件:
- 隨意提示(非工程化):
「幫我寫信給客戶要求退款。」
- 結果:模型可能只接出一句過於簡單、缺乏背景與禮貌的文字,例如 "Please give me a refund."。
- 經過提示詞工程設計(優化後):
「你是一位客氣且專業的商務代表。請撰寫一封電子郵件給客戶,說明因系統重複扣款,我們需要為其辦理退款,請對方提供銀行帳號。語氣需保持誠懇與專業。」
- 結果:透過設定角色與明確背景,模型能精準預測並接龍出一封格式完整、用語得體的正式商務郵件。
❌ 常見錯誤
- 以為 LLM 具有人類般的邏輯思考與理解能力:LLM 本質上是依據機率來預測下一個 Token,並非像人類一樣擁有真正的認知思考。若輸入情境模糊,它就會依據機率隨機接龍,導致產生不準確的輸出。
- 認為 Prompt 是一次就能寫好的:提示詞工程是一個需要不斷微調、測試與分析的迭代過程,很少有提示詞能在第一次嘗試時就達到完美效果。
- 忽略了模型配置(Output Configuration)的作用:提示詞工程不只是寫文字,還包含了對 Temperature、Top-K、Top-P 等模型配置參數的優化與搭配。
📖 來源依據
本單元內容依據《Prompt Engineering》教材:
- LLM 運作原理與 Token 預測:第 7 頁
- Prompt 與 Prompt Engineering 定義:第 6、7 頁
- 提示詞工程的迭代特性:第 6、65 頁
- 所有人皆可撰寫提示詞:第 6 頁
📝 3 題理解測驗
請嘗試回答以下 3 道題目,檢驗你對單元 1 的理解:
第 1 題(單選題) 關於大語言模型(LLM)的底層運作機制,下列哪一項描述是正確的? (A) LLM 擁有類似人類的邏輯推理能力,能直接理解語義背後的真理。 (B) LLM 本質上是預測引擎,透過輸入的序列文字,不斷預測下一個最可能出現的 Token。 (C) LLM 每次都是一次性生成整篇文章,而不是逐個 Token 進行預測。 (D) 提示詞寫得再好,也不會影響 LLM 預測下一個 Token 的序列。
第 2 題(單選題) 下列關於「提示詞工程(Prompt Engineering)」的敘述,何者不正確? (A) 它是一個需要經過設計、測試與優化的「迭代過程」。 (B) 只有具備資料科學家或機器學習工程師背景的人才能進行提示詞工程。 (C) 除了撰寫文字內容外,提示詞工程也包含了調整模型配置(如 Temperature 等參數)。 (D) 提供明確的情境與結構,有助於模型產生更精準的輸出。
第 3 題(簡答題) 為什麼我們對 LLM 輸入相同的需求時,如果加上了「角色(Role)」或「明確語氣要求」,模型產生的回答會大不相同?請用「LLM 運作原理」的角度簡短說明原因。
測驗答案:(參考)
第1 題:B
第2題:B
第3題:因為LLM就像一個文字接龍的預測引擎 。它其實不像人類那樣具有真正的思考或理解能力,它是根據使用者先前給它的所有文字,也就是提示詞來回答。它其實是猜測「下一個最可能出現的字詞(Token)」是什麼?所以,如果使用者給出包含角色、背景、或明確語氣等完整的提示詞時,將有助於LLM猜到更精確的答案。
註:
這「學習系列」的文章,是記錄自己與AI一起探索知識的過程,也是我將AI做為私人家教的一項試驗。對於如何藉由Ai輔助自我學習,請參考這篇:
https://blog.udn.com/tku_89056/192561353
學習教材:《Prompt Engineering》
本書探討了提示工程的核心概念、多種進階技巧、以及最佳實務(use cases)。內容涵蓋如何設定大型語言模型的輸出長度與取樣參數,並且介紹零樣本、少樣本、角色扮演、思維鏈、以及如何結合外部工具的推理與行動等實用策略。此外,本書也示範了如何利用人工智慧來編寫、解釋、翻譯和除錯程式碼。最後,本書提供了多項專業的建議,例如簡化提示設計、優先使用正面指令、利用如JSON的結構化格式、以及落實詳盡的版本記錄與迭代。
本書作者Lee Boonstra是一名人工智慧軟體工程師、技術主管和系統架構師,在谷歌全球首席技術官辦公室(OCTO)、應用創新工廠等擁有10年以上的資歷。免費下載:https://www.kaggle.com/whitepaper-prompt-engineering