學習教材：《Prompt Engineering》

本書探討了提示工程的核心概念、多種進階技巧、以及最佳實務（use cases）。內容涵蓋如何設定大型語言模型的輸出長度與取樣參數，並且介紹零樣本、少樣本、角色扮演、思維鏈、以及如何結合外部工具的推理與行動等實用策略。此外，本書也示範了如何利用人工智慧來編寫、解釋、翻譯和除錯程式碼。最後，本書提供了多項專業的建議，例如簡化提示設計、優先使用正面指令、利用如JSON的結構化格式、以及落實詳盡的版本記錄與迭代。

本書作者Lee Boonstra是一名人工智慧軟體工程師、技術主管和系統架構師，在谷歌全球首席技術官辦公室（OCTO）、應用創新工廠等擁有10年以上的資歷。

免費下載：https://www.kaggle.com/whitepaper-prompt-engineering

單元-Start-「AI 提示詞工程」整體知識地圖

1. 核心概念 (Core Concepts)

• LLM 運作機制：大語言模型（LLM）本質上是自迴歸的「下一個 Token 預測引擎」。
• 提示詞工程 (Prompt Engineering)：透過設計、優化與評估高質量的提示詞，引導 LLM 產生精準輸出的迭代過程。
• 模型輸出配置 (Output Configuration)：包含 Output Length（輸出長度限制）以及 Sampling Controls（抽樣控制參數：Temperature、Top-K、Top-P）。
• 提示技術 (Prompting Techniques)：
  • 基礎提示：Zero-shot、One-shot、Few-shot。
  • 結構提示：System Prompting（系統提示）、Role Prompting（角色提示）、Contextual Prompting（情境提示）。
  • 進階推理與代理技術：Step-back Prompting（抽象退後）、Chain of Thought (CoT，思維鏈)、Self-consistency（自我一致性）、Tree of Thoughts (ToT，思維樹)、ReAct（推理與行動）。
  • 自動化與程式提示：Automatic Prompt Engineering (APE)、Code Prompting（程式碼生成/解釋/翻譯/除錯）。
• 工程最佳實踐與文件化：正向指令優先於限制條件、結構化輸入/輸出（JSON / JSON Schema / JSON Repair）、變數使用與實驗模板紀錄。

2. 必要的前置知識 (Prerequisites)

• LLM 的基本運作原理：理解模型是依據先前 Token 序列來預測下一個 Token 的機率分佈，而非真正具備人類邏輯。
• 模型抽樣參數的作用：理解 Temperature（控制隨機度）、Top-K（限定機率最高的 K 個詞）與 Top-P（限定累積機率達到 P 的詞集）的基本概念與功能。

3. 各概念之間的關係 (Relationships)

• 底層機制與配置（LLM 預測機制與抽樣參數）：決定了模型輸出的基礎行為與隨機程度。
• 提示結構與角色（System / Role / Contextual Prompting）：確立模型的身份、總體目標與當前背景，為輸出設置架構與風格。
• 範例與引導（Zero / One / Few-shot）：透過示範讓模型模仿特定的輸出樣式或模式。
• 複雜邏輯與工具擴充（Step-back, CoT, Self-consistency, ToT, ReAct）：當單純提示無法完成複雜任務時，透過拆解步驟、多路探索或結合外部 API 解決複雜問題。
• 工程營運與最佳實踐（APE, Code/JSON, 文件化紀錄）：將提示詞標準化、結構化與自動化，以利整合進軟體系統中。

4. 容易混淆、矛盾或例外之處 (Commonly Confused Points & Exceptions)

• 正向指令 vs. 限制條件 (Instructions vs. Constraints)：直覺上常使用「不要做什麼」（限制條件），但研究顯示使用正向「做什麼」（正向指令）效果更好且不易混淆模型。
• 抽樣參數的極端覆蓋現象：
  • 當 Temperature 設定為 0 時，Top-K 與 Top-P 將變得無關緊要（模型一律選擇機率最高的 Token）。
  • 當 Top-K 設定為 1 時，Temperature 與 Top-P 同樣會失效。
  • 當 Top-P 設定為 0（或極小值）時，Temperature 與 Top-K 亦會失效。
• 重複循環 Bug (Repetition Loop Bug)：在 Temperature 極低（過度確定性）或極高（過度隨機性）的情況下，模型都可能陷入重複產生相同字詞或句型的循環中。
• CoT 推理時的 Temperature 設定：一般生成任務在需要創意時可調高 Temperature，但在進行 CoT 推理與解答確定性問題時，教材明確建議應將 Temperature 設為 0。

5. 最值得優先掌握的內容 (Top Priority)

1. 抽樣參數控制（Temperature, Top-K, Top-P）：這是直接影響生成質量與穩定度的基石。
2. Few-shot Prompting 與範例選擇：學會提供高質量示範與混合類別。
3. System Prompting & Role Prompting：明確設定 AI 身份與輸出行為規範。
4. Chain of Thought (CoT) Prompting：解決邏輯與數學推導問題的最實用技術。
5. 正向指令與 JSON 結構化輸出/輸入：提升提示詞在實際系統中穩定運行的最佳實踐。

📚 建議學習順序（先基礎 → 再理解 → 最後應用）

階段一：基礎建立（LLM 原理與控制參數）

• 單元 1：LLM 運作原理與提示詞工程定義
• 單元 2：LLM 輸出配置（Output Length, Temperature, Top-K, Top-P 的機制與相互作用）

階段二：結構與提示技巧理解（從基礎到高級技巧）

• 單元 3：基礎提示技術（Zero-shot、One-shot 與 Few-shot Prompting）
• 單元 4：結構化提示（System Prompting、Role Prompting 與 Contextual Prompting）
• 單元 5：邏輯推理提示（Step-back Prompting 與 Chain of Thought）
• 單元 6：多路探索與代理技術（Self-consistency、Tree of Thoughts 與 ReAct）

階段三：實務與高級應用（最佳實踐與自動化）

• 單元 7：提示詞設計最佳實踐（正向指令、簡潔設計、變數使用）
• 單元 8：結構化資料處理（JSON 輸出/輸入 Schema 與 JSON Repair 技術）
• 單元 9：自動化與程式提示（Automatic Prompt Engineering 與 Code Prompting）
• 單元 10：提示詞實驗營運與文件化紀錄模板