提示工程

3 秒看懂

提示工程是通過精心構造輸入文本（提示），在不修改模型引數的前提下，引導大語言模型輸出預期結果的一套系統方法，屬於模型應用層的核心控制手段。

3 分鐘產業解釋

提示工程並非簡單的“提問技巧”，而是由提示模板設計、上下文示例編排、鏈式推論指令、輸出格式約束、檢索增強生成（RAG）提示融合、智慧代理（Agent）控制流提示等構成的完整技術體系。它的核心價值在於：將通用基座模型適配到客服、程式碼生成、資料分析等具體場景時，能夠繞過昂貴的微調，僅憑自然語言指令實現垂類任務的高質量落地。

產業已形成“提示即程式碼”共識，提示工程師、AI應用架構師等崗位正在將這項技術產品化。在RAG架構中，提示承擔檢索結果融合與答案生成的橋樑角色；在Agent控制流中，提示是任務分解、動作規劃和記憶整合的“大腦皮層”。模型指令遵循能力越強，提示工程的槓桿效應越顯著。

技術原理

提示工程的技術根基是自迴歸語言模型的預訓練任務與對齊訓練（RLHF/DPO）。預訓練階段，模型學習條件機率分佈 P(x_t \mid x_{<t})，提示就是條件字首，模型在其後逐步續寫 token。對齊訓練階段，模型學會遵循指令、拒絕有害請求、保持有幫助性。提示工程在此基礎上疊加“使用層設計”，通過構造性輸入間接約束模型的行為分佈。

核心機制包括：

• 上下文學習（In‑Context Learning）：在提示中放入若干示例（few‑shot），模型無需梯度更新即可模仿示例模式。這是提示工程打破“模型尺寸—任務效能”線性關係的關鍵。
• 思維鏈（Chain‑of‑Thought, CoT）：在提示中加入“讓我們一步步思考”等推論步驟指令，誘導模型生成中間推論路徑，顯著提升算術、邏輯和多步推論的準確率。
• 指令分層與角色設定：通過系統訊息、角色扮演、輸出格式限定（JSON/Markdown）將任務約束與生成自由度解耦，提升可控性。
• 自一致性（Self‑Consistency）：多次取樣後投票，利用模型的不確定性提高魯棒性，屬於推論階段的提示整合策略。
• 自動提示最佳化：用模型自身或進化演算法搜尋最優提示詞，催生 DSPy 等架構，將提示工程推向自動化。

以下用 ASCII 示意一個帶思維鏈的多步提示如何影響生成路徑：

+----------------------------+
| 提示:                       |
| 問題: 小明有5個Apple，給小紅|
| 2個，又買了3個，共幾個？     |
| 讓我們一步步思考:           |
+----------------------------+
        |
        v
+----------------------------+
| 模型生成:                   |
| 起初有5個。                 |
| 給小紅2個，剩下3個。        |
| 又買3個，總共6個。          |
| 答案: 6                    |
+----------------------------+

這種構造激活了模型在數學推論語料上學到的分步推導模式，避免直接輸出錯誤答案。提示工程本質上利用了模型作為“格式塔”模式補全器的特性，通過精心構造字首，將隱式能力顯性化。

關鍵引數

提示工程涉及兩類關鍵引數：推論階段的解碼引數和提示設計本身的超引數。

解碼引數（模型推論側）：

• 溫度（temperature）：控制取樣的隨機性，常取 0–2。低溫（如 0.1）使輸出更確定，適合事實性任務；高溫（如 0.8）增加多樣性，適合創意生成。來源：模型 API 文件（OpenAI/Anthropic 官方，2024）。
• Top‑p / Top‑k：核取樣和 top‑k 取樣截斷，與溫度配合調整生成質量。典型 top‑p 設為 0.9，top‑k 設為 50，屬業界通用實踐。
• 最大 token 數（max_tokens）：直接限定生成長度，過短截斷答案，過長增加延遲和成本。
• 停止序列（stop sequences）：強制結束生成的特殊字串，用於控制格式與輸出邊界。

提示設計引數：

• 示例數量（k‑shot）：few‑shot 提示中示例個數，一般為 2–10。示例過少可能不足以刻畫模式，過多則增加 token 消耗且可能引入噪聲。來源：Brown et al., NeurIPS 2020 提倡 1–64 shot，實際應用常取 3–8。
• 提示模板結構：變數位置、角色定義、輸出格式說明。合理的結構可降低模型對措辭的敏感度。有研究（Zhao et al., 2021, EMNLP）發現，不同模板對情感分類準確率波動可達 10% 以上。
• 上下文視窗利用率：提示 + 檢索文件的總 token 數不應超過模型上下文視窗（當前主流模型為 128K–200K tokens，部分支援 1M）。壓縮率與資訊密度的平衡影響答案質量。
• 思維鏈深度：推論步驟數影響最終精度。Wei et al. (2022) 在 LaMDA 137B 上報告，CoT 將 GSM8K 準確率從零樣本約 56.9% 提升至 74.4%（基於 PaLM 540B）；在 GPT‑3 175B 上，由 19.7% 提升至 58.9%。說明深度增加與效能提升正相關，但邊際遞減。

評估指標：

• 任務準確率/成功率：在標準基準（MMLU、HumanEval、GSM8K 等）上的得分提升幅度。
• 魯棒性：對提示同義改寫、拼寫錯誤的敏感度。理想情況下效能波動應小於 5%（經驗值，未形成行業標準）。
• 提示效率：單位 token 消耗所獲得的任務效能。通過少樣本壓縮技術，示例 token 可降低 30%–50%（估算值，來自各家平台實踐，無統一基準）。
• 延遲與成本：長提示增加首 token 延遲和總成本，最佳化時需在效能增益與 token 開銷之間尋求帕累托前沿。

技術路線

下表對比主要提示範式，引數基於通用實踐，不限定特定模型：

範式	無需微調	需要示例	推論開銷	適用場景	典型難度
零樣本提示 (Zero‑shot)	是	否	低	簡單分類、翻譯、摘要	低
少樣本提示 (Few‑shot)	是	是	低	格式控制、風格模仿	中（示例挑選敏感）
思維鏈提示 (CoT)	是	可選	中（額外推論 token）	數學、邏輯推論	中
自一致性 (Self‑Consistency)	是	可選	高（多次取樣）	高精度推論	中
動態提示 (RAG/工具呼叫)	是	部分需要	中（檢索/API 呼叫）	知識密集、即時資料	高（工程鏈路複雜）
自動提示最佳化 (APE/DSPy)	是	自動建置	高（最佳化階段）	需極致效能的固定任務	高

自動提示最佳化路線近年增長顯著。DSPy 將提示視為可編譯的機器學習元件，通過少量標註資料自動搜尋最優提示結構與示例組合。另一支路採用迭代式自改進（如 PromptBreeder），用進化演算法生成和變異提示。這些路線試圖將提示工程從手工除錯提升為工程化、可復現的流水線。

上游

提示工程的上游是基礎能力提供層，主要包括基座模型、對齊技術與推論硬體。

• 基座模型：GPT‑4o、Claude 3.5 Sonnet、Gemini 2.0 Flash、Llama 3.3、Qwen 2.5‑Max 等，模型對指令的敏感性、上下文視窗大小和推論速度直接決定提示工程的天花板。當前部分模型上下文視窗可達 128K tokens（如 GPT‑4o、Llama 3.1），Claude 3.5 Sonnet 支援 200K tokens，Gemini 1.5 Pro 支援至 1M tokens（來源：各廠商官方文件，2024–2025）。視窗越大，提示可承載的上下文資訊越多，但也對注意力機制提出更高要求。
• 對齊技術：RLHF、DPO 等使模型能理解複雜意圖、拒絕不安全請求。對齊質量直接影響提示設計的可控性。高質量對齊使低樣本甚至零樣本提示也能產出符合預期的結果，減少對複雜示例編排的依賴。
• 推論硬體：GPU/TPU 叢集的延遲與吞吐約束提示設計的複雜度。長思維鏈和多次取樣（如自一致性）增加推論計算量，硬體的視訊記憶體頻寬和批處理效率決定了可用的提示策略。據 NVIDIA 2024 GTC 揭露，H200 Tensor Core GPU 在推論任務中較 H100 頻寬提升 1.4 倍以上，有效支援更大上下文和更高併發。

下游

提示工程的下游是應用落地層，涵蓋開發架構、垂直產品和智慧代理系統。

• AI 應用開發架構：LangChain、LlamaIndex、Dify、Semantic Kernel 等，內建提示模板管理、自動選擇、A/B 測試模組。這些架構把提示抽象為可複用的元件，降低應用門檻。
• 垂直 AI 產品：客戶服務機器人（如 Zendesk AI）、程式碼助手（GitHub Copilot）、AI 面試官、教育輔導系統等，提示是產品的核心邏輯。例如，GitHub Copilot 使用複雜的上下文提示融合（程式碼上下文、註釋、檔案塊）實現動態程式碼建議，提示策略是其核心技術秘密（來源：GitHub 技術部落格，2024）。
• 智慧代理（Agent）：AutoGPT、CrewAI、微軟 AutoGen 等，提示充當任務分解、動作決策、記憶整合的“大腦皮層”。在 ReAct 模式下，提示明確要求模型輸出“思考-行動-觀察”，引導模型與環境互動。

下游對提示工程的需求已從“能用”升級為“可控、可觀測、可迭代”。管理工具的興起恰好回應了這一需求，提供版本控制、效果追蹤和協作功能。

受益公司

（以下名單僅反映產業格局，不構成任何投資建議。）

受益於提示工程發展的公司可歸為三類。

大型模型與雲端平台廠商：提供提示工程所依賴的基礎模型和推論服務，其營收增長間接受益於提示 API 呼叫量上升。

• Microsoft：Azure AI 服務集成了 OpenAI 模型，提示 API 呼叫直接貢獻雲端營收。微軟 FY2024 Q4（截至 2024 年 6 月 30 日）財報顯示，Azure 雲端服務營收年增率增長 29%，其中 AI 服務貢獻 8 個百分點的增長（來源：Microsoft Investor Relations，2024.07）。大量客戶通過提示工程定製 Copilot 功能，推動 AI 相關營收。
• Alphabet (Google)：Vertex AI 提供 Gemini 模型與提示設計工具。2024 年 Q2 雲端營收年增率增長 28% 至 103.5 億美元，“部分歸因於生成式 AI 能力包括提示 API 的使用增長”（來源：Alphabet 2024 Q2 財報電話會，未拆分 AI 貢獻百分點）。
• Amazon (AWS)：Bedrock 與 SageMaker 提供提示管理功能，Amazon 2024 Q2 財報指出 AWS 營收年增率增長 19% 至 263 億美元，但未單獨揭露 AI 服務佔比。
• Meta：開源 Llama 系列模型催生大量第三方提示工程工具和社群，間接拉動生態繁榮，本身通過廣告系統應用提示工程實現創意生成，但營收貢獻未量化。

應用軟體公司：將提示工程嵌入產品，提升功能競爭力和使用者粘性。

• ServiceNow：Now Platform 整合生成式 AI 功能，利用提示工程驅動自動化。2024 Q2 訂閱營收年增率增長 22% 至 25.42 億美元，公司表示 AI 功能推動續約與高價套餐，但未單獨揭露 AI 營收佔比（來源：ServiceNow Q2 2024 earnings release）。
• Salesforce：Einstein GPT 利用提示工程實現 CRM 自動化，2024 Q2 財報顯示總營收年增率增長 11% 至 86 億美元，CEO 強調“AI 為增長提供槓桿”（來源：Salesforce 2024 Q2 release，未揭露具體 AI 營收）。
• Adobe：Firefly 等多模態產品依賴提示設計，但其創意雲端營收佔比未單獨公開提示貢獻。

工具鏈初創：

• LangChain：開源架構及商業產品 LangSmith 提供提示版本控制和監控。2024 年 4 月完成 2500 萬美元 A 輪融資（來源：TechCrunch，2024.04）。
• Weights & Biases：推出 Prompts 模組，2023 年 8 月完成 5000 萬美元融資，估值 12.5 億美元（來源：Bloomberg, 2023.08）。
• DSPy：斯坦福推出，開源自動提示最佳化，未融資。產業影響體現在被多家企業整合。
• PromptLayer：提示管理 SaaS，2023 年完成 480 萬美元種子輪（來源：TechCrunch, 2023.04），付費使用者持續增長，具體財務細節未公開。

市場規模

公開資料中針對“提示工程”獨立規模的權威統計有限，多數研究將其納入 MLOps、LLMOps 或生成式 AI 應用市場。

• 全球 MLOps 市場：據 MarketsandMarkets 於 2023 年釋出的《MLOps Market – Global Forecast to 2028》，2023 年市場規模約 12 億美元，預計 2028 年達 59 億美元，複合年增長率 37.5%。提示管理工具作為 MLOps 的元件受益，但該報告未單獨拆分提示工程子市場（來源：MarketsandMarkets, 報告程式碼 TC 8690, 2023.07）。
• 全球生成式 AI 市場：Grand View Research 2024 年 1 月釋出的《Generative AI Market Size, Share & Trends Analysis Report》估計，2023 年市場規模 436.7 億美元，2030 年預計達 6679.6 億美元，CAGR 超過 40%。提示工程作為應用層的核心環節，處於該市場增長主線（來源：Grand View Research, GVR-4-68040-042-8, 2024.01）。
• 個別聚焦提示工程的市場報告（如 Research and Markets 2024 年《Prompt Engineering Market》）對 2023 年全球市場規模的估計在 2–3 億美元區間，預測未來七年保持 25%–30% 的年增速，但其定義覆蓋諮詢、服務與軟體，統計口徑寬泛，行業引證尚不充分（公開資料未見經審計驗證的權威數字）。

此外，招聘資料側面反映市場需求。LinkedIn 平台 2023 年“prompt engineer”職位發帖量年增率增長約 10 倍，2024 年增速雖回落但仍保持高位（來源：LinkedIn Economic Graph 分析，2024 年中，具體變化值未公開）。這些都提示提示工程正從一項實驗性技能轉化為產業化的專業服務市場。

玩家對比

提示工程工具領域的主要參與者可根據開源與商業、側重自動設計還是人工管理進行對比，以下基於公開產品文件（2024–2025）整理：

工具 / 平台	型別	自動最佳化	提示管理 (版本/A/B)	適用規模	主要使用者	定價模式
DSPy	開源架構	是（編譯最佳化）	基礎（通過程式碼管理）	研究/生產	AI 工程師、研究者	免費
LangChain/LangSmith	開源 + SaaS	部分（外掛）	是（版本、測試、監控）	初創/企業	應用開發者	免費+付費（團隊/企業）
PromptLayer	SaaS	否（側重分析）	是（請求日誌、評分）	中小團隊	提示工程師	免費層 + 月費
Weights & Biases Prompts	MLOps SaaS	否（與 W&B 整合）	是（實驗追蹤、對比）	企業	ML 團隊	基於用量
Humanloop	SaaS	否（調優反饋）	是（評估、反饋注入）	企業	AI 團隊	按用量訂閱
大型模型廠商內建工具 (OpenAI Playground/Anthropic Workbench)	原生工具	部分（系統提示迭代）	基礎	個人/團隊	所有使用者	按 token 用量

開源生態在自動最佳化和實驗管理方面演進迅速，DSPy 等能大幅降低人工調優負載。商業平台則在協作、監控和企業級治理方面佔優。當前尚無一家平台佔據絕對主導，整合能力與生態繫結成為差異化關鍵。

風險

1. 提示注入與洩露：惡意構造的提示可繞過模型安全對齊，提取系統提示或誘導模型執行未授權操作。OWASP Top 10 for LLM（2024 版）將提示注入列為第一風險項。防禦需實施輸入過濾、輸出審查和權限隔離，但尚無完美方案。
2. 提示漂移：模型更新（如 GPT‑4 到 GPT‑4o 的微調變化）可能導致原有精心設計的提示失效或效能下降。需持續監控和迴歸測試，升級維護成本高。
3. 過度依賴與脆弱性：企業將核心業務流程繫於特定提示，若模型能力變化或API成本劇增，業務連續性受威脅。供應商鎖定風險突出。
4. 成本失控：長上下文、CoT 推論和多次取樣顯著增加 token 消耗。若沒有精細的成本控制與提示壓縮，月推論賬單可能急劇膨脹，吞噬應用獲利。
5. 合規與隱私：提示中可能攜帶使用者隱私或商業敏感資料，輸入 API 後存在資料駐留和第三方訪問風險。GDPR/《個人資訊保護法》等法規對提示資料的處理提出約束。
6. 人才泡沫與質量：提示工程師需求一度井噴，但部分崗位僅需要基本文案能力而非技術深度。當自動化工具成熟，低端提示調優可能被替代，造成人才結構錯配。

誤讀糾偏

1. “提示工程就是隨便寫幾句話”：實際上是對模型內部行為分佈的工程化設計，涉及上下文學習理論、示例選擇策略、注意力引導，遠非自然語言寫作。大廠的提示模板常經數百次A/B測試，如同傳統軟體程式碼迭代。
2. “提示工程即將被自動模型取代”：模型越智慧，高質量提示帶來的增益邊界越寬，因為模型能執行更復雜的指令。自動提示最佳化本身也是提示工程的外延，而非替代。未來的“目標程式設計”只會改變形態，不會取消意圖規範的必要性。
3. “越長越好”：過長提示可能稀釋模型注意力、增加噪聲。研究表明，關鍵資訊後加入過多無關內容會降低準確率。核心是資訊密度和邏輯結構，而非詞數。
4. “提示工程只適用於文本”：多模態模型（如 GPT‑4o、Gemini 2.0）支援圖文交織提示，提示工程已延伸至視覺、音訊模態，成為跨模態生成的控制手段。
5. “零樣本提示已經足夠”：雖然部分簡單任務可零樣本解決，但複雜推論、特定格式和風格控制仍高度依賴精心設計的 few‑shot 示例和思維鏈結構，少樣本提示的增益在多數專業基準上依然顯著。

最新事件

• 2024.10 OpenAI 推出 Prompt Caching：針對重複字首的提示實現自動快取，降低 50% 的 API 成本並減少延遲，使長系統提示和 RAG 場景經濟效益提升（來源：OpenAI Blog，2024.10.01）。
• 2024.10 Anthropic 釋出升級版 Claude 3.5 Sonnet 與 Haiku：引入計算機使用功能，系統提示的理解力和執行力進一步躍升，使用者可通過提示控制多步桌面操作（來源：Anthropic Blog，2024.10.22）。
• 2024.11 微軟 Ignite 大會推出 Copilot Actions：將提示工程與自動化工作流深度結合，使用者可建立迴圈提示任務，推動提示走向“可程式設計業務流程”（來源：Microsoft Ignite 2024 報道，TechCommunity）。
• 2024.12 Google 釋出 Gemini 2.0 Flash（實驗版）：原生支援多模態提示和工具呼叫，速度翻倍，提示響應更敏捷，上下文視窗 1M tokens，進一步拓寬提示可承載的資訊邊界（來源：Google AI Blog，2024.12.11）。
• 2024.12 DeepSeek‑V3 開源：該 671B 引數的 MoE 模型通過高效訓練展現強大的指令遵循，社群測試表明其提示效率遠超同規模模型，提示工程在低端硬體上的可行性得到驗證（來源：DeepSeek GitHub，2024.12.26）。
• 2025.01 OpenAI 透露 o3 推論模型計劃：新模型具備“深度思考”能力，可內部生成鏈式推論，可能讓顯式 CoT 提示的需求轉變為整合在模型中的隱式推論，提示工程的形態面臨新一輪演化（來源：Sam Altman @sama, X post，2025.01.17）。

追蹤指標

要持續把握提示工程領域的脈動，建議追蹤以下可量化指標：

• 模型基準分數：Chatbot Arena 排行、MMLU、HumanEval、GSM8K 等基準上，各模型在不同提示範式（零樣本 vs. few‑shot vs. CoT）下的得分變化。來源：LMSYS，Papers with Code。
• ArXiv 論文動態：追蹤關鍵詞 “prompt engineering”、“chain‑of‑thought”、“automatic prompt optimization” 的每月投稿量。可通過 arXiv API 統計。
• GitHub 星數與活躍度：關鍵庫如 langchain、dspy、promptflow、openai‑cookbook 的星數與提交頻率。反映社群創新熱度和生產成熟度。
• 招聘市場趨勢：Indeed、LinkedIn 上“prompt engineer”、“LLM application developer”崗位數量與薪資中位數變化（季度追蹤）。來源：LinkedIn Economic Graph，Indeed Hiring Lab 季度報告。
• 大型模型 API 定價與功能：OpenAI、Anthropic、Google Vertex 的提示相關功能更新（如快取、批處理）和 token 定價調整。
• **工具