Temperature

3 秒看懂

Temperature（溫度）是生成式 AI 模型推論時的“隨機性控制旋鈕”——把它想像成模型輸出的“冒險指數”。值越低（接近 0），輸出越保守、確定，適合“標準答案”型任務；值越高（接近 1 或更高），輸出越多樣、腦洞大開，但穩定性同步下降。你調的不是模型的“智商”或“知識量”，而是它在已有知識庫中取樣的“膽量”。

3 分鐘產業解釋

大語言模型（LLM）在預測下一個詞時，內部會為詞表中每一個候選 token 打一個原始分數（logits），再通過 softmax 將這些分數對映為總和為 1 的機率分佈。Temperature 的核心操作，是在 softmax 之前將所有 logits 除以引數 T：

p_i = exp(z_i / T) / Σ_j exp(z_j / T)

這一除法重塑了機率分佈的“銳度”：

T → 0⁺：分佈極度陡峭，幾乎全部機率質量集中在原始分數最高的 1–2 個 token 上，等價於“只說模型最確信的話”；
T = 1：保留原始 softmax 的所有機率差異，標準模式；
T ≫ 1（如 >2）：分佈被強制拉平，原本極低機率的 token 被“提拔”到可與高機率候選競爭的水平，輸出高度隨機。

從產業落地看，Temperature 已成為 LLM API 的標配超引數——OpenAI（ChatGPT/GPT-4 系列）、Anthropic（Claude 系列）、Google（Gemini 系列）、Cohere（Command R 系列）、Meta（Llama 開源生態的推論服務封裝）和國內主流大型模型平台，均在推論介面中暴露 temperature 或等價引數。不同場景有不成文的“社群公約”：程式碼生成、事實性問答通常設定 0–0.3；通用對話、翻譯、摘要設定 0.5–0.7；創意寫作、頭腦風暴設定 0.8–1.0；1.2–2.0 區間主要用於探索實驗、對抗測試或生成極發散內容。

值得注意的是，Temperature 並非孤立運作。幾乎所有生產級模型在取樣管線中都會將 temperature 與 top‑p（nucleus sampling）、top‑k 聯合使用。這三者構成一條“塑形管道”：溫度先調整全量分佈的平陡，top‑k 再切掉長尾的細碎噪聲，top‑p 最後擷取累積機率最緊湊的語義核心集合。這一三件套組合是當前 LLM 主力解碼方案，也是 App 端“創造性滑塊”背後的技術實質。

15 分鐘專家深入

1. 溫度不是獨立決策者——它與 top‑p 的動態博弈

初學者常誤以為“調好溫度就夠了”。實際工程中，temperature 與 top‑p 存在互調效應：若 T 設得極低（如 0.05），機率分佈已近乎 one‑hot，此時 top‑p 即使設為 0.9，實際被擷取到的 token 集合通常不超過 3–5 個，表現近乎確定性解碼；反之，若 T 設為 1.5 而 top‑p 設為 0.95，由於分佈被拉平，達到累積機率 0.95 所需 token 數目可能膨脹至數百個，導致輸出中混雜大量低質量候選。因此，成熟團隊往往採用“先固定一個維度的經驗值，再掃描另一個維度”的策略進行場景級調優。

2. Logits 的量綱問題：同一個 T=1，不同模型差異巨大

logits 的絕對值由訓練過程中的權重初始化、損失函式設計、梯度裁剪策略及資料分佈共同決定，未經過顯式機率校準的模型，其 logits 可能天然很大或很小。這意味著，兩個模型即便設定相同的 T=1，實際機率分佈的平坦度可能截然不同。這一現象在開源模型微調場景中尤為突出：使用 LoRA 或全參微調後，模型輸出的 logits 尺度可能發生漂移，此前除錯好的溫度引數往往需要重新標定。產業實踐中部分團隊引入“溫度縮放校準”（Temperature Scaling，與推論溫度不同，是後訓練校準技術）先將 logits 歸一化到標準範圍，再疊加推論溫度，雖增加一道工序，但大幅提升了引數的可遷移性。

3. 溫度在強化學習對齊中的雙重身份

在 RLHF（從人類反饋中進行強化學習）流程中，溫度扮演兩個截然不同的角色：

訓練階段：PPO 演算法在取樣策略時通常使用一個固定的小溫度（常見約 0.2–0.5），以確保從當前策略中取樣的動作既保留一定探索性，又不至於過散導致訓練不穩定。此時溫度充當“探索‑利用權衡（exploration‑exploitation trade‑off）”的調節器。
推論階段：RLHF 對齊後的模型，其策略分佈本身已傾向於低熵（更集中），使用者再疊加推論溫度時，對輸出的感知影響比未對齊模型更弱——換句話說，經過對齊的模型在相同 T 下比基座模型表現得更“確定”。這也是為什麼某些對齊模型在 T=0.7 時生成的多樣性，可能僅相當於基座模型在 T=0.4 的水平。

4. 溫度與安全：低 T 並非絕對安全，高 T 的隱憂真實存在

一個容易被忽視的發現：過低的溫度（如 T=0）在某些對抗性提示下反而可能暴露模型的傾向性——當模型對某個敏感問題“極度確信”地輸出一個有偏回答時，確定性解碼會將該回答穩定復現，缺乏隨機性來“碰巧繞開”風險。高 T 則是顯性風險放大器：當溫度超過 1.5，模型有機率取樣到安全對齊過程中被壓制的 token 區間，生成不安全或違規內容。因此，主流 API 提供商通常對 temperature 設定硬上限（OpenAI 為 2，部分平台限制為 1.5 甚至 1.0），並輔以輸出側的內容稽核。這也是為什麼“動態溫度上限繫結使用者權限等級”正成為部分企業級 AI 閘道器的一項功能。

技術原理

數學本質與極限行為

給定詞表大小 V，logits 向量 z ∈ ℝ^V，帶溫度 T 的 softmax 定義為：

p_i(T) = exp(z_i / T) / Σ_&#123;j=1}^V exp(z_j / T)

當 T 取不同極限時，分佈呈現出清晰的數學行為：

T 取值範圍	分佈行為	工程等價態
T → 0⁺	exp(z/T) 極速放大 max(z) 的優勢，p(max(z)) → 1	貪婪解碼（argmax）
T = 1	保留原始 softmax 的所有機率差異	標準取樣
T → +∞	exp(z/T) ≈ 1 + z/T，分佈趨近均勻 p_i → 1/V	完全隨機取樣

實踐中為避免除零錯誤，T 通常被鉗制在 ≥ 1e⁻⁷；在 OpenAI 與 Anthropic 的公開 API 中，T 的標準範圍為 0–2（少數服務支援至 5，但強不建議）。

取樣管線全鏈路（ASCII 示意）

原始 logits z           溫度縮放後分布          Top‑k 截斷後           Top‑p 截斷後
[3.2, 1.8, 0.9, 0.3…]  ──÷ T──>  更陡/更平   ──保留前 k──> 僅 k 個候選  ──累積 p>閾──> 最終候選集
                                                              (剔除長尾)           (語義聚焦)

最後一步：從最終候選集中按剩餘機率隨機取樣 → 輸出 token

在這條管線中，溫度是最先介入的“全域性增益/衰減器”。之後的 top‑k 和 top‑p 均作用於溫度縮放後的分佈上。若 T 極小，top‑p 近乎形同虛設。

對數空間實現（防止下溢）

在大詞表（如 GPT‑4 的 100k+ token）上直接計算 exp 易引發數值溢位，因此成熟推論引擎均在 log‑softmax 域操作：

log p_i = z_i/T − logsumexp(z/T)

取樣時再通過 Gumbel‑Max 技巧或 logits 層面的遮蔽操作實現 top‑p 截斷。此流程在 vLLM、TensorRT‑LLM、llama.cpp 等主流推論架構中均有高度最佳化的 CUDA kernel 實現。

技術演進史

年份	里程碑	關鍵意義
2015	Hinton 等發表《Distilling the Knowledge in a Neural Network》	首次在知識蒸餾中引入“溫度”概念，用 T 軟化教師模型輸出機率，傳遞類別間暗知識
2016–2018	Seq2Seq 時代，束搜尋為主流；溫度取樣零星應用於故事生成	學界開始意識到確定性解碼的“文本退化”問題（重複、機械）
2019	GPT‑2 釋出，OpenAI 公開 temperature 引數	溫度作為 API 引數首次進入大眾開發者視野
2020	Holtzman 等發表《The Curious Case of Neural Text Degeneration》，系統提出 nucleus sampling (top‑p)	論證純溫度或純 top‑k 均不足以保證高質量生成，T + top‑p 組合被廣泛接受
2021–2022	InstructGPT/ChatGPT 釋出，RLHF 對齊模型普及	對齊後模型輸出分佈更集中，溫度調節的使用者感知度提升，API 開始暴露更多采樣引數
2023	vLLM、TensorRT‑LLM 等推論引擎在取樣 kernel 層對 T + top‑p 做深度最佳化	取樣延遲降至微秒級，支撐萬級併發下的多樣化解碼
2024	“動態溫度”概念進入應用實驗：根據解碼步數、上下文不確定性自動調整 T	自適應解碼成為前沿方向，部分 Agent 架構內建此能力
2025（公開資料觀察）	企業級 AI 閘道器開始支援溫度權限繫結（如普通使用者 T≤1，認證企業使用者 T≤0.7）	溫度從技術引數延伸為合規與風控元件

技術路線對比

解碼策略	隨機性來源	輸出多樣性	關鍵超參	典型適用場景	額外計算開銷
貪婪解碼（Argmax）	無	極低	無	程式碼生成、數學推論、事實性問答	無
束搜尋（Beam Search）	無	低–中	beam width（常 3–8）	神經機器翻譯、摘要（需全域性最優）	較高（並行維護多個候選序列）
純溫度取樣	T 控制	中–高	T	早期實驗、極簡推論	無
Top‑k 取樣	k 限制	中	k（常 40–50）	文本補全	無
Top‑p 取樣（Nucleus）	p 動態閾值	中–高	p（常 0.9–0.95）	開放式對話、故事生成	無
T + Top‑p 聯合	T 平滑 + p 截斷	高且可控	T, p	當前 LLM 主力解碼方案	無

當前主流共識：T + top‑p 聯合在“輸出多樣性 vs 質量”的帕累托前沿上表現最優，是價效比最高的方案。束搜尋在 BLEU/ROUGE 等參考‑對照指標上仍有優勢，但用於開放式生成時輸出過於機械，使用者感知差。

關鍵引數

1. 溫度設定值與場景適配（行業經驗值，非硬性標準，2024–2025 年公開文件歸納）

溫度區間	適用場景	代表性服務/文件來源
0–0.1	數學證明、SQL 生成、程式碼補全、法律文本	OpenAI Codex 推薦；Anthropic Claude 事實性模式
0.2–0.4	事實性問答、知識庫檢索、翻譯	Google Vertex AI 推薦範圍
0.5–0.7	通用對話、客服、郵件擬寫	OpenAI ChatGPT 預設（0.7）；Cohere Command R 預設
0.8–1.0	創意寫作、頭腦風暴、廣告文案、遊戲 NPC 對白	Anthropic Claude 創意模式建議
1.1–1.5	概念發散、對抗測試、文藝實驗	各平台一般允許但不推薦高頻使用
1.5–2.0	探索性研究、安全紅隊測試	多數平台設此區間為硬上限

2. Top‑p 的典型配伍值

事實性場景：p = 0.1–0.3（保守截斷）
通用對話：p = 0.9（OpenAI 預設；Anthropic 預設 1.0，即不做 top‑p 截斷）
創意場景：p = 0.95–1.0（保留幾乎所有合理候選）

3. 輸出質量與多樣性的量化指標

Distinct‑n（n‑gram 不重複率）：反映輸出多樣性，但極高溫度下該指標雖高，文本卻可能喪失連貫性，因此需結合困惑度（Perplexity）共同評估。
MAUVE（2021）：衡量生成文本分佈與人類文本分佈的差距，對解碼策略對比有參考價值。
幻覺率：多項研究（參見 Anthropic 2023–2024 安全報告系列）表明，溫度超過 0.7 後，幻覺率呈單調遞增趨勢，增幅在 T>1.2 時加速。

4. 推論延遲

溫度引數本身不引入可測量的額外計算延遲。但在某些系統中，高溫度觸發的高隨機輸出可能被二次稽核模型攔截或延長後處理流水線，間接增加端到端延遲。

上游

1. 模型訓練與資料分佈

訓練語料的多樣性、長尾覆蓋程度、詞彙表大小（V）直接塑造模型原始 logits 的分佈形態。在包含大量重複模式和模板化文本的資料上訓練的模型，logits 天然集中，適配的可用溫度區間更窄；在開放域網際網路文本上訓練的模型，logits 更分散，對 T 的響應範圍更寬。這一差異在微調階段可被部分修正，但根植於預訓練特徵中。

2. 對齊與偏好最佳化

RLHF 和 DPO（Direct Preference Optimization，2023）等技術在訓練過程中通過偏好資料引導模型向“人類偏好的輸出模式”靠攏。一個顯著效應是，對齊後的模型輸出分佈熵更低——這意味著，對於同一組輸入，對齊模型在相同 T 下比基座模型輸出得更“確定”且更“收斂”。這對下游應用是好訊息（降低了使用者把引數調得太“散”導致體驗崩壞的風險），但也意味著想要從對齊模型中獲得高多樣性輸出，需要設定比基座模型更高的 T。

3. 推論引擎與架構層

取樣管線的數值穩定性與計算效率依賴於推論引擎。主流引擎的實現要點：

vLLM：PagedAttention 架構，取樣 kernel 支援融合式 logits 處理流水線，以 CUDA kernel 完成 T 縮放 + top‑k + top‑p 後再進行 multinomial 取樣；
TensorRT‑LLM：利用 NVIDIA GPUs 的硬體加速，在 Triton 推論伺服器中將取樣引數作為執行時輸入，支援批次請求的異構溫度設定；
llama.cpp / Ollama：面向消費級硬體和邊緣部署，在 CPU/GPU 混合環境下通過 float16/float32 精度維持取樣數值穩定性；
量化模型（INT4/INT8）場景：由於低精度量化的 logits 噪聲水平上升，部分方案在取樣前引入一個額外的校準溫度來抑制量化噪聲——這與使用者設定的推論溫度不同，但兩者在數學上疊加，需聯合調優。

4. 硬體與計算資源

溫度本身無專屬硬體需求，但其所屬的取樣管線是 GPU 推論 bound 的一個子環節。批次推論中，異構溫度請求要求 GPU kernel 支援 per‑request 的引數差異化，對 kernel 設計的靈活性提出要求。

下游

1. 應用層產品形態

Temperature 以不同互動形態穿透到各類 AI 應用中：

可直接調節：開發者平台（Playground）、開源前端（如 Chatbot UI），以滑塊或數字輸入框暴露 T/p/k 三件套；
語義簡化：面向 C 端使用者用“創造性”“精確性”“平衡模式”等感性描述替代原始數值，底層對映為一組預設 T‑p 組合；
場景鎖定：程式碼助手類產品（GitHub Copilot、Cursor）將 T 鎖定在 0–0.2，不暴露給終端使用者；醫療/法律等垂直應用同理。

2. 安全合規與內容稽核

高 T 輸出是已知的安全風險放大器。產業鏈中催生出以下環節：

API 層權限限制：企業級閘道器根據使用者認證等級設定 T 上限；
輸出內容稽核：獨立稽核模型或規則引擎對高 T 輸出加嚴掃描閾值；
可審計日誌：每次推論的取樣引數被記錄，以便回溯安全事件時判斷是否與高 T 設定相關。

3. 評測與基準

開放生成任務的自動評測強烈受解碼策略影響：同一模型在 T=0 和 T=0.9 下，同一個測試集的 BLEU、ROUGE、Distinct‑n、MAUVE 等指標會呈現截然不同的數值。目前行業尚未形成“在何種引數設定下評測才算公平”的共識，這是生成模型評測方法論的前沿議題。

受益公司與產業角色

以下基於 2024–2025 年可獲取的公開資訊（年報、產品文件、技術部落格）整理，僅為產業結構分析，不構成任何投資建議。

1. 基礎模型提供商

OpenAI（GPT‑4o/o1/o3 系列）：API 引數標準制定者之一，temperature 的文件化程度和預設配置被大量應用克隆。收益邏輯：標準制定帶來生態粘性。
Anthropic（Claude 3.5/4 系列）：在安全對齊與溫度控制上有明確方法論，強調可控性。受益於對高風險場景客戶（政府、金融）的吸引力。
Google DeepMind（Gemini 系列）：Vertex AI 中提供完整的 T/p/k 聯合配置，受益於 Google Cloud 的企業客戶基礎。
Cohere：專注於企業 RAG（檢索增強生成）場景，其 Command R 系列對溫度的調節文件細緻，服務於法律、金融等垂直領域。

2. 開源模型生態與推論基礎設施

Meta（Llama 系列）：開源模型生態中，社群自行開發溫度調節工具，Meta 受益於生態繁榮帶來的硬體與雲端服務需求溢位。
Mistral AI：開源/開放權重模型的策略使其成為微調社群的基底，第三方對溫度等引數在 Mistral 模型上的最佳實踐討論活躍。
推論引擎廠商：Fireworks AI、Together AI、Groq 等將高效的 T + top‑p 取樣管線作為賣點，通過低延遲推論吸引使用者。
硬體廠商：NVIDIA（H100/B200 Grace‑Hopper）、AMD（MI300X）受益於推論需求增長；高通、Apple等端側晶片關注 LLM 推論穩定性對溫度引數的支援。

3. 中間層與應用層

LangChain/LlamaIndex：架構層封裝了取樣引數調和邏輯，部分方案內建動態溫度策略。
企業AI閘道器：如 Cloudflare AI Gateway、Helicone，提供溫度引數審計、限幅、成本分析等增值功能。

市場規模

注意：Temperature 本身是推論超引數，並非一個可獨立統計的市場。以下從“受溫度直接影響或間接驅動的 AI 推論市場”切入，引用先公開的第三方市場資料。

1. LLM 推論市場整體規模

根據 Grand View Research 和 MarketsandMarkets 等機構對 LLM 市場規模的估算（2024 年釋出報告）：

全球大語言模型市場 2023 年估算約 60–90 億美元，預計 2030 年達到約 400–500 億美元（CAGR 約 30–35%）。
其中推論服務（API + 託管部署）佔比逐年提升，2024 年估計佔總規模的 40–50%，即約 30–50 億美元量級。

2. 溫度影響的市場切面

按 token 計費的營收敏感性：OpenAI 公開財報或營收資料未單獨揭露溫度分佈，但多家研究報告（如 The Information、SemiAnalysis 2024 分析）指出，ChatGPT 生產環境中約 85–95% 的請求採用非零溫度，社群調研估計預設值 T=0.7–1.0 附近的流量佔主導。
創意生成細分市場：內容營銷、遊戲敘事、小說輔助寫作等“創意型生成”場景天然需要較高溫度，根據 Statista 2024 年對生成式 AI 應用領域分佈的統計，創意/營銷類約佔生成式AI商業應用的 25–30%。
企業確定性推論市場：金融、法律、醫療等高風險場景中，T≈0 的確定性推論是剛需。該細分領域增長受合規驅動，預計增速高於整體市場。

3. 開源生態中的溫度相關工具

公開資料未見針對“溫度除錯工具”或“動態溫度軟體”的獨立市場規模估算。該領域目前以開源方案為主（vLLM、Ollama 等內建），商業變現集中在為其提供託管服務的雲端平台。

主要玩家對比

Temperature 相關能力（2024–2025 年公開文件資料）

玩家	API 溫度範圍	推薦預設 T	Top‑p 預設	動態溫度	權限限制	企業差異化
OpenAI	0–2	1.0 (ChatGPT) / 0.7 (API 部分端點)	1.0	未公開暴露，內測中	無使用者級限制	生態標準制定者，文件最詳盡
Anthropic	0–1	0.7 (Claude 3.5)	1.0（不截斷）	未公開	無明確限制，但安全審查更嚴	對齊與安全方法論領先
Google (Gemini)	0–1	0.7	0.95	未公開	Vertex AI 企業版可配限幅	依託 Google Cloud 生態
Cohere	0–5	0.3 (事實) / 0.7 (創意)	0.75	文件提及但未開放	企業版可配置上限	專注企業 RAG，引數文件面向開發者友好
Meta (Llama 開源)	取決於推論架構	社群常見 0.6–0.8	社群常見 0.9	社群實現	無	生態靈活度最高，但無官方設定標準
Mistral (開源)	取決於推論架構	社群常見 0.7	社群常見 0.9	社群實現	無	同等引數量下 logits 分佈觀察與 Llama 系列不同

說明：上述數值來自各平台截至 2025 年 5 月公開的 API 參考文件與官方部落格，動態溫度功能的狀態可能隨版本迭代調整，請核實最新文件。

風險

1. 輸出質量失控風險

溫度設定過高（T > 1.5）時，模型輸出可能迅速退化為不連貫的“文字噪音”。這直接導致使用者信任度下降、客服成本上升。對商業場景而言，一次糟糕的高溫輸出可能永久失去客戶。

2. 安全與對齊逸出風險

多項研究表明，在溫度超過約 1.2 後，原本被 RLHF 壓制的有害 token 被重新“啟用”的機率顯著上升。現實中的案例（2024 年部分社群揭露的越獄提示）顯示，攻擊者有意識地利用高 T 設定繞過安全護欄。這是 Anthropic、OpenAI 等公司在安全報告中反覆提及的關注點。

3. 一致性缺失風險

在企業級應用中（如批次生成數千條商品描述），若溫度設定不當，同一提示可能產出風格迥異、質量參差的輸出，造成品牌調性碎裂、後續人工稽核成本飆升。

4. 成本隱性增加風險

高溫度通常導致輸出更“囉嗦”（模型傾向於生成更長序列），在按 token 計費的 API 經濟下，這意味著直接的成本膨脹，而使用者可能未感知到對應的價值提升。

5. 評測分歧風險

不同溫度下的評測結果不可直接對比。若企業選擇模型供應商時僅看某一固定配置下的排行榜成績，可能在生產環境的實際溫度設定下得到完全不同的表現，造成選型失誤。

常見誤讀糾偏

1. “調高溫度能讓模型變聰明”

糾偏：溫度不改變模型學到的世界知識、邏輯推論能力或事實記憶。它只改變“模型在已知候選詞中優先選誰”的規則。把低機率 token 提上來，可能正好提上來的是錯誤答案。高溫度不是智商，是賭性。

2. “溫度越低輸出越準，所以全設成 0 最好”

糾偏：貪婪解碼（T=0）在某些任務中確實最優（如程式碼生成），但在需要語言多樣性的任務中會帶來嚴重的“文本退化”——輸出機械、重複、不自然。許多實際任務中，少量隨機性對於生成合乎人類習慣的文本是必需的。

3. “只要調好 temperature，top‑p 就是多餘的”

糾偏：溫度和 top‑p 不是競爭關係，是串聯管道。溫度調整整體分佈的陡峭程度，top‑p 剔除極小機率的長尾噪聲。只用溫度可能會導致長尾 token 依然在候選集中；只用 top‑p 則無法有效改變分佈的峰度。兩者組合是在實用中經過大量消融實驗驗證的最佳實踐。

4. “T=0 就是 100% 確定”

糾偏：T=0 在工程實現中通常直接執行 argmax 操作，消除了取樣隨機性。但當 logits 中存在多個並列最大值時，argmax 的返回取決於底層實現（通常返回遇到的首個最大值），這在理論上仍引入了某種“非機率的確定”——它與數學上的極限行為不同，須有明確打破平局的機制（如按 token ID 排序）。

5. “不同模型 T 引數的效果是可比的”

糾偏：由於 logits 量綱的不統一，模型 A 在 T=0.7 時的輸出多樣性可能接近模型 B 在 T=0.4 時的表現。不可盲目跨模型套用溫度引數，應以具體模型、具體場景的消融實驗為準。

追蹤指標

1. 各平台 API 預設值與推薦值的變動

關注：大版本迭代（如 GPT‑5、Claude 5、Gemini 3 等）時，預設 temperature 和 top‑p 是否變化，這是平台對“安全/質量權衡”態度的訊號。

2. RLHF 對齊程度與有效溫度區間的關聯

行業指標：對齊後模型在 T=0.7 時的多樣性（Distinct‑n）與基座模型的比值。這個比值可以反映對齊對輸出分佈的“壓縮”程度。

3. 安全事件報告中涉及的取樣引數

關注：主要 AI 安全實驗室半年/年度報告是否揭露高溫度相關安全事件的發生率及趨勢，這是評估溫度作為風險因子的關鍵視窗。

4. 推論成本中“溫度引起的長度膨脹”比例

公開資料中未見系統統計，但雲端廠商和研究機構釋出的“輸出長度‑溫度關係”分析是評估成本風險的有價值參考。

5. 動態溫度技術的商業化落地狀態

追蹤指標：是否有主流 API 或開源架構（vLLM、TensorRT‑LLM）在 Release Note 中提及原生支援動態溫度、或將其從實驗特性轉為穩定特性。

信源

Hinton, G., Vinyals, O., & Dean, J. (2015). Distilling the Knowledge in a Neural Network. NeurIPS Workshop. — 溫度概念的起源文獻。
Holtzman, A., Buys, J., Du, L., Forbes, M., & Choi, Y. (2020). The Curious Case of Neural Text Degeneration. ICLR 2020. — Nucleus sampling (top‑p) 的提出論文，系統討論了溫度與 sampling 的相互作用。
OpenAI. (2024–2025). API Reference – Text Generation. https://platform.openai.com/docs/api-reference/chat — 包含 temperature、top_p 等引數的最新文件。
Anthropic. (2024–2025). API Documentation – Messages. https://docs.anthropic.com — Claude 系列的取樣引數說明與安全白皮書。
Google Cloud. (2024–2025). Vertex AI – Gemini API Parameters. https://cloud.google.com/vertex-ai/docs — Gemini 系列的 temperature/topP/topK 文件。
Cohere. (2024–2025). API Reference – Chat / Generate. https://docs.cohere.com — Command R 系列的引數設定與最佳實踐。
Meta AI. (2023–2025). Llama 2/3/4 Model Card & Responsible Use Guide. — 開源模型官方建議，含取樣引數通用指導。
開源推論架構文件：
- vLLM: https://docs.vllm.ai — 取樣 kernel 實現與引數說明。
- llama.cpp & Ollama: 社群文件中關於temperature引數的行為說明。
- TensorRT‑LLM: NVIDIA Developer Blog, 2023–2025 系列文章。
Pillutla, K., et al. (2021). MAUVE: Measuring the Gap between Neural Text and Human Text using Divergence Frontiers. NeurIPS 2021. — 生成文本評價指標。
公開市場報告（二手資料，引用時已標註來源與年份）：
- Grand View Research. (2024). Large Language Model (LLM) Market Size, Share & Trends Analysis Report, 2024–2030.
- MarketsandMarkets. (2024). Large Language Model Market – Global Forecast to 2030.
- Statista. (2024). Generative AI Application by Industry Vertical.
X (Twitter) / Hacker News 公開討論（2025 年 Q1–Q2）— 關於 temperature 預設值變動及開發者體驗的社群討論，已在“最新事件”中標註，為定性觀察而非量化資料。
Jay Alammar. (2020). How GPT-3 Works – Visualizations and Animations. — 視覺化 logits 與溫度關係的入門資源。
arXiv 預印本（2024–2025）：多篇關於動態/自適應溫度、溫度與幻覺率關係的論文，具體編號未一一列出（可檢索關鍵詞 “adaptive temperature language model 2024”）。

一句話總結

Temperature 是生成式 AI 模型推論時唯一“不改變知識，卻深刻改變輸出行為”的核心引數——它是將冰冷的 logits 數值轉化為“人類可感知的風格與性格”的關鍵翻譯層，也是商業部署中權衡創意、安全、成本與合規的集中博弈點。