模型層 開放閱讀

Few-shot 學習

Few-shot Learning

概念 ID
few-shot-learning
更新時間
2026-05-29
來源數量
待補

Few-shot 學習

1 3 秒看懂

Few-shot 學習是一種讓機器學習模型“看幾眼就會”的技術範式。在僅提供 1 到 5 個標註樣本的前提下,模型即可對新類別做出準確判斷。打個比方:一個從未見過“穿山甲”的模型,在只看過兩三張穿山甲照片後,就能從一堆動物圖片中準確挑出穿山甲。該技術直接帶來了輕量級自適應 AI 系統的可行性,在工業缺陷檢測中快速上線新缺陷型別、醫療影像中檢測僅有個位數案例的罕見病、客服系統中動態識別新出現的使用者意圖等場景中,價值不可替代。

2 3 分鐘產業解釋

傳統深度學習的工作邏輯建立在“資料紅利”之上——訓練一個可用的人臉識別模型可能需要數百萬張標註圖片。但現實世界的絕大多數任務,都拿不出這樣的資料規模。一條新投產的晶片產線可能只積累了十幾個缺陷樣本,一家地區醫院一年接診的某種罕見病也許只有三五例,而這些場景恰恰是對 AI 需求最迫切的地方。

Few-shot 學習正是應對這一矛盾的技術方案。它的核心思路不是“從零學習”,而是“學會如何學習”(learning to learn)。在正式面對只有零星樣本的目標任務之前,模型已經在成千上萬個結構相似的小資料任務中反覆訓練,積累了一套可遷移的“元知識”。當真正面對一個僅提供 3 張圖片的新類別時,這套元知識能讓模型快速完成適配——或是將這三張圖片對映到一個恰當的向量空間並通過距離判斷類別,或是讓模型找到一個只需幾步梯度下降就能收斂的初始引數點。

從產業部署的角度看,這項技術直接改寫了 AI 落地的成本方程。企業不再需要為每一個細分的 SKU、每種新型的缺陷、每個新出現的意圖類別單獨採集和標註上千條資料。技術路線可大致分為兩大流派:度量學習(讓模型學會用向量距離度量樣本相似性)和元學習(讓最佳化器學會從極少量樣本中快速更新網路引數)。2023 年以來,以 GPT-4、Gemini 為代表的大型模型展現出“上下文學習”(In-Context Learning)能力——只需在提示詞中給出幾個示例,凍結引數的模型即可完成同類任務,這被認為是大型模型路線下的 few-shot 實現。

不過,需要清醒認識到,當前 few-shot 學習在大規模工業化部署中仍面臨核心挑戰:當訓練任務分佈與最終部署場景存在差異時,模型效能可能出現斷崖式下跌;K 值(每類樣本數)極低時,類內方差估計困難,導致分類邊界不穩定。

3 技術原理

Few-shot 學習在嚴格定義下是一個標準化的任務範式。給定一個支援集(Support Set,包含少量標註樣本,每類 K 個,共 N 類)和一個查詢集(Query Set,待預測的樣本),要求模型僅藉助支援集資訊,給出查詢集中每個樣本的正確類別標籤。任務難度通常以“N-way K-shot”刻畫——在 N 個全新類別中,每個類別僅提供 K 個標註樣本用於學習。

Few-shot 學習的技術本質,是將傳統分類問題中的“從特徵到類別的直接對映”,轉化為更為根本的能力——對“相似性”或“可遷移性”的建模。以下為三大技術方向的機制拆解。

3.1 度量學習:在向量空間中刻畫相似

度量學習(Metric Learning)的思路簡潔而深刻:不直接讓模型輸出類別標籤,而是學習一個嵌入函式 fθ,將所有輸入樣本對映到一個低維向量空間。該空間被訓練成一個“語義對齊”的座標系——同類樣本的向量距離儘量接近,異類樣本儘量遠離。

當面對一個全新的 few-shot 任務時,支援集中的 K 個樣本經 fθ 對映後形成該類別的“錨點”,查詢樣本經同樣的對映後,按最近鄰原則歸類。主流變體包括:

  • 孿生網路(Siamese Networks):雙分支結構共享權重,輸入兩張圖片,輸出一個 [0,1] 之間的相似度分數。訓練時使用對比損失(Contrastive Loss),讓同類配對的相似度趨近 1,異類趨近 0。其侷限在於每次只能處理一對樣本,無法顯式利用整個支援集的全域性結構。

  • 匹配網路(Matching Networks):引入注意力機制來解決“集合級別”的推論。它將支援集的所有樣本嵌入作為記憶,查詢樣本通過注意力權重對支援集嵌入做加權求和,得到該查詢屬於各類別的機率分佈。訓練過程即模擬 N-way K-shot 的元測試設定,使模型天然適配 few-shot 場景。

  • 原型網路(Prototypical Networks):該方法的簡潔性使其成為度量學習路線的長期基線。它為每個類別計算一個“原型向量”——該類所有支援樣本嵌入的算術均值。查詢樣本到各類原型向量的歐氏距離經 softmax 歸一化後,直接產生類別機率分佈。其隱含的幾何假設是:嵌入空間中每個類別圍繞單一的中心呈球形分佈,這一假設在 K 值稍大時通常成立,在 1-shot 場景下則退化為最近鄰。

  • 關係網路(Relation Networks):上述方法都使用固定的距離函式(歐氏距離或餘弦相似度)來做最後判斷。關係網路的創新在於,用一個可學習的淺層神經網路(稱為關係模組)來替代固定距離函式。將支援樣本嵌入與查詢樣本嵌入按通道拼接後,送入關係模組直接輸出關係得分。這使“如何比較”本身也成為學習物件,在處理細粒度差異時往往優於固定距離函式。

3.2 元學習:學習一個“易於微調”的初始點

度量學習將分類能力前置到了嵌入空間的質量上,模型本體並不更新引數。元學習(Meta-Learning)則走另一條路:讓模型在面對小樣本任務時,確實執行引數更新——只不過這個更新過程被設計得極其高效。

核心目標可以這樣理解:在大量歷史任務上訓練一個引數初始化點 θ,使得對任意一個從相似分佈中取樣的新任務,僅需在該任務的少量樣本上執行一兩步梯度下降,就能使損失降至極低水平。換句話說,元學習學的是“如何快速學習”,產出的是一個“隨時準備適應”的網路初始狀態。

  • MAML(Model-Agnostic Meta-Learning):不改變模型結構,僅改造訓練策略。元訓練由兩層迴圈構成:內迴圈中,對於每個任務 Ti,在支援集上計算損失,沿梯度方向做一步更新得到任務特定引數 θi’;外迴圈中,用查詢集在 θi’ 上計算損失,對初始引數 θ 求導來最佳化 θ。這使得 θ 被推向一個“對任務分佈敏感且極易微調”的位置。

  • Reptile:作為 MAML 的簡化版,直接用 (θi’ - θ) 作為 θ 的更新方向,免去了二階導數的計算,顯著降低開銷。其在多工增量式訓練場景中同樣有效。

  • Meta-SGD 等變體:不僅學習初始引數 θ,還同時學習每個引數的獨立學習率,進一步提升了在異構任務分佈下的自適應能力。

3.3 大型模型時代的 Few-shot 學習:上下文即支援集

2023 年以來,基礎大型模型重構了 few-shot 學習的實現路徑。“上下文學習”(In-Context Learning,ICL)已成為大型模型路線的代名詞:在提示詞(prompt)中直接給出數條“問題-答案”示例作為支援集,然後追加一個待解問題,模型凍結全部引數,僅通過 Transformer 的自注意力機制隱式完成類比推論並給出答案。GPT-4、Claude、Gemini 等閉源模型以及 LLaMA 等開源模型均展現出 ICL 能力,其在通用場景的 few-shot 表現已超過許多經過精心調校的小模型。

配套的輕量化方案包括介面卡(Adapters)和字首微調(Prefix Tuning),以及 2023 年迅速成為主流引數高效微調手段的 LoRA(Low-Rank Adaptation)。這類方法僅在原模型的特定位置插入極少量可訓練引數,既保留了預訓練知識全量,又實現了針對特定任務 few-shot 樣本的快速適應。

3.4 關鍵技術挑戰

  • 監督訊號稀疏:當 K=1 或 K=2 時,支援集無法提供有效的類內方差資訊,分類邊界高度不確定。
  • 領域偏移(Domain Shift):元訓練階段的任務分佈與最終部署任務之間存在差異時,效能可能出現斷崖式下跌。比如在自然影像上訓練的 few-shot 模型,遷移到醫學影像或遙感影像時精度大幅下降。
  • 記憶與泛化的博弈:當元訓練任務數量有限或相互間差異較小時,元學習器可能退化為“記住訓練任務”而非“學會泛化”,在全新任務上表現平平。

4 關鍵引數

評估 few-shot 學習系統的效能,需要從精度、速度、泛化、效率四個維度建立指標體系。以下為工業與學術評測中通用的關鍵引數:

  • N-way K-shot 準確率:最核心的效能指標。在測試時構造 N 個全新類別、每類 K 個標註樣本的任務,統計模型查詢樣本的分類正確率。常用的配置包括 5-way 1-shot 和 5-way 5-shot。基準資料集 miniImageNet 上,原型網路採用 Conv-4 骨幹時 5-way 5-shot 準確率約 68%(來源:Snell et al. 2017 原始論文及 Paperwithcode 社群統計;數值隨骨幹網路與資料增強策略浮動,2023 年部分方法可超 80%)。前沿大型模型在該基準上無統一公開資料,因其多采用上下文學習評估範式而非標準化 episode 測試。

  • 跨域遷移準確率衰減(Domain Gap):模型在源域(如通用物體圖片)訓練後,直接遷移至目標域(如細粒度鳥類識別 CUB、醫學病灶圖片)時的精度損失。衰減幅度越小,說明模型的泛化能力越強。當前技術在這一指標的魯棒性普遍不足。

  • 適應步數/時間:在元測試或微調場景中,從接收支援集到完成可部署分類器所需的梯度更新步數與實際耗時。邊緣裝置對該引數高度敏感。

  • 元測試 FLOPs/延遲:單次查詢樣本預測所需的計算量與延遲。度量學習路線通常只需一次前向加一次距離計算,延遲極低;元學習路線需額外幾步梯度計算;大型模型 ICL 路線則伴隨高延遲與高算力消耗。

  • 資料效率曲線:固定類別數 N 時,準確率隨 K 值增長的變化曲線。理想的系統應在 K=1 時即有可用精度,K=5 時接近飽和。該曲線形狀直接決定不同場景下的最低樣本需求。

  • 元訓練任務規模與多樣性:訓練階段使用的 N-way K-shot 任務總數及其來源分佈。任務的多樣性是元學習泛化能力的根基。

5 技術路線

從技術架構與部署形態的差異出發,當前 few-shot 學習可劃分為四條主要路線,各有明確的適用邊界與取捨。

5.1 度量學習(固定嵌入 + 最近鄰)

運作方式:預訓練一個強大的嵌入模型後,該模型引數在元測試階段凍結。支援集樣本與查詢樣本均經同一嵌入模型對映至特徵空間,通過計算查詢樣本與各類別原型或支援樣本之間的距離完成分類。

優勢:部署極輕量,邊緣裝置友好;支援集可隨時動態增刪,無需重新訓練;推論延遲低,適用於即時應用。

侷限性:對嵌入質量有重度依賴;當目標域與預訓練域存在分佈偏移時,固定嵌入難以自適應調整;在需要精細特徵比對的專業場景(如高度相似的不同缺陷型別)中,單一距離函式可能區分力不足。

典型代表:原型網路、匹配網路。工業部署中,度量學習路線常用於“不需要線上更新模型”的標準化場景。

5.2 元學習(內迴圈微調)

運作方式:在元訓練階段最佳化初始引數,確保模型在新任務上以極少梯度步達到高精度。元測試時,模型在支援集上執行內迴圈更新(通常 1-5 步)後用於查詢集預測。

優勢:可自適應調整網路引數,理論上比固定嵌入路線更能適應複雜或偏移的任務分佈。

侷限性:元訓練過程本身不穩定,容易出現任務級過擬合;部署時需保留梯度計算圖,對邊緣裝置不友好;儲存與計算要求高於度量學習。

典型代表:MAML、Reptile、Meta-SGD。工業界對該路線的採納相對謹慎,主要停留在對自適應要求極高的研發專案中。

5.3 大型模型上下文學習(ICL)

運作方式:利用 GPT-4、Gemini、Claude 等基礎大型模型的湧現能力,在提示詞中加入少量標註示例,模型在凍結所有引數的狀態下完成新樣本推論。

優勢:零訓練成本,開發者在數分鐘內即可驗證想法;通用性極強,跨任務、跨領域能力遠超專用模型;無需維護模型訓練流水線。

侷限性:推論成本高,每次請求均需在提示詞中攜帶所有示例,Token 消耗線性增長;延遲受網路與大型模型服務影響,難以嵌入低延遲鏈路;資料隱私存在風險,示例資料需傳送至雲端端 API;效能對示例排列順序、提示詞措辭敏感。

典型代表:GPT-4 few-shot prompting、Gemini multimodal few-shot。

5.4 引數高效微調(PEFT)

運作方式:以預訓練大型模型為基礎,通過插入少量可學習引數(如 LoRA 低秩矩陣、Adapter 層),在目標任務的 few-shot 支援集上完成極低成本微調。

優勢:兼顧了預訓練知識的完整保留與目標任務的快速適配;微調引數量通常不到原模型千分之一,儲存高效,可在同一基座模型上為不同任務維護獨立的輕量介面卡;相比全引數微調,過擬合風險明顯降低。

侷限性:仍需一定數量的高質量標註樣本(即使僅數十個);介面卡結構設計與超引數選擇對最終效果影響顯著;部分實現需要訪問模型內部結構,不適用於閉源黑盒 API 模型。

典型代表:LoRA(2023 年後已在開源社群廣泛應用)、IA³、Prefix-Tuning。

路線模型更新需求測試時計算開銷邊緣部署跨域泛化典型適用場景
度量學習無(嵌入凍結)低(僅前向+距離)優良受限(依賴嵌入質量)邊緣裝置長尾分類、即時質檢
元學習(MAML 類)少量步梯度更新中等困難(需梯度圖)中等高度自適應的科研與特種任務
上下文學習(大型模型)極高不可行當前最佳概念驗證、對話系統新意圖發現
PEFT(LoRA 等)極小引數集更新中高(取決於基座模型)中低較強行業大型模型在私有資料上的快速適配

(來源:綜合公開 benchmark 與行業實踐經驗,定量計算開銷為定性比較,未引用單一第三方測評報告。)

6 上游

Few-shot 學習的上游環節,由為其提供“預訓練能力”和“元訓練素材”的基礎設施構成。

大規模預訓練模型構成最為關鍵的上游供給。視覺側,自監督模型如 Meta 的 DINOv2、FAIR 的 MAE(Masked Autoencoder),以及多模態模型如 OpenAI 的 CLIP,被廣泛用作 few-shot 的嵌入骨幹,其表徵質量直接決定了度量學習路線的天花板(來源:各模型官方論文及開源倉庫說明,2023)。語言側,LLaMA(Meta)、Qwen(阿里通義千問)、Mistral(Mistral AI)等開源模型,以及 GPT-4、Claude 等閉源商業模型,為上下文學習與 PEFT 路線提供基座能力,訓練成本通常以數千萬至數億美元計。

元訓練任務資料與標註平台是另一重要上游。不同於傳統標註僅需提供類別標籤,few-shot 元訓練資料的構造需遵循 N-way K-shot 的任務結構化設計。這意味著標註平台需具備對大規模基礎類別按層級取樣、模擬小樣本 episode 的能力。Scale AI、Labelbox 等海外平台,以及國內海天瑞聲(截至 2024 年半年報,智慧語音與視覺資料業務營收約 0.96 億元人民幣,但未單獨揭露 few-shot 相關佔比)、百度眾測等均將“智慧標註工作流”作為核心賣點,部分平台已內建主動學習與少樣本標註輔助功能。

算力基礎設施的需求格局呈現分化。度量學習路線在嵌入模型預訓練階段需要大規模 GPU 叢集,但在元測試與部署階段幾乎不再消耗 GPU;大型模型 ICL 路線的推論算力成本完全轉嫁給雲端服務商,使用者端按 Token 付費;PEFT 路線的微調階段算力需求較小,單卡即可完成多數任務。綜合來看,輝達 GPU(含消費級與資料中心級)是當前訓練環節的主流選擇,邊緣裝置端的高通、瑞芯微等晶片廠商正嘗試將輕量級 few-shot 推論 IP 整合進 SoC,公開資料未見相關出貨量資料。

7 下游

Few-shot 學習的價值並非以獨立產品形態體現,而是滲透進各垂直行業作為“資料稀缺場景的引擎”。以下為典型下游需求場景的逐一拆解。

工業視覺質檢:電子製造、半導體封裝、新能源產線中,新產品上線初期缺陷樣本極少(有時僅個位數),但要求檢測系統快速上線。阿丘科技(2022 年獲 C 輪融資,金額未揭露,來源:企查查工商記錄)在其工業視覺平台中內建 few-shot 缺陷學習模組;創新奇智(港股 02121.HK,2024 年上半年營收約 6.5 億元人民幣,來源:公司中期業績公告)在面板與汽車裝備領域推進小樣本質檢方案,但兩家公司均未單獨揭露 few-shot 功能帶來的營收或市佔率貢獻,公開資料未見具體數字。

醫療影像:罕見病(如某些遺傳性骨骼發育異常、特殊型別的間質性肺病)單個醫療機構年累計病例可能不足十例。推想醫療、數坤科技等 AI 影像企業在其肺部、心腦血管等主要產品線中,利用 few-shot 或遷移學習技術幫助模型適應新入駐醫院的裝置特徵與人群分佈,解決“換院即掉點”的工程難題。相關公司未上市或未在財報中單獨揭露 few-shot 模組效能資料。

零售與物流長尾識別:綜合電商 SKU 數以億計,大量長尾商品(如某特定型號的螺絲、冷門品牌調味品)無法為每個品類採集充足訓練資料。阿里雲端 PAI 平台在影像識別模組中提供“少量樣本訓練”能力(來源:阿里雲端官網 PAI 產品文件,2024),美團、京東等企業在無人配送的罕見障礙物感知中亦存在 few-shot 需求,但未見相關公司單獨揭露該模組的商業指標。

客服與對話系統:新業務上線時會湧現一批訓練資料中從未出現過的新意圖類別。傳統做法需要積累數百條使用者語料再訓練分類器,而 few-shot 方法可以讓運營人員在對話歷史中標註數條示例後即時生效。百度 UNIT 平台、阿里雲端智慧客服均聲稱支援基於小樣本的意圖識別,但技術細節與準確率資料未見於公開揭露。

自動駕駛長尾感知:極端天氣下的異形障礙物、散落貨物、罕見動物穿行等場景,標註資料天然稀缺,卻是安全關鍵場景。毫末智行等自動駕駛企業在其感知演算法架構中引入 few-shot 與開集識別(Open-set Recognition)機制(來源:毫末智行 AI Day 公開技術分享,2023),但相關 module 的單獨效能指標未公開揭露。

金融與法律文件:新型別合同的條款抽取、新型金融產品的資訊揭露要素識別等,同樣面臨樣本稀少的難題。達觀資料等文本智慧處理企業已研發小樣本資訊抽取技術(來源:達觀資料技術部落格,2023),但在其商業化產品中,few-shot 通常與規則引擎、主動學習聯合使用,難以獨立評估貢獻。

8 受益公司

Few-shot 學習並非一個獨立可售賣的產品類別,直接受益者的邏輯體現為“將資料效率作為核心競爭壁壘的產業鏈角色”,可分為以下型別。

第一類:基礎模型廠商。將 few-shot 能力內化為模型智慧的一部分,構成對客戶的核心賣點。OpenAI 的 GPT-4 系列在公開 benchmark 與使用者體驗中均展現出多模態上下文學習能力,微軟 Azure OpenAI 服務通過 API 方式向客戶提供這一能力(來源:Azure 官方文件,2024),但 OpenAI 作為非上市公司,未經審計的營收資料多來自媒體報道,2024 年 12 月有報道推測其年化營收約 37 億美元,該數字未獲公司官方確認(來源:The Information,2024 年 12 月)。Google 通過 Gemini 模型及 Vertex AI 平台的 AutoML 能力覆蓋 few-shot 需求,Meta 持續以開源路徑貢獻 DINOv2、SAM(Segment Anything Model)等降低 few-shot 門檻的預訓練模型。

第二類:AutoML 與 MLOps 平台。將 few-shot 訓練封裝為“低程式碼/零程式碼”功能,直接面向企業資料團隊銷售。DataRobot、H2O.ai 等海外平台已在其產品矩陣中包含資料效率最佳化工具,阿里雲端 PAI、華為雲端 ModelArts 在國內對標的自動化建模模組中同樣包含小樣本訓練能力。由於這些平台將 few-shot 作為眾多功能之一,且主要營收仍來自標準模型訓練與推論服務(公開資料未見 few-shot 功能的獨立營收貢獻),較難進行精確市場拆分。

第三類:垂直行業方案商。前文已述的工業視覺(阿丘科技、創新奇智)、醫療 AI 企業在各自細分賽道將 few-shot 作為交付效率的差異化亮點。以創新奇智為例,其 2024 年上半年 “AI+製造” 業務營收約 5.1 億元人民幣(來源:公司 2024 年中期業績公告),但並未拆分其中有多少比例的模型交付使用了 few-shot 技術,具體貢獻不可得。

第四類:資料標註與合成數據公司。Few-shot 學習的負面經濟影響——降低對海量標註的需求——可能對傳統資料標註公司構成長期結構性壓力。短期內,主動學習、智慧預標註等功能反而提升了標註平台的產品價值,海天瑞聲、Scale AI 等公司正將智慧標註作為重要迭代方向;合成數據公司(如國內光輪智慧)則將 few-shot 作為生成式資料增強的理論支點。各類公司均未在公開財務資料中量化 few-shot 對其業務的正向或負向影響。

9 市場規模

Few-shot 學習作為一項底層使能技術,嵌入在更廣義的 AutoML、資料標註工具、以及預訓練模型服務等市場中,不存在獨立統計的細分市場口徑。目前可獲取的市場數字均通過關聯市場滲透率或技術替代效應進行估算,需特別註明統計口徑和推斷假設。

直接關聯市場一:AI 資料標註工具與智慧標註市場。 Grand View Research 於 2024 年 2 月釋出的報告估計,2023 年全球資料標註工具與解決方案市場約為 17 億美元,預計 2024-2030 年的複合年增長率約 25%,至 2030 年可能接近 70 億美元。其中,智慧預標註、主動學習、以及嵌入其中的 few-shot 輔助標註功能被視為市場增長的主要技術驅動力之一,但該報告並未給出這些功能當前的滲透率估算。部分國內券商研究報告曾引用“少樣本智慧標註滲透率約 15%”的非正式判斷,公開資料未見經審計或出自第三方機構的嚴謹測算,此處不採納為確定性數字。

直接關聯市場二:雲端端 AutoML 平台市場。 MarketsandMarkets 於 2023 年釋出的報告估算,全球自動化機器學習(AutoML)市場在 2022 年約 7 億美元,預計 2027 年接近 28 億美元,對應年複合增長率約 32%。Few-shot 學習技術中的度量學習與元學習模組,正是 AutoML 平台在文本分類、影像識別等模組中實現“極低樣本量建模”的核心技術元件。各雲端廠商財報未單獨揭露 AutoML 板塊營收,無法交叉驗證具體規模。

間接關聯視角:標註成本節約帶來的價值釋放。 另一種推算思路來自技術替代效應:假設 2024 年全球資料標註總支出為 X 億美元,few-shot 技術使其中 Y% 的長尾場景無需全量標註,由此釋放的價值可視為 few-shot 的間接市場體現。但這一思路缺乏 Y 值的可驗證來源,且長尾場景標註支出本身亦無權威統計,暫無法構成可靠數字。

小結:Few-shot 學習本身無獨立統計市場,與其相關的使能市場總量在 2023-2024 年處於數十億美元級別,且保持高增速預期。在缺乏第三方機構針對“few-shot 學習市場規模”的專項研究報告前,產業規模的定量判斷需保留較大不確定性區間。

10 玩家對比

本著從技術成熟度與產業落地深度兩個維度出發,選取三類代表性玩家進行橫向對比。

學術界 / 開源社群:Meta AI(FAIR)在這一領域的影響力位居第一梯隊。其開源的 DINOv2(2023)和 SAM(Segment Anything Model,2023)實質上重構了視覺 few-shot 學習的起點——在很多細粒度分類與分割任務上,直接使用 DINOv2 提取特徵並用最近鄰分類,即可超越此前需要精心訓練的元學習方法(來源:Meta AI 官方部落格及 DINOv2 論文中的少樣本評估實驗)。Meta 同樣在開源大型模型領域提供 LLaMA 系列,支援社群通過 LoRA 等 PEFT 手段完成 few-shot 微調。DeepMind、斯坦福、牛津等機構的實驗室持續產出 benchmark 與方法論創新,但在工業落地層面並非直接參與者。

雲端廠商 / AI 平台:Google Cloud 的 Vertex AI 提供從預訓練模型到 AutoML 的完整鏈路,在影像分類 tab 中明確支援少量樣本訓練。微軟 Azure 藉助與 OpenAI 的深度繫結,主推基於 GPT-4 的上下文學習路線,並配合 Azure Cognitive Services 的自定義視覺服務覆蓋度量學習路線。阿里雲端 PAI 在國內市場的功能完整度與文件中文化水平領先,支援影像分類、文本分類的小樣本訓練。華為雲端 ModelArts 在工業視覺領域有一定方案積累,但整體功能豐富度與阿里雲端存在差距。雲端廠商的共性是:few-shot 能力不單獨收費,作為平台功能的一部分計入訓練與推論消耗的算力費用中,缺乏獨立的效果基準揭露。

垂直方案商:在工業視覺與醫療影像等強場景,few-shot 技術從“論文指標”變為了“交付效率”的重要環節。阿丘科技在 3C 電子與半導體封測領域積累的 few-shot 缺陷學習專案經驗在同賽道中居於前列。創新奇智則以其“MMOC 人工智慧平台”為載體,結合製造業專案交付積累的跨產線小樣本適配經驗,在面板與汽車裝備兩個垂直賽道形成方案黏性。此類方案商的競爭優勢通常不來自 few-shot 演算法的單點領先,而在於將演算法與光學方案、產線資料閉環、行業 know-how 深度繫結的系統化交付能力。

綜合判斷:在單一 few-shot 演算法的 SOTA 追逐上,開源社群與頂會論文仍是核心創新來源;在技術工程化落地層面,雲端廠商以低成本覆蓋“夠用”級需求,垂直方案商用深度定製服務頭部客戶;兩類角色形成錯位競爭。

11 風險

Few-shot 學習在產業推進過程中面臨技術、商業、與實際預期三個層面的風險。

技術風險:跨域泛化能力至今缺乏方法論級別的保障。模型在源域(如 ImageNet 自然圖片)的 5-way 1-shot 準確率,遷移至目標域(如工業缺陷、醫學切片)常出現 20-30 個百分點的絕對衰減(來源:Meta-Dataset 基準論文及相關第三方復現結果)。這意味著對於一個部署在上線產線的系統,無法僅憑學術 benchmark 的指標推測其在真實任務上的表現,每個新場景都需獨立驗證,存在較高的技術交付風險。此外,K 值極低場景下分類邊界的隨機性無法通過演算法完全消除,這在安全關鍵應用中構成根本性的不確定性。

商業化風險:Few-shot 學習的商業化面臨一個結構性難題——它本身是一個“降本”技術而非“增收”技術,價值體現為少採資料、少標資料,而不是直接提升核心業務指標。這使得采購決策容易被歸入“成本最佳化”線,面臨更緊縮的預算環境。同時,大型模型 ICL 路線以幾乎零整合成本的姿態,對專用 few-shot 工具鏈構成了替代威脅:當用戶可以直接在 ChatGPT 或 API 中通過幾條示例完成任務時,何種場景還需要購置獨立的 few-shot 訓練平台?這一問題的答案比大多數從業者想像的要更狹窄。

預期風險:媒體和部分技術營銷中常見“只需 5 張圖就能達到與全量資料相同效果”的過度承諾。現實中的 few-shot 系統最優實踐更接近“用大規模預訓練 + few-shot 微調達到可用精度”,而非“以 few-shot 完全替代全量訓練”。在大多數嚴肅的工業應用中,few-shot 被作為冷啟動手段與持續學習系統中的一環,效能上限仍由後續積累的真實資料決定。糾正這一預期的失敗,可能導致專案立項時的高估與結項時的失望。

12 誤讀糾偏

誤讀一:“Few-shot 學習就是從零開始,僅憑幾張圖直接端到端學習。”
事實是,當前幾乎所有高精度的 few-shot 方法都依賴一個在數以百萬計樣本上預訓練過的強大特徵提取器。從不使用任何預訓練的隨機初始化網路出發做 one-shot 學習,成功率極低,僅存在於受控的簡單字元集(如 Omniglot)上。工業實用的 few-shot 公式可以總結為:大規模預訓練 提供表徵能力 + few-shot 機制 提供任務自適應能力。忽略預訓練的奠基性貢獻,是高估 few-shot 演算法本身獨立能力的最常見偏差。

誤讀二:“有了 Few-shot 學習,就不再需要大數據和全量標註了。”
Few-shot 學習的核心價值區間在於“不可能或極難採集足夠資料”的場景——罕見病診斷、新型缺陷、冷啟動意圖、長尾物體。在資料獲取本身成本可忽略的場景(如網際網路公開圖片分類、常見語音指令識別),充足標註仍然是提升精度最可靠、最直接的方式。在專業應用中,few-shot 更多扮演冷啟動和長尾補丁的角色,而非全量資料的替代品。

誤讀三:“原型網路的類別原型必須是固定不變的均值向量。”
在實際的進階實現中,原型可以結合未標註資料集通過半監督方式迭代修正,也可以使用生成模型為一個類別生成多個子原型,還可以用各類樣本分佈的方差資訊來加權度量距離。類別表徵遠不限於單一的均值向量,將原型網路理解為“只能求平均”是對該系列方法潛力的低估。

誤讀四:“大型模型的上下文學習已經全面取代了傳統 few-shot 方法。”
上下文學習展現了極其驚豔的通用性,但其高延遲、高推論成本、資料隱私風險、以及對提示詞格式的高度敏感,使得在工業界長時間執行、高吞吐、低延遲的標準化任務中,度量學習與 PEFT 路線仍為主流選擇。兩者目前處於分層互補而非替代關係:用大型模型 ICL 快速驗證概念,確定有價值後再轉化為輕量化的專用 few-shot 部署方案。公有資料顯示,部分頭部自動駕駛與工業視覺企業仍在使用嵌入+原型網路的基礎架構(來源:各公司技術招聘 JD 中的技能要求,非正式技術文件,謹慎參考)。

13 最新事件

本節梳理與 few-shot 學習產業落地密切相關的近期事件,時間跨度為 2023 下半年至 2025 年 6 月。

  • 2023 年 7 月,Meta 釋出 Llama 2 開源大型模型系列,社群快速產生大量基於 Llama 2 的 LoRA few-shot 微調方案。這一事件標誌著開源大型模型在 few-shot 場景的工程可及性達到新高度。
  • 2023 年 8 月,OpenAI 上線 GPT-4 的多模態版本 GPT-4V(Vision),使用者可在對話方塊中上傳圖片並結合文字指令建置 few-shot 示例,實現零程式碼的視覺上下文分類。該功能隨後成為多個垂直行業 POC 驗證的首選工具。
  • 2023 年 10 月,阿里雲端棲大會上,PAI 平台在“靈積”模型服務板塊釋出面向文生圖、影像分類的小樣本微調功能,並展示在長尾電商商品分類中的實測效果,但未公佈獨立的準確率基準。
  • 2024 年第一季度,Google 釋出 Gemini 1.5 Pro,憑藉百萬 Token 上下文視窗將 ICL 的示例容納量推至新量級,理論上可在單次提示中嵌入成百上千個 few-shot 示例,直接挑戰了“few-shot 必須精簡示例”的傳統假設。
  • 2024 年 3 月,Anthropic 釋出 Claude 3 系列,在官方 benchmark 中與 GPT-4 展開對標,兩者在 MMLU 等標準評測的 few-shot 設定下比分交替,大型模型 few-shot 能力進入兩個頭部玩家的持續軍備競賽期。
  • 2024 年 4 月,國內自動駕駛企業毫末智行在技術日上揭露,其環境感知模型已在部分罕見障礙物類別上採用 based on few-shot 的自適應機制(來源:官方微信公眾號公開技術文章),具體效能提升資料未予揭露。
  • 2024 年 5 月,Statista 與 Grand View Research 等機構更新 AI 資料標註市場報告,均將“自動化標註與少樣本學習技術滲透”列為未來五年關鍵增長因子,但未提供定量滲透預測。
  • 2024 年 8 月,Meta 釋出 SAM 2,將影片分割能力納入可以點選式 few-shot 互動的架構中(來源:Meta AI 官方部落格),進一步模糊了“標註工具”與“few-shot 學習模型”的邊界。

14 追蹤指標

若需持續追蹤 few-shot 學習技術與產業的進展,建議關注以下高頻更新、可交叉驗證的指標與資訊源。

技術進步指標

  • Paperwithcode 的 meta-learningfew-shot image classification 排行榜。關注的子任務應包括 miniImageNet、tieredImageNet、CUB-200-2011 及 Meta-Dataset 的跨域 few-shot 設定。注意區分方法是否使用了額外的預訓練資料,避免不公平對比。
  • NeurIPS、ICML、ICLR、CVPR 每年接收論文中 few-shot / meta-learning / in-context learning 相關關鍵詞的出現頻次及 oral 論文比例,用於感知學術注意力遷移趨勢。

產業滲透指標

  • 主流雲端廠商(AWS、Azure、阿里雲端、華為雲端)的 AutoML 產品文件更新頻次與功能矩陣變動,特別是“最小訓練樣本數”的宣傳口徑,側面反映工程技術邊界。
  • 頭部行業方案商(如前文列舉的工業視覺、醫療 AI 公司)的 演算法崗位招聘 JD 中,“few-shot”、“小樣本”、“元學習”等關鍵詞的出現頻率變化(來源:Boss 直聘、獵聘等公開渠道,2024-2025 持續),反映企業現實的工程投入方向。
  • 資料標註上市公司財報電話會中對“智慧標註”“自動化比例”的表述,以及其毛利率變動的中長期趨勢,判斷技術替代的真實發生節奏。

商業化訊號

  • 垂直賽道的代表性初創融資事件,尤其是標榜“資料效率”或“少樣本”的核心賣點是否獲得資本溢價估值;
  • 終端智慧晶片(如高通驍龍、瑞芯微等)的技術規格書中是否開始出現“小樣本自適應推論引擎”相關的 IP 授權描述。

政策與標準維度

  • 工信部或地方經信委釋出的智慧製造、AI 應用推廣指南中,是否將“少樣本學習”“資料高效利用”列入技術裝備推薦目錄。

15 信源

本文所引用的市場資料、財務資料與產業動態均基於公開可查資訊,在正文相應位置已標註來源與統計口徑。核心信源型別歸納如下:

  • 學術論文與基準:Matching Networks(Vinyals et al., 2016)、Prototypical Networks(Snell et al., 2017)、MAML(Finn et al., 2017)、A Closer Look at Few-shot Classification(Chen et al., 2019)、DINOv2 技術報告(Oquab et al., 2023)、SAM 論文(Kirillov et al., 2023)。Benchmark 指標參考 Paperwithcode 社群統計。
  • 市場研究報告:Grand View Research《Data Annotation Tools Market Report》(2024 年 2 月更新)、MarketsandMarkets《Automated Machine Learning Market Report》(2023)。
  • 公司公告與官方產品文件:創新奇智 2024 年中期業績公告(港交所揭露易);海天瑞聲 2024 年半年度報告(上交所公告);阿里雲端 PAI 產品文件(help.aliyun.com);華為雲端 ModelArts 產品文件;Azure OpenAI Service 官方文件。
  • 技術部落格與公開分享:Meta AI 部落格(DINOv2、SAM、SAM 2 相關釋出);毫末智行 AI Day 公開演講資料;OpenAI 官方釋出 GPT-4V 的 blog 文章(2023 年 9 月);Anthropic 釋出 Claude 3 的官方說明(2024 年 3 月)。
  • 行業報道:The Information 關於 OpenAI 營收推測的報道(2024 年 12 月);CB Insights《AI 100》系列中涉及資料效率公司的描述(歷史年度報告,定性參考);各公司招聘網站(Boss 直聘、獵聘、LinkedIn)公開崗位描述。

數字使用宣告:所有財務數字均標註公司來源與時間視窗;市場估算類數字均標註研究機構與報告年份;學術 benchmark 數字為依據公開可復現論文及社群統計的趨勢性描述,非單次實驗的精確數字;在無法確認來源的場合,已使用“公開資料未見”“未單獨揭露”等表述明確資訊缺口。本文不構成任何形式的財務預測或投資建議。

source: 公開揭露與公開資料整理 本頁僅用於產業鏈學習、資訊檢索和研究輔助;不構成投資建議,不預測漲跌,不提供買賣、部位或目標價建議。
完整概念頁 複盤 13 節結構 公司投研頁 沿產業鏈找到受益公司 投資課 把概念轉成可跟蹤模型