帶外管理
3 秒看懂
帶外管理 (Out-of-band Management) 是獨立於伺服器主作業系統執行的“第二條管理通道”——即便主系統藍色畫面、斷電或網路中斷,管理員依然可以通過這條通道遠端開機、重啟、修復韌體或監控硬體健康,保障萬卡級 AI 叢集 7×24 小時線上。
3 分鐘產業解釋
假設一個部署了數萬臺 GPU 伺服器的智算中心。某節點主作業系統掛死後,常規的遠端桌面、SSH 等帶內管理手段隨之失效。如果沒有帶外管理,運維就必須派人鑽進嘈雜、高溫的機房,逐一尋找故障機並手動拔插電源——在分秒千金的萬億引數大型模型訓練中,這種中斷可能瞬間蒸發數十小時的算力投資。
帶外管理的本質,就是把這套“物理最後手段”轉化為隨時可用、完全脫離業務系統的自動化通道。它通過獨立的基板管理控制器(BMC)、專屬網口和待機供電電路,在主計算域旁搭建了一個永不離線的管理域。無論伺服器處於開機、關機還是崩潰狀態,操作者都能執行電源控制、韌體更新、遠端虛擬裝置和感測器採集等操作。在 AI 算力軍備競賽中,帶外管理已從“錦上添花的運維工具”升級為保障算力資產可用性、提升叢集利用率的生存級基礎設施。
技術原理
帶外管理的核心是在每臺伺服器內建置一個與主計算平面物理隔離、邏輯獨立的管理平面。該平面不依賴主 CPU 所執行的作業系統或網路協議棧,而是依託一顆專用的嵌入式控制器實現全面接管。
核心元件:BMC 基板管理控制器(Baseboard Management Controller, BMC)是帶外管理的“大腦”。它是一塊整合在主機板上的微控制器晶片,通常基於 ARM Cortex-A 系列處理器,內建獨立的 DDR 記憶體、快閃記憶體、專用網路 PHY/MAC 以及硬體加密引擎。BMC 執行一套高度裁剪的嵌入式 Linux 系統,包含 Web 伺服器、命令列介面、IPMI/Redfish 協議棧和大量的硬體驅動。
物理獨立性設計
- 專用管理網口:多數主機板上會看到一個標註 “MGMT” 或 “IPMI” 的 RJ45 埠,它直接連線到 BMC 的專用網絡卡,不與主業務網路複用頻寬或物理路徑。
- 待機供電:只要電源線接入並通電,即使主機關機,輔助電源(Standby)就會持續為 BMC 供電,使其一直處於待命狀態。
- 內部匯流排直連:BMC 通過 SMBus、I2C、GPIO 等底層匯流排直接與主機板上的溫度感測器、電壓調節器、風扇控制器和電源管理單元(PMU)通訊,無需經過主 CPU 或晶片組。
通訊流程示意
+-------------------------------------------------------+
| 物理伺服器機箱 |
| +---------------------------------------------------+ |
| | 主計算域 (Domain A) | |
| | +------------+ +--------------------+ | |
| | | 主 CPU(s) | | 業務作業系統 (OS) | | |
| | | (x86/ARM) | | (Linux/Windows) | | |
| | +-----+------+ +---------+----------+ | |
| | | PCIe/DMI | | |
| | +--------------------------+ | |
| | | 系統匯流排 (SMBus, I2C, GPIO)| |
| | V | |
| | +----------------------+------------------------+ | |
| | | 硬體感測器 (溫度,電壓,風扇) | 電源管理(PMU) | | |
| | +----------------------+------------------------+ | |
| +---------------------------------------------------+ |
| | |
| +---------------------------------------------------+ |
| | 管理域 (Domain B) | |
| | +----------------+ | |
| | | **BMC 晶片** | (獨立 ARM SoC + 記憶體 + 快閃記憶體) | |
| | | (帶外管理大腦) | | |
| | +-------+--------+ | |
| | | | |
| | +-------V--------+ +------------------+ | |
| | | **專用管理網絡卡** | | BMC 待機供電電路 | | |
| | | (獨立 PHY/MAC) | | (Standby 供電) | | |
| | +----------------+ +------------------+ | |
| +---------------------------------------------------+ |
+---------------------------+---------------------------+
| (獨立管理網路線纜)
V
+-------------------+
| 管理交換器 |
| (管理平面專用網路) |
+---------+---------+
|
V
+-------------------+
| **帶外管理平台** |
| (監控/告警/自動化) |
+-------------------+
關鍵工作機制
- 心跳監測與看門狗:BMC 持續監測主系統的硬體心跳或軟體看門狗,一旦超時即可觸發硬重啟或告警。
- 感測器輪詢:溫度、電壓、風扇轉速等模擬和數字感測器資料被 BMC 週期性採集,並通過管理網路上送到上層運維平台,完全旁路主作業系統。
- 遠端 KVM (KVM over IP):BMC 擷取整合顯示卡(或輕量級顯示控制器)的幀緩衝,將其編碼為網路影片流,同時將遠端管理員側傳來的鍵盤滑鼠操作注入主系統,實現 BIOD/UEFI 級遠端控制。
- 韌體隔離:BMC 韌體、安全金鑰和 Web 服務都執行在獨立的執行環境中,即使主系統被攻破,攻擊者也難以通過網路側跨越到管理域(前提是管理網路本身未曝露)。
關鍵引數
評估帶外管理方案或產品時,業界通常關注以下幾個方面(以下為通用技術指標,未特指任何具體產品):
| 引數維度 | 說明 | 典型要求 / 行業趨勢 |
|---|---|---|
| BMC 管理可用性 | 管理通道全年正常執行時間比例 | 超大規模雲端端要求 ≥ 99.999% (5 個 9)[公開資料未見統一行業標準,源自頭部雲端廠商對外分享的運維目標] |
| KVM 體驗 | 遠端影片解析度、幀率、延遲 | 支援 1920x1080@30fps 已普及;新一代方案向 4K@60fps 演進 |
| 感測器監控能力 | 可同時採集的模擬/數字感測器數量與取樣間隔 | 典型 BMC 可承載 200 個以上感測器;高速取樣(100 ms 級)用於動態能耗管理 |
| 安全認證與晶片 | 韌體安全啟動、晶片內嵌硬體根信任(RoHS)、加解密效能 | TPM 2.0 整合 / RSA-2048 簽名驗證 / TLS 1.3 加密管理會話逐漸成為基線 |
| 協議支援 | IPMI 版本、Redfish 版本、Web 介面等 | Redfish 2023.2 或更高版本,支援事件訂閱、任務管理;IPMI 2.0 作為向後相容 |
| 待機功耗 | BMC 及管理電路在主機關機狀態的功耗 | 典型小於 5 瓦(公開資料未見統一上限,多數 OEM 設計目標 < 8 瓦) |
| API 自動化整合 | 與 Ansible、Terraform、自定義運維平台的整合能力 | 完整的 Redfish 動作集 + 穩定 Python/Go SDK + 宣告式配置能力已成本質需求 |
| 韌體更新機制 | 支援 A/B 分割槽回滾、韌體完整性校驗、低風險線上更新 | 至少支援雙映象,力爭不重啟 BMC 即可應用補丁(Live Update) |
技術路線
歷史演進
- 專有時代(1990s 之前):大型機和小型機廠商各自推出私有遠端管理卡(如 Compaq 的 Remote Insight),價格高昂且完全不相容。
- IPMI 標準化(1998 – 2010s):Intel、Dell、HP 等聯合推出智慧平台管理介面(IPMI),統一了電源控制、感測器訪問和事件日誌等基礎功能,使跨平台運管成為可能。
- 雲端與超大規模催化(2010s):資料中心增至數十萬臺量級,IPMI 在安全性(UDP 明文)、可擴充套件性及 API 友好性上明顯落後,遠端管理需求從“能開機關機”升級為“大規模自動化與精細監控”。
- Redfish + OpenBMC 雙輪驅動(2010s 末至今):分散式管理任務組(DMTF)推出 Redfish 規範,用 RESTful API 和 JSON 替代舊的 IPMI 工具棧。同時,Meta 主導的 OpenBMC 專案將 BMC 韌體開源,使算力基礎設施廠商能夠快速定製、審計並創新管理功能。
帶外 vs 帶內管理路線對比
| 特性維度 | 帶外管理 (OOB) | 帶內管理 (IB) |
|---|---|---|
| 管理通道 | 專用物理網路,與業務生產網路分離 | 複用業務網路 |
| 主系統依賴 | 完全不依賴主 OS 和網路棧 | 必須主 OS 正常執行,網路棧可用 |
| 可操作時間段 | 任意時刻,包括 POST、BIOS/UEFI 設定、系統安裝、關機 | 僅在作業系統完全啟動且網路連通後 |
| 基礎能力範圍 | 電源控制、虛擬媒體、遠端 KVM、感測器讀取、韌體刷寫 | 部署軟體、日誌分析、效能調優、應用配置 |
| 安全邊界 | 依託網路隔離和獨立認證,管理平面單點防禦 | 與業務負載同處一個攻擊面,任何應用漏洞都可能波及管理 |
| 主流協議 | IPMI 2.0、Redfish、SNMP(管理網) | SSH、WinRM、RDP、SNMP、REST API(業務網) |
| 適用場景 | 硬體級故障搶救、初始部署、物理位置偏遠的基礎設施 | 日常系統運維、打補丁、應用變更 |
當前的技術路線正呈現 “Redfish 完全替代 IPMI”、“OpenBMC 生態擴大”、“BMC 晶片整合更多安全與 AI 加速特性”三大趨勢。
上游
帶外管理的上游主要涵蓋晶片、板級元件和基礎韌體棧。
- BMC 晶片:決定管理帶能力的基礎。核心供應商包括 Aspeed Technology(信驊科技,臺灣)和 Nuvoton Technology(新唐科技,臺灣)。其中 Aspeed 憑藉 ARM 架構 SoC 的高度整合和完整軟體棧,長期佔據超 70% 的出貨份額(市場份額由供應鏈調研估算,未獲官方第三方審計)。近年來,部分國內 IC 設計公司開始研發自主 BMC 晶片,但截至 2025 年初尚未見到大規模商用部署。
- 板級元件:專用管理網口物理層晶片(如 Marvell、Realtek 的 PHY)、SPI 快閃記憶體(儲存 BMC 韌體)、DDR 記憶體顆粒等,均屬於標準物料,供應較為分散。
- BMC 韌體與作業系統:閉源廠商主要依賴 OEM 自研(如 Dell iDRAC、HPE iLO 韌體)或晶片原廠提供的基線韌體。開源領域由 OpenBMC 領銜,核心貢獻者包括 Meta、Google、Microsoft、Intel 等,已支援 Aspeed AST2500/AST2600 以及部分 Nuvoton 晶片。
- 管理協議與標準:由 DMTF 下屬的 Redfish Forum 和 IPMI 工作組維護,屬於公共品。
下游
下游直接需求方是所有大規模部署伺服器的組織,其對帶外管理的依賴程度隨基礎設施規模指數級上升。
- 超大規模雲端服務商 (Hyperscalers):AWS、Microsoft Azure、Google Cloud、阿里雲端、騰訊雲端等。他們是帶外管理技術的最激進推動者,自研或深度定製 BMC 韌體,要求 Redfish 完整實現和毫秒級感測器監控。
- AI 與 HPC 算力中心:以 xAI、Anthropic、國內智算中心等為代表。單叢集內 GPU 節點數動輒過萬,任何一分鐘的非計劃宕機都意味著數十萬至百萬美元級的機會成本,帶外管理成為自動化搶救和預防性維護的神經中樞。
- 電信與邊緣設施:5G 基站、邊緣計算節點部署位置分散、無人值守,帶外管理是對裝置進行遠端部署和災難恢復的唯一可行手段。
- 關鍵行業資料中心:金融、能源、政務等領域因合規和業務連續性要求,同樣對伺服器的帶外管理能力有硬性指定(如必須支援本地 KVM 加密)。
需求增長態勢直接與全球伺服器出貨量掛鉤。根據 IDC 2024 年四季度全球伺服器追蹤報告,2024 年全球伺服器出貨量年增率增長約 5%,AI 伺服器出貨增速更遠高於此,帶動 BMC 等管理元件需求。
受益公司
以下公司因帶外管理的發展而獲得增量業務或戰略優勢,此處僅為客觀產業鏈梳理,不作為任何投資評判。
| 公司 / 組織 | 定位 | 受益邏輯 |
|---|---|---|
| Aspeed Technology (信驊) | BMC 晶片龍頭 | 全球伺服器出貨增長直接拉動其 AST2600/AST2700 晶片出貨;技術壟斷帶來議價空間和穩定的盈利能力。 |
| Nuvoton Technology (新唐) | BMC 晶片第二供應商 | 受益於客戶尋求第二貨源以降低供應鏈風險,在部分白牌伺服器和嵌入式場景中獲份額。 |
| Dell Technologies | 伺服器 OEM,提供 iDRAC | iDRAC 作為差異化增值功能,提升企業客戶粘性,並通過高階許可證創造經常性營收。 |
| HPE | 伺服器 OEM,提供 iLO | iLO 是 HPE ProLiant 伺服器的核心管理元件,高階安全版帶動伺服器獲利。 |
| Lenovo | 伺服器 OEM,提供 XClarity | XClarity 統一管理平台整合 BMC,成為其企業級基礎設施管理入口。 |
| Inspur (浪潮) | 中國伺服器龍頭 | 參與 OpenBMC 生態,降低韌體許可成本,在信創和 AI 伺服器中大量整合自研管理方案。 |
| Meta, Google, Microsoft | 開源生態主導者 | 通過 OpenBMC 擺脫 OEM 鎖定,降低大規模運維成本;向社群貢獻程式碼,吸引更多硬體夥伴加入。 |
| 雲端廠商 (AWS, Azure, 阿里雲端等) | 終極使用者 | 採購成本降低、管理效率提升,將節省的資源投入上層服務創新。 |
市場規模
公開市場研究報告極少單獨統計 BMC 市場規模,但結合晶片廠商營收和伺服器出貨量可進行推估。
- 出貨量基準:IDC 資料顯示 2024 年全球伺服器出貨量約為 1480 萬臺(IDC 2025 年 1 月公佈,含通用及 AI 伺服器)。幾乎每臺伺服器至少配備一顆 BMC,部分高密度/刀片式架構可能按節點配置。
- 晶片平均售價:根據 Aspeed 年度營收與出貨量估算,BMC 晶片平均售價(ASP)在 15–35 美元區間,高階型號(如 AST2700)可達 50 美元以上。
- 市場規模估算(口徑說明:基於伺服器出貨量 × BMC 滲透率 × 加權 ASP,韌體與服務未計入):
- 2023 年約為 3.5–4.5 億美元(估算來源:綜合供應鏈調研與 Aspeed 營收倒推)。
- 2024–2025 年隨 AI 伺服器帶動高價值 BMC 滲透,市場規模有望向 6 億美元靠攏(前瞻估算,非精確資料)。
- 若計入 OEM 帶外管理軟體許可費及訂閱營收,整個帶外管理方案市場或接近翻倍。
上述為行業估算值,並非精確統計資料,僅供參考。
玩家對比
此處聚焦於不同 BMC 實現方案之間的差異,而非公司層面比較。
| 對比維度 | Aspeed 全棧 (閉源基線) | Nuvoton 方案 | OpenBMC (社群驅動) | OEM 定製 (iDRAC/iLO 等) |
|---|---|---|---|---|
| 硬體整合度 | 極高,SoC 內建 Cortex-A7/A35、網路、影像編碼等 | 高,部分型號內建安全模組 | 依賴晶片硬體,社群適配多款晶片 | 由 OEM 基於 Aspeed 或自研 ASIC 設計 |
| 韌體開放性 | 晶片廠商提供閉源 SDK,OEM 可修改上層 | 提供閉源 BSP,開放部分介面 | 完全開源 (Apache 2.0),程式碼可審計 | 閉源,提供 REST API、SNMP 等介面 |
| 功能完備度 | 成熟,支援 IPMI/Redfish/KVM | 滿足基本需求,高階特性(如多使用者加密 KVM)較晚 | 快速追趕,Redfish 支援完善,部分晶片的 KVM 仍在完善 | 功能最豐富,深度整合 OEM 生態(能耗管理、自動案例上報等) |
| 安全響應 | 依賴 OEM 和晶片廠商的 CVE 修復週期 | 類似 | 社群響應快,補丁可自主編譯部署 | 專業安全團隊,但修復受限於內部流程 |
| 典型使用者 | 品牌伺服器大廠、需要快速量產的 OEM | 二線整機廠、工控、對成本敏感的專案 | Hyperscaler、專注開源戰略的 Tier 2 雲端廠商 | 企業客戶,購買硬體同時獲取管理平台 |
| 授權與成本 | 包含在晶片價格中,無單獨許可費 | 同 | 零許可費,但需自己維護運營 | 基礎免費,高階安全/分析功能需額外許可 |
總體而言,Aspeed 閉源方案目前是兼顧“開箱即用”與高整合度的預設選項,OpenBMC 則代表了長期消除鎖定、加速創新的方向。
風險
以下為產業側需要注意的技術與市場風險,不構成任何形式的漲跌預測。
- 安全漏洞風險:BMC 成為高價值攻擊目標。2023 年以來,多家 OEM 針對 BMC 堆疊的遠端程式碼執行漏洞(CVE-2023-xxxx 系列)釋出緊急補丁。因 BMC 常與隔離網路相連,一旦失守,攻擊者即可跨越多層防線操控物理硬體。
- 供應鏈集中風險:Aspeed 佔有超七成市場,其產能緊張或產品延期將拖累整個伺服器行業的釋出節奏。2022–2023 年已出現因 BMC 晶片交貨週期延長而制約伺服器出貨的情況。
- 開源顛覆的不確定性:OpenBMC 快速成熟,但部分雲端廠商仍顧慮關鍵硬體的社群支援質量和長期維護承諾。一旦開源方案出現嚴重問題,可能影響萬套級基礎設施的穩定運維。
- 合規與地緣博弈:各國對資料中心裝置供應鏈的審查趨嚴,可能導致部分市場要求“自主可控 BMC 晶片”,驅動本土替代,加劇產業分化。
- 技術債務與碎片化:BMC 韌體常因客戶定製、遺留協議相容而積累大量程式碼,可維護性低。每次安全漏洞修復都可能引入迴歸風險。
誤讀糾偏
- “帶外管理就是用來裝系統的,平時沒什麼用。” 事實:裝機只是其初始交付工具。真正的價值在於 7×24 小時故障自動恢復與預測性維護。一次及時的帶外感測器告警可以避免記憶體可糾正錯誤(CE)累積成不可糾正錯誤(UE),防止百萬美元訓練的意外中斷。
- “開源 BMC 會馬上取代所有專有方案,傳統廠商將無路可走。” 事實:OpenBMC 主要衝擊韌體/軟體層,而非 BMC 晶片本身。高階 BMC 是複雜的模擬/數字混合 ASIC,涉及硬體安全錨點、影片編碼流水線等,其設計與生態壁壘極高。短期更多是共存和融合,而非簡單替代。
- “只要能用 IPMI,就沒必要升級 Redfish。” 事實:IPMI 基於 UDP 且缺乏細粒度權限,在自動化和安全需求下已嚴重過時。Redfish 提供 HTTPS/JSON、任務服務、事件訂閱等現代介面,是大規模運維的必要條件。部分雲端廠商已內部宣佈逐步淘汰 IPMI 工具。
最新事件
截至 2025 年初(知識截止日期),與帶外管理相關的公開進展包括:
- Aspeed 釋出 AST2700:2024 年臺北國際電腦展上,信驊展示 12 納米制程的 AST2700 系列,整合四核 ARM Cortex-A35 及專用安全引擎,支援 PCIe Gen5 管理頻寬與 4K KVM,預計 2025 年開始向 OEM 供貨(來源:Aspeed 官方新聞稿及多篇媒體報道)。
- OpenBMC 2.14/2.16 版本釋出:社群在 2024 年下半年連續迭代,加入更為完善的 Redfish Task 管理、新感測器架構,以及對多款 Nuvoton 和 Intel BMCR 的支援 (來源:GitHub OpenBMC 釋出說明)。
- 超大規模雲端廠商擴大自研 BMC 部署:2024 年,至少兩家頭部雲端廠商在公開技術博文中揭露,已將其自研 OpenBMC 方案擴充套件到 GPU 伺服器機隊,以減少許可證依賴並獲秒級感測器取樣(來源:各自雲端廠商工程部落格)。
- AMD 與 Aspeed 深化合作:2024 年,AMD 釋出的 EPYC 平台參考設計中強化了與 Aspeed BMC 的在板管理整合,提供統一的帶外能耗監控介面 (來源:AMD 官方技術文件更新)。
- BMC 安全事件持續:2024 年,CISA 和 OEM 通報多起針對 BMC Web 介面的弱口令和韌體篡改事件,多廠隨即推出強制 MFA (多因素認證) 功能更新。
以上事件共同指向:BMC 硬體製程與算力雙雙提升,開源與自研趨勢不可逆轉,同時安全攻防成為帶外管理的常態化議題。
追蹤指標
若需持續瞭解帶外管理產業的發展動態,可定期關注以下指標:
- Aspeed 月度 / 季度營收:作為 BMC 晶片風向標,其營收變動能提前 2–3 個月反映伺服器製造端的備貨情緒(資料來源:臺灣證券交易所公開資訊觀測站)。
- 主要 OEM 的 iDRAC/iLO/XClarity 迭代日誌:通過更新說明可提取新安全特性、Redfish 模型更新等,折射 OEM 競爭重點(來源:Dell/HPE/Lenovo 技術支援站點)。
- DMTF Redfish 版本釋出與 ERRATA:Redfish 規範版本次號(如 v2024.2)代表互操作性功能邊界,勘誤表則揭示實際部署中的相容性問題(來源:dmtf.org/standards/redfish)。
- OpenBMC 倉庫的 Commit 與 Release 頻率:高活躍度意味著更多硬體得到支援,或重大架構演進(來源:github.com/openbmc/openbmc 的 Insights 頁面)。
- 伺服器出貨量報告:IDC、Gartner 的季度伺服器追蹤報告,細分 AI 與非 AI 出貨比例,直接對應 BMC 的需求面。
- NIST NVD 中 BMC 相關 CVE 條目:統計每月新增 BMC 韌體漏洞數量及嚴重性,評估整體安全態勢。
- OCP 全球峰會與邊緣計算會議:OCP 對開放硬體和 OpenBMC 的議題數量,以及電信行業對帶外管理的需求表達,可作為技術方向的風向標。
信源
- 標準規範:DMTF Redfish 標準文件 (dmtf.org/standards/redfish)、IPMI 2.0 規範。
- 開源專案:OpenBMC 專案 (github.com/openbmc),含架構文件與程式碼。
- 行業報告:IDC 全球季度伺服器追蹤報告、Gartner 伺服器市場預測。具體資料需引用相應付費報告,本文僅引述公開新聞稿中的摘要數字。
- 供應鏈資訊:Aspeed Technology 每季法說會簡報及年報 (公開於臺灣股市觀測站);伺服器 OEM 產品規格文件 (Dell iDRAC, HPE iLO, Lenovo XClarity)。
- 技術部落格與前沿分享:AWS、Google Cloud、Meta Engineering 等雲端廠商的技術博文;OCP Summit 公開演講影片與 PDF 資料。
- 重要宣告:本頁所有未直接標註來源的市場份額、市場規模等資料,均為根據上述公開資料與產業鏈推斷所做出的估算,僅用於定性理解產業格局,不應作為精確數量依據。