SecondSourceAI 產業洞見 · 完整版檔案庫

agent 執行層的 CPU 機架:同一場 OCP 有四家端出產品,買方目前買的是 CPU 容量

本篇重點

結論先講:同一場 OCP 端出 agent 執行 CPU 機架的是四家,不是兩家;買方已經在分開買 CPU,買的是容量,還沒有人買整櫃;近期份額看誰交得出核心。

OCP 是開放運算計畫,資料中心硬體的開放規格在它的年度大會上發表。十月十二日的 OCP Global Summit 上,AMD 發表了 Helion 機架,其中一種配置整櫃只放 CPU、最多 32,768 核,新聞稿寫明是給超大規模雲端「agent 執行專用容量,並連接分開的模型推論基礎設施」。同一天 NVIDIA 把 Vera CPU 機架規格貢獻給 OCP,寫明它「支撐工具呼叫、編排與沙盒執行」,與負責訓練和推論的 Vera Rubin NVL72 分工。本報十月十三日那期根據這兩場發表寫過一條判斷,下稱原判斷。

十月十三日刊。原判斷有三句:

1. 過去「agent 推高 CPU 需求」只是 Intel 法說會上的需求說法,現在兩家競爭對手把它做成機架級產品。

2. 買方要把 agent 基礎設施的容量與電力預算拆成兩池,一池是模型推論的 GPU,一池是 agent 執行的 CPU。

3. 兩家的設計賣點相反,AMD 賣核數密度,NVIDIA 賣單執行緒速度,哪一種勝出,就決定這一層的份額歸誰。

本篇逐句重驗,結論分三層。

第一,「兩家」數錯了,起點也晚了。同一場 OCP,Intel 展示了單櫃超過 46,000 核、133.45 kW 的 Xeon 6+ 機架設計,Arm 的 AGI CPU 系統已由 Supermicro 與 Verda 上市。Arm 委託 Signal65 做了每櫃工作量的測試,這不算獨立測試。四家把 agent 執行 CPU 機架當產品,不是兩家。而且這條線不是十月才開始:Arm 三月發表 AGI CPU,Meta 四月與 AWS 簽下數十億美元、數千萬個 Graviton5 核心的多年合約,明說是跑「agentic AI 背後的 CPU 密集工作負載」;NVIDIA 五月底發表 Vera,九月底 CoreWeave 開始出租 Vera 機架。OCP 這一天是全行業在同一個講台上亮牌,不是這一層的起點。

第二,需求側已經有人把 CPU 分開買,買的是容量。Meta 的 Graviton5 合約是目前公開資訊裡最大的一筆為 agent 買 CPU 的採購。Graviton5 是 AWS 自研、在 AWS 雲上提供的 CPU,所以 Meta 買到的是 AWS 上的運算容量。合約的具體形式,公開資料沒有說明。微軟 Fairwater 園區由一棟 48 MW 的 CPU 與儲存建築支撐 295 MW 的 GPU 叢集,功率比約 1 比 6。這是 SemiAnalysis 實地報導的單一案例,48 MW 同時含儲存,CPU 佔多少沒有拆。NVIDIA 的首批 Vera CPU 系統交到了 Anthropic、OpenAI、Oracle Cloud 與 SpaceXAI,但沒有公布數量。Helion 十一月才供貨。CPU 已經被分開採購,但專門為 agent 設計的整櫃還沒有公開的買方。

第三,核數密度與單執行緒速度的對立,營運資料說它們各管一段。DeepSeek 九月發表的沙盒基礎設施論文是目前唯一一份公開的沙盒機隊讀數:約 160 個 CPU 節點、三萬核,每天跑約三百萬個沙盒,約九成的沙盒平均用不到申請 CPU 容量的 5%,單一節點可放 800 個 microVM。這是一家公司強化學習訓練機隊的讀數,偏向密度與記憶體。NVIDIA 的單執行緒論點講的是另一段:agent 每一步序列相依,單步快整個迴圈才快,它自報每核 1.8 倍於 x86,Perplexity 自測工作流快 1.5 倍、並發沙盒啟動快 1.9 倍,但所有基線都沒指名型號,也沒有任何獨立測試。連 NVIDIA 自己的 Vera CPU 機架也是用 256 顆 CPU、400 TB 記憶體在賣密度。兩種設計準則互補多於替代。近期這一層的份額,本報的讀法是取決於誰交得出核心。Intel 第二季財報顯示伺服器出貨量只增 9%,並寫「市場需求超過可供應的產品」。同期伺服器平均售價年增 48%,財報說大部分來自高階產品組合。據報導,執行長九月說 Intel 只能滿足約一半的客戶 CPU 需求。

本篇查的是廠商新聞稿與產品頁、Intel 的 10-Q 申報、arXiv 論文、廠商與夥伴部落格,以及 SemiAnalysis、TrendForce、Futurum 等分析師報導。下文說「沒有」「唯一」,都只在這個範圍內。

為什麼重要:agent 執行要用的 CPU,買方已經分開在買,而且比專門的機架產品早了半年。這一層近期的份額,本報的讀法是看誰交得出核心,不是看哪一種設計比較好。

出現什麼結果就算本篇錯:到 2027 年 6 月底,AMD 的季度財報新聞稿若仍沒有任何 Helion 純 CPU 機架的客戶部署陳述,就把「agent 櫃是獨立產品層」的判斷降回供應商說法。

一、同一場 OCP,四家都端出了 agent 執行 CPU 機架

原判斷說的「兩家」是 AMD 與 NVIDIA。把同一週的發表放在一起看,是四家。

廠商產品單櫃規模(自報)定位原文時程
AMDHelion 純 CPU 配置(第 6 代 EPYC)最多 32,768 核「agent 執行專用容量,並連接分開的模型推論基礎設施」2026 年 11 月供貨
NVIDIAVera CPU 機架(MGX 規格貢獻 OCP)最多 256 顆 Vera、22,528 核、400 TB LPDDR5X「支撐工具呼叫、編排與沙盒執行」,與 NVL72 分工首批系統已交付四家
IntelXeon 6+ 機架設計(ORv3)「部分配置單櫃超過 46,000 核、133.45 kW」「Intel AI for Enterprise Agent Toolkit 今日即可部署在 Xeon 上」展示中
ArmAGI CPU 系統(Supermicro、Verda 等)每顆 136 核;Signal65 受 Arm 委託測試稱每 24 kW 機架工作量為 EPYC 9755 的 1.99 倍「agentic AI 基礎設施」系統已上市

四家點名的買方也不同。AMD 的新聞稿指向超大規模雲端,NVIDIA 的首批系統交給前沿實驗室與 Oracle Cloud,Intel 推的是企業用的 agent 工具包,Arm 經 Supermicro 與 Verda 這類系統廠出貨。

四家的賣點不同,但在機架層公布的主要規格都是密度:核數、每櫃功率、每櫃記憶體。這是規格表上的數字,不代表買方就照密度挑。AMD 的 Helion 另有一種高主頻節點,Arm 的機架倍數也含了單核效能。原判斷把 NVIDIA 寫成單執行緒速度路線,那是 NVIDIA 在晶片層的主張。到了機架層,NVIDIA 也是用 256 顆 CPU、400 TB 記憶體來賣。

第 6 代 EPYC 的代號是 Venice。AMD 另外首度展示了下一代「agentic CPU」Verano。據 TechTimes 報導,展示矽為六顆 32 核的小晶片、最多 192 核、24 通道 LPDDR5X 記憶體約 2.9 TB/s,目標 2027 年上半量產;AMD 新聞稿本身沒有給規格。AMD 伺服器事業主管 Dan McNamara 說:「agentic AI 不是單一工作負載。它橫跨個人代理、企業應用、程式碼執行與複雜工作流,各有不同的運算需求。」照這句話,這一層不會只有一種設計準則。

這條線的時間軸也比十月早。Arm 三月二十四日發表 AGI CPU,Meta 為共同開發夥伴。四月底 Meta 與 AWS 簽約。NVIDIA 五月三十一日發表 Vera,列出「探索中」的客戶包括 NYSE、Anthropic、OpenAI、SpaceXAI、ByteDance、CoreWeave、Lambda、Nebius、Nscale 與 OCI。七月 Perplexity 公布沙盒平台與 Vera 測試數字。九月三十日 CoreWeave 宣布出租 Vera 機架。OCP 上,四家在同一天把各自的版本放上同一個開放規格平台。供給側的這一層,在這之前已經成形。

二、需求側:已經有人分池買,但買的是雲端 CPU 容量

原判斷設了兩個推翻條件。其一,2027 年上半前,沒有任何超大規模雲端公開採購純 CPU 的 agent 機架。其二,主要 agent 平台把沙盒執行留在通用雲 CPU 池,不另買專用櫃。查下來兩條都只部分成立:CPU 的採購已經有了,整櫃這個品項還沒有公開的買方。

已經分池買的:

  • Meta 與 AWS。四月底雙方宣布多年、數十億美元的合約,Meta 部署「數千萬個 Graviton5 核心」。Meta 基礎設施主管 Santosh Janardhan 說,這份合約讓 Meta 能「以我們的規模所需的效能與效率,跑 agentic AI 背後的 CPU 密集工作負載」。Amazon 執行長 Jassy 也在第一季電話會上提到這筆承諾。這是目前公開資訊裡最大的一筆「為 agent 買 CPU」。
  • 微軟 Fairwater。SemiAnalysis 二月的實地報導寫道:「一棟 48 MW 的 CPU 與儲存建築支撐 295 MW 的主 GPU 叢集。」功率比約 1 比 6。同篇還說「前沿 AI 實驗室的強化學習訓練缺 CPU,正與雲端業者直接競爭商品化的 x86 CPU 伺服器」。也就是說,做強化學習訓練的實驗室缺 CPU,正在和雲端業者搶同一批 x86 伺服器。
  • NVIDIA Vera 的首批交付。NVIDIA 產品頁的圖說寫明首批 Vera CPU 系統交付 Anthropic、OpenAI、Oracle Cloud Infrastructure 與 SpaceXAI。CoreWeave 九月底宣布出租 Vera 機架,單櫃 128 顆 CPU、11,264 核,「超過 11,000 個並發環境」,並描述了這類負載的形狀:「迴圈裡的單一步驟可能需要數千個環境跑一小時,然後到下一輪之前幾乎什麼都不需要。」也就是說,負載是短時間的尖峰,尖峰之間幾乎閒置。
  • Perplexity。七月的沙盒平台文章說「過去一週支撐了數百萬次沙盒建立與數千萬次沙盒重連」,每個任務跑在一個 Firecracker microVM 裡;執行長十月三日說 Perplexity Computer 開始在 Vera 上部署,目標是「自有沙盒,並為最好的矽片最佳化沙盒」。

還沒發生的:沒有任何買方公開說自己買了「agent 櫃」這種品項。Meta 買到的是 AWS 上的運算容量,Fairwater 那棟是 CPU 與儲存建築。NVIDIA 交付了首批系統,沒有公布數量;Helion 十一月才供貨。原判斷說的是「獨立採購的 CPU 機架」,較準確的說法是「獨立採購的 CPU 容量」。這裡的容量指 CPU 核心與電力,可以向雲端租,也可以自建,不限定是哪種機架。整櫃只是其中一種包裝,目前還沒有公開的買方。

這一層的供應結構和加速器層一樣。超大規模雲端先用自研 CPU 吃自家負載,像 Graviton、Cobalt、Axion。商用晶片廠 AMD、Intel、NVIDIA、Arm 再賣給其他人。Meta 一邊向 AWS 買 Graviton5 容量,一邊是 Arm AGI CPU 的共同開發者,兩條路都在走。

GPU 通用加速(2012-)任何新架構都跑得動=研究迭代速度
TPU 開第一槍(2017)workload 固定時,特化省一個數量級
hyperscaler 全面自研(2023-)自用推理攤提流片成本+擺脫議價

並存 ⇄

並行路線GPU 通用路線:什麼都跑得動的預設選擇

本篇在圖上:這條趨勢原本講加速器層:訓練留在 GPU,雲端自用的推論改走自研晶片。agent 執行這一層出現後,同一條分界線往下多了一段:自家負載固定、量又夠大的雲端用自研 CPU,其他人買商用 CPU。這條趨勢原本的判斷不變。

三、核數密度還是單執行緒速度:營運資料說它們各管一段

原判斷留了一個分歧:AMD 賣 32,768 核的密度,NVIDIA 執行長說 agent 迴圈要的是最快的單執行緒 CPU,雲端為了多租出核心而設計的 CPU 是錯的方向。哪一種設計準則對,決定這一層的份額歸誰。本篇用兩類資料檢驗這個分歧。

沙盒機隊的實際讀數偏密度。DeepSeek 九月十九日在 arXiv 發表 DSec 論文,全名 DeepSeek Elastic Compute,介紹一套給大規模 agent 訓練用的沙盒基礎設施。這是目前唯一一份公開的機隊級數字,來自一家公司自己的強化學習訓練機隊。論文寫道:「單一生產規模單元約 160 個節點,每天服務約三百萬個沙盒;在生產環境支撐超過 38 萬個並發沙盒、每秒超過 5,000 次沙盒建立」,整個平台「近 160 個 CPU 節點、三萬核、約 250 TB DRAM」。論文另一個讀數是:「約 90% 的容器與 microVM 沙盒平均使用不超過其申請 CPU 容量的 5%」。申請容量是每個沙盒事先向排程系統要的 CPU 額度。論文也報告,單一節點可以放 800 個 microVM 或 3,200 個容器。節點是標準的雙路 x86 伺服器,型號是高核數的 AMD EPYC 9655。本報的讀法是,這段負載卡在記憶體與能塞多少個隔離環境,不在任何一核有多快。CoreWeave 描述的「數千個環境跑一小時然後幾乎歸零」也是同一種形狀。

單執行緒論點講的是另一段。NVIDIA 七月的文章把 Vera 定位成「規模化的最高單執行緒 CPU」,論點是 agent 的每一步依賴上一步的結果,「每核速度決定迴圈推進多快」,加核數縮不短單步;自報 agentic 負載下每核持續效能 1.8 倍於 x86。Perplexity 自測「實際 Computer 型工作流快約 1.5 倍於目前的生產參考,並發沙盒啟動快至 1.9 倍」。CoreWeave 自稱沙盒啟動速度是一顆 x86 CPU 的 3 倍。這三家的數字量的不是同一件事。1.8 倍是每核效能,1.5 倍是整段工作流,1.9 倍與 3 倍是沙盒啟動速度。啟動速度受什麼限制,沒有來源拆過,不一定是單核速度。三家的數字還有兩個共同缺口:基線都沒有指名型號,數字全部來自供應商或其夥伴。AMD 也自稱 Helion 節點的每核效能比 NVIDIA 的 88 核 Vera 高 20%,分析師 Futurum 的 Brendan Burke 同時指出,AMD 七月的每瓦 agent 數比較「是從執行緒數與功率額定在理論負載下做的算術」。兩邊都是自報,基線也不同,誰也不能當獨立證據。

互補多於替代。Burke 六月在 COMPUTEX 之後的判斷是:「兩種 agentic CPU 論點瞄準 agent 生命週期的不同點,這表示這些晶片更可能證明是互補而非替代」,Intel 的 Xeon 6+ 最佳化的是企業推論的密度與並發,NVIDIA 的 Vera 最佳化的是編排速度與緊湊的強化學習沙盒迴圈。本篇的推論與此一致,但把握不高。沙盒託管靠密度,這有 DSec 的讀數支持。agent 的工具步驟是一步接一步:下一步要等上一步的結果,核心再多也不能平行,所以單步延遲取決於單核速度。這一半是 NVIDIA 的論點,目前只有自報數字支持。兩者可能在同一個資料中心裡並存。原判斷把它寫成「哪一種勝出決定份額歸屬」。公開的營運資料裡,看不到買方在兩者之間二選一的採購決定。

這段推論有三個限制。DSec 只是一家公司的強化學習訓練場景。線上 agent 產品的沙盒利用率,目前沒有人公開。「申請容量的 5%」的分母是申請量,低利用率也可能來自過度申請。至今也沒有在同一負載上比較兩種設計的獨立測試。

四、近期份額由誰交得出貨決定

如果設計準則不是買方的決策變數,什麼是?目前的答案是供給。

Intel 第二季 10-Q(季末六月二十七日)寫道:伺服器營收增加「因平均售價分別增加 48% 與 38%」,「伺服器平均售價增加的大部分來自第二季與年初至今銷售的高階產品組合較高,需求導向的定價行動貢獻較小」;「伺服器出貨量較去年第二季增加 9%,主要由較高的超大規模雲端需求驅動」;「市場需求超過我們可供應的產品,因內部供應限制」。據報導,執行長 Lip-Bu Tan 九月在 Splunk 的大會上說,Intel 只能滿足約一半的客戶 CPU 需求。據報導,Intel 已把 2026 年資本支出提高到超過 200 億美元。SemiAnalysis 二月就寫過「Intel 面對 CPU 庫存意外耗盡,正打算調漲 Xeon 全線價格」;TrendForce 九月底的報告說 Intel 與 AMD「在第一季末對部分 CPU 產品線調漲價格」。十月台灣媒體報導的新一波漲價,主要是 Intel 與高通的個人電腦處理器,AMD 據報導正在準備調價。這一波是個人電腦線,不是伺服器線。

撐住供給瓶頸這個讀法的,是出貨量只增 9%,加上 10-Q 寫需求超過可供應的產品。平均售價增 48% 不能全算成缺貨漲價,10-Q 說大部分來自賣出更多高階產品。AMD 自己把 2030 年伺服器 CPU 市場預測上修到超過 2,000 億美元,Helion 十一月供貨,Verano 2027 上半量產;NVIDIA 說 Vera 系統「今秋起」由系統廠與雲端夥伴供應;Arm 的 AGI CPU 系統已上市但沒有具名客戶。本報的讀法是,2026 下半到 2027 上半,誰有產能,誰就拿份額。這個讀法目前只有 Intel 一家的資料支撐。設計之爭要等到 2027 年底才有實測可比,那時 AMD 的 Venice 與 Verano、NVIDIA 的 Vera、Intel 的 Xeon 6+ 會爭同一批插槽。

比例的讀數也要照這個口徑看。TrendForce 寫「今天的 AI 資料中心 CPU 對 GPU 比約 1:4 到 1:8」,「未來預期移到 1:1 到 1:2 之間」;Arm 估計每 GW 的 CPU 核數從 3,000 萬升到 1.2 億;Intel 執行長一月說「過去是 1 比 8,現在是 1 比 4,我認為朝向持平甚至更好」。這些全是供應商或分析師的估計,口徑混用了顆數、功率與核數。公開資料裡唯一的實際園區案例是 Fairwater,功率比約 1 比 6,而且含儲存。它是功率比,和上面以顆數計的比例不是同一種分母,不能直接相比。

五、這對誰意味著什麼

  • 容量與電力:Meta 與微軟已經把 agent 執行要用的 CPU 和 GPU 分開採購,原判斷這一點是對的。規模可參考的公開案例只有兩個:Fairwater 的功率比約 1 比 6,DSec 每節點放 800 個 microVM。供應商說的 1 比 1 是估計。2026 下半到 2027 上半,這一池採購受限的是交期。
  • CPU 供應商:Intel 供不應求,出貨量只增 9%。對手有沒有因此拿到份額,本篇沒有 AMD 與 Arm 的一手供需資料,看不出來。四家在機架層公布的主要規格都是密度。設計之爭要到 2027 年底才有實測可比。
  • agent 平台與沙盒:沙盒託管的經濟學由密度與記憶體決定。DSec 的九成沙盒用不到申請 CPU 容量的 5%,這是一家公司強化學習訓練機隊的讀數。單執行緒速度的價值集中在序列工具步驟與強化學習迴圈。agent 平台中,目前只有 Perplexity 公開說把沙盒搬到 Vera,也沒有給規模。
  • 接下來的財報讀數:agentic CPU 這個題材目前有四家供應商,不只是 AMD 與 NVIDIA。最近的兩個讀數是十月二十九日 Intel 第三季財報裡伺服器出貨量與售價的拆分,以及 Helion 十一月供貨後,AMD 季度財報新聞稿有沒有出現客戶部署的陳述。

方向判斷

agent 執行這一層的 CPU,正在從 GPU 推論的機架分出來,成為另外採購的 CPU 容量。十月十二日的 OCP 大會上,AMD、NVIDIA、Intel 與 Arm 四家都端出了給 agent 執行用的 CPU 機架,本報十月十三日那期只記了前兩家。四家在機架層公布的主要規格都是密度。需求側已經有人分開買。Meta 向 AWS 買了數千萬個 Graviton5 核心。據 SemiAnalysis 報導,微軟 Fairwater 以 48 MW 的 CPU 與儲存建築配 295 MW 的 GPU。買方買的是 CPU 容量,還沒有人公開買專為 agent 設計的整櫃。AMD 的 Helion 十一月才供貨,NVIDIA 的 Vera 機架只交付了首批系統。核數密度與單執行緒速度,現有資料不支持二選一。DeepSeek 的沙盒論文 DSec 是一家公司的強化學習訓練機隊,九成沙盒用不到申請 CPU 容量的 5%,這支持沙盒託管靠密度。單執行緒一側只有供應商或其夥伴的自報數字,基線都沒指名。本報的讀法是兩種設計互補多於替代。2026 下半到 2027 上半,本報的讀法是這一層的份額取決於誰交得出核心。依據只有 Intel 一家:伺服器出貨量只增 9%,財報寫需求超過可供應的產品,據報導執行長說只能滿足約一半需求。同期 Intel 伺服器平均售價年增 48%,財報說大部分來自高階產品組合。

之後看哪幾個讀數

1. 十月二十九日 Intel 第三季財報:伺服器出貨量與平均售價的拆分。若出貨量成長明顯加快,或財報不再寫供不應求,代表供給瓶頸在放鬆。若出貨量仍只有個位數成長,第四節的判斷延續。

2. AMD 之後幾季財報新聞稿是否出現 Helion 純 CPU 機架的客戶部署陳述。這是「agent 櫃是真產品層」最直接的檢驗,已寫成下方第一條推翻條件。

3. 任何一份在同一 agent 負載上比較 Vera、Venice、Xeon 6+、AGI CPU 的獨立測試。出現之前,第三節所有單執行緒的倍數都只算自報。

4. 線上 agent 產品(非強化學習訓練)的沙盒 CPU 利用率是否有人公開。若明顯高於 DSec 的讀數,第三節「沙盒託管靠密度」要收窄。

什麼會推翻本篇

以下三條的檢驗期限都是 2027 年 6 月 30 日;期限與門檻是本報自設的觀察窗。

1. 到期限為止,AMD 的季度財報新聞稿從未出現 Helion 純 CPU 機架交付或部署給任何客戶的陳述。本篇「供給側分家已是全行業動作、產品層成形中」要降回「供應商敘事」,原判斷第 1 句「agent 推高 CPU 需求已變成機架級產品」,連同本篇第一節的讀法,一起作廢。

2. 出現獨立第三方在同一 agent 負載上的測試,結果同時符合兩點:Vera 的每核或單步速度至少是對照 CPU 的 1.5 倍;密度型 CPU 在沙盒託管上沒有對應優勢。第三節「互補多於替代」不成立,原判斷「單執行緒路線勝出」恢復。

3. Intel 第三季或第四季財報顯示伺服器出貨量年增回到兩位數且 Intel 財報不再寫需求超過可供應的產品,同時 AMD、Arm 也沒有報告供不應求。第四節「近期份額由供給決定」不成立,設計之爭提前成為買方的決策變數。


本篇依據的出處

以下由本篇引用的事實紀錄機械彙整,每條是其中一個事實的出處;原件本報是否讀過、還是只讀到轉述,以正文各段的說明為準。