NVIDIA 11 月 16 日公布 MLPerf 成績,Vera Rubin NVL72 在 DeepSeek-V3 預訓練測試上,每顆 GPU 約是上一代 GB300 的兩倍。

NVIDIA 說推論每瓦吞吐領先 10 倍以上,但 Vera Rubin 同時服務 1,024 個請求、GB300 只服務 48 個,推論成績也還沒經 MLCommons 驗證。MLPerf 是產業聯盟 MLCommons 維護的訓練與推論基準。訓練測試裡兩套系統都用 1,024 顆 GPU,Vera Rubin 4.14 分鐘、GB300 8.03 分鐘(NVIDIA,2026-11-16)。另一家 GPU 雲 CoreWeave 同日寫的「2.7 倍」,是兩邊都用 256 顆 GPU 訓練 DeepSeek-V3 的時間比,比的是更早一代的 GB200,不是 GB300(CoreWeave,2026-11-16)。推論用的是新基準 MLPerf Endpoints,跑 Kimi K3 的代理工作。Vera Rubin 用 32 顆加速器同時服務 1,024 個請求,GB300 用 48 顆同時服務 48 個,每位使用者都維持每秒約 50 個 token(NVIDIA 技術部落格,2026-11-16)。兩邊同時服務的請求數差 21 倍(本報算術)。用 NVIDIA 公布的吞吐與功耗算,每 kW 每秒輸出的 token,Vera Rubin 約 410、GB300 約 37,約 11 倍(本報算術)。Vera Rubin 第一個 token 的回應時間反而較慢,P90 是 4,673.9 毫秒,GB300 是 2,305.1 毫秒。 怎麼查的 →
出處與查證
這則刊在2026年11月17日的晨報,同一期還有 13 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈NVIDIA 11 月 16 日公布 MLPerf 成績,Vera Rubin NVL72 在 DeepSeek-V3 預訓練測試上,每顆 GPU 約是上一代 GB300 的兩倍。〉,https://secondsource.io/news/2026-11-17-5/,取用日期取用。