NVIDIA 開源 Snapshot,把初始化完成的 GPU 推論副本存成檢查點再還原,設計夥伴 Crusoe 自測就緒時間由約 8 分鐘降到 31 秒。

推論服務為應付尖峰而常駐的暖機副本或許可以減少,但數字是 NVIDIA 的設計夥伴自測,還沒有第三方重做。和只快取模型權重的做法相比,Snapshot 還原的是已經初始化完成的副本,NVIDIA 說不必重新載入模型或暖機。Crusoe 是出租 GPU 的雲端業者,測的是 GLM-5.3。另一家夥伴 Saturn Cloud 測開源推論引擎 vLLM 從零擴容,啟動時間由 2 到 8.5 分鐘降到 6 到 34 秒(NVIDIA,2026-11-10)。 怎麼查的 →
出處與查證
這則刊在2026年11月11日的晨報,同一期還有 15 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈NVIDIA 開源 Snapshot,把初始化完成的 GPU 推論副本存成檢查點再還原,設計夥伴 Crusoe 自測就緒時間由約 8 分鐘降到 31 秒。〉,https://secondsource.io/product/2026-11-11-1/,取用日期取用。