NVIDIA は Snapshot をオープンソースにした。初期化を終えた GPU の推論レプリカをチェックポイントに保存して復元する仕組みで、設計パートナーの Crusoe の自社測定では準備完了までの時間が約 8 分から 31 秒になった。

推論サービスがピークに備えて常に温めておくレプリカは減らせるかもしれないが、数字は NVIDIA の設計パートナーの自社測定で、第三者はまだ再現していない。モデルの重みだけをキャッシュするやり方に比べ、Snapshot は初期化を終えたレプリカを復元するので、NVIDIA によるとモデルの読み込みやウォームアップをやり直さなくてよい。Crusoe は GPU を貸し出すクラウド事業者で、測ったのは GLM-5.3 である。もう一社のパートナー Saturn Cloud は、オープンソースの推論エンジン vLLM をゼロから増やす場合を測り、起動時間は 2〜8.5 分から 6〜34 秒になった(NVIDIA、2026-11-10)。 どう確かめたか →
出典と検証
この記事は2026年11月11日の夕刊に掲載されました(同じ号にほか 15 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。
この記事を引用
SecondSource(2026)「NVIDIA は Snapshot をオープンソースにした。初期化を終えた GPU の推論レプリカをチェックポイントに保存して復元する仕組みで、設計パートナーの Crusoe の自社測定では準備完了までの時間が約 8 分から 31 秒になった。」https://secondsource.io/ja/product/2026-11-11-1/ (閲覧日閲覧)