SecondSource一次情報から判断を組み立てる

NVIDIA は Snapshot をオープンソースにした。初期化を終えた GPU の推論レプリカをチェックポイントに保存して復元する仕組みで、設計パートナーの Crusoe の自社測定では準備完了までの時間が約 8 分から 31 秒になった。

コンセプトイラスト:左下には横長の通気口が並ぶ濃い灰色のサーバー筐体があり、オレンジ色のひし形のマークと CRUSOE の文字が付いている。その右には濃い灰色の枠の大きなボードがあり、上部のタブに GLM-5.3 と書かれている。ボード内では左端の細い縦線のそばから二つの列が始まる。上の列には左から順に、画面が空の端末、MODEL と書かれたカードの束、五つの歯車の下にある WARM-UP と書かれた長いバー、吹き出しを映す端末が並び、灰色のバーでつながっている。ずっと短い下の列では、画面が空の端末の一部がレンガ色のカードに覆われている。カードには NVIDIA SNAPSHOT の文字、緑の小さなマーク、吹き出しを映す端末の絵が描かれており、この列は灰色のバーで右側の吹き出しを映す端末につながっている。 画像内の文字:約 8 分→31 秒 GLM-5.3 推論レプリカ、準備完了までの時間、Snapshot 導入前後、NVIDIA の設計パートナー Crusoe の自社測定。

推論サービスがピークに備えて常に温めておくレプリカは減らせるかもしれないが、数字は NVIDIA の設計パートナーの自社測定で、第三者はまだ再現していない。モデルの重みだけをキャッシュするやり方に比べ、Snapshot は初期化を終えたレプリカを復元するので、NVIDIA によるとモデルの読み込みやウォームアップをやり直さなくてよい。Crusoe は GPU を貸し出すクラウド事業者で、測ったのは GLM-5.3 である。もう一社のパートナー Saturn Cloud は、オープンソースの推論エンジン vLLM をゼロから増やす場合を測り、起動時間は 2〜8.5 分から 6〜34 秒になった(NVIDIA、2026-11-10)。 どう確かめたか →

出典と検証

この記事は2026年11月11日の夕刊に掲載されました(同じ号にほか 15 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。

この記事を引用

SecondSource(2026)「NVIDIA は Snapshot をオープンソースにした。初期化を終えた GPU の推論レプリカをチェックポイントに保存して復元する仕組みで、設計パートナーの Crusoe の自社測定では準備完了までの時間が約 8 分から 31 秒になった。」https://secondsource.io/ja/product/2026-11-11-1/ (閲覧日閲覧)