SecondSource從一手資料重建判斷

今日 · 部落格 10 月 23 日

CoreWeave 強化學習只傳權重增量。單一配置自報

CoreWeave 自報,強化學習訓練中途更新權重時只傳增量、就地換上,增量約是完整權重檔的 0.14% 到 0.95%。 CoreWeave 是專門出租 GPU 的雲端業者。強化學習訓練要不停讓模型產生樣本,每次權重更新,都要同步到產生樣本的推論服務。CoreWeave 寫,用 NVIDIA 的 Nemotron 3.5 Lightning 測,增量約是完整 BF16 權重檔的 0.14% 到 0.95%(CoreWeave,2026-10-23)。冷啟動指整個推論服務關掉重開、重新載入完整權重。CoreWeave 寫,最快一次熱載入比平均的冷啟動重新部署快約 15 倍。這是在 4 個副本、GB300 NVL72 機櫃上量的,比的是最快的一次熱載入對冷啟動的平均值,不是同一種統計量。這是單一配置的廠商自報,沒有第三方重現。 怎麼查的 →

概念插圖:一台平板的螢幕分成左右兩格。左格中,底下有循環箭頭的伺服器旁立著一座標有 WEIGHTS 的高層疊堆,箭頭從疊堆指向一台螢幕全黑的伺服器,底部一條長箭頭指回左方。右格中,同樣附循環箭頭的伺服器伸出箭頭,穿過掛著 DELTA 標籤的紅色薄片,指向一座夾著一層紅色的高層疊堆;疊堆以一段灰色短件連到螢幕顯示對話框圖示的伺服器,底部箭頭帶著四張小文件卡指回左方。平板下方是一塊帶藍色幾何標記、寫著 COREWEAVE 字樣的牌子。

出處與查證

這則刊在2026年10月25日的晨報,同一期還有 8 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。

引用這則

SecondSource(2026),〈CoreWeave 強化學習只傳權重增量。單一配置自報〉,https://secondsource.io/product/2026-10-25-2/,取用日期取用。