研究とモデル 2026年10月12日

今週 · 10 月 9 日の番組

Laskin 氏、強化学習の計算が事前学習超え——差は語らず

Reflection AI の CEO Misha Laskin 氏によると、自社のオープンウェイトモデル Beam は事前学習に GB300 を 6,000 個使って数週間、強化学習には一万個あまりを使って 4 週間まわし、強化学習に投じた計算資源のほうが事前学習より多かった。 事前学習とは、大量の文章を読ませて次の語を続けられるようにする段階で、強化学習とは、モデルに問題を解かせ、正誤に応じて報酬を与えて調整する段階である。GB300 は NVIDIA の最新世代のデータセンター向け GPU だ。Beam は総パラメータ 5,000 億のうち一度に 230 億だけを動かす混合専門家（MoE）型で、毎回パラメータの一部だけを呼び出す（No Priors、2026-10-09）。事前学習が最も計算資源を食うという一般の印象とは逆の話だが、強化学習がどれだけ多かったかは語っていない。同氏は、事前学習はいまなら約 12 日で終わるとも述べたが、これは現在の速さで、この版に実際にかかった時間ではない。裏付けは Reflection AI 自身の説明だけで、外部の検証はまだない。同じ回の Laskin 氏の別の発言は、今日の中核 1 にも出てくる。 どう確かめたか →