SecondSource一次情報から判断を組み立てる

推論時計算(TTC)を一週間で点検する——資本面の読みは裏付けられたが、「予算」そのものは四つの軸に割れた

SecondSource 深掘りレポート #7

本稿の要点

最初に用語を一つ定めておく。TTC は test-time compute の略で、モデルが推論の場で、答えを返す前に追加で費やす計算時間とコストを指す。訓練段階の話ではない。「能力は TTC の予算とともに伸びる」という命題を出したのは、推論研究者の Noam Brown 氏である。一週間前、本紙はこの命題を次のように判断した。核心は成り立つ。ただし「何週間考えても壁に当たらない」という強い読みは、領域の境界を示す研究に押さえ込まれている。判断は慎重な側に置き、観察点を三つ残した。本稿はこの三つの観察点を一つずつ点検する。過去の号を読んでいなくても読めるよう、背景は各節でその場で説明する。

点検の結論はこうだ。この体制の資本面はマクロの水準で現実になった。推論への支出が訓練への支出を上回り、独立した三つの出典が同じ方向を指している。一方で、同じ週の証拠は「予算」という独立変数をばらばらにした。トークン、金額、レイテンシ、検証用の計算は、互いに置き換えのきかない四つの軸である。同じ予算でも、サービング基盤の設計しだいで 32% 節約にもなれば、121% 高くつきもする。そして Noam Brown 氏は、自身の最も強い論拠を自らの手で緩めた。体制は覆っていない。起きたのは解像度の引き上げであり、一本の曲線が領域ごとの地図に置き換わった。

本紙の地図の上で、この潮流は次の位置にある。

FlashAttention(2022)attention のコストが線形に——長い入力が払える額に
PagedAttention/vLLM(2023)KV キャッシュのページ化——大量の同時処理が払える額に
speculative decoding(2023-24)レイテンシと品質の切り離し
test-time compute(2024-)「考える時間」が新たに買えるコスト軸に

併存 ⇄

並行する経路推論の蒸留路線:強いモデルの推論過程を小型・高速モデルに蒸留し、狭い領域では考える時間を使わずに済ませる

この一週間で、三つの書き換えにそれぞれ新しい証拠が加わった——どれも一方向ではない

用語と結論を押さえたところで、命題が書き換えた三つの事柄を見ていく。Noam Brown 氏の命題は当初、三つを一度に書き換えた。評価の横軸は予算であるべきだという点。予算を固定した安全性評価では、高い予算のもとで現れる危険な能力を測れないという点。テイクオフの時間曲線は現実世界の待ち時間に縛られるという点である。今週、この三つがそれぞれ動いた。

  • 評価:コスト軸での描き直しは現れた。ただし描かれたのは生きた矛盾の一組で、詳しくは後で述べる。
  • 安全:Anthropic の責任あるスケーリング方針の第三版は、「能力の閾値による統治は部分的に機能しなかった」と珍しく自ら認めた。Noam Brown 氏の批判を別のラボが裏付けた形だが、機能しなかった理由は同氏の指摘より深い(Anthropic)。
  • テイクオフ:Noam Brown 氏自身が並列 TTC の製品を発表し、待ち時間を約 24 倍短縮したと主張した。ボトルネック論の提唱者が、その論に最初の製品水準の緩みをもたらした(Noam Brown)。

マクロの層:体制は業界の価格構造になった

三つの書き換えのうち、最も硬い証拠が出たのは資本の側である。推論への支出が訓練への支出を上回ったのは 2026 年初めだった。この方向を示す出典は今や独立に三つあり、もはや一社の噂ではない。 正確に言えば中身はこうだ。Zylos は累計支出で数えた。Deloitte は、AI の計算資源全体に占める推論の比率が 2025 年の約半分から 2026 年には約 2/3 に上がると推計する。業界メディアは、2026 年初めに推論が AI クラウド基盤の支出の 55% を初めて超えたと報じた。分母の違う三つの指標が同じ方向を向いているのであって、同じ主張を三者が再検証したわけではない。三つが共に支えるのは「逆転の方向と時期」であり、個々の比率ではない。この方向は 7 月 12 日の時点で出典ごとの照合を経ている(Zylos Research)。ここに、この体制が資本に持つ意味のマクロな実現がある。推論の計算需要は、払ってよいと考える予算に応じて弾力的に動く。一週間前に本紙は「真なら強気寄り」と書いた。今週、その証拠面が硬くなった。

同時に、「TTC の予算を能力に換える」こと自体が売り物の製品層になった。 互いに独立した三つの兆候がある。

  • AI 企業の AI21 は、複数回の試行、異なるモデルの組み合わせ、並列と直列の使い分け、批評と修正の繰り返しといった手法をすべてパラメータ化した。オフラインで「精度・コスト・レイテンシ」のトレードオフの前線を丸ごと見積もり、オンラインではリクエストごとに戦略を選ぶ。TTC の配分が研究上の小技から製品になったということだ(AI21 Labs Blog)。単一ソースの自己申告で、宣伝の性格を帯びている。
  • OpenAI は「並列 TTC」をそのままモデルの段階 Sol Ultra として製品化し、並列探索でレイテンシを買う(Noam Brown)。
  • 利用者の側では、2 つのモード×3 つのモデル×5 段階の強度で計 30 通りの設定が並び、選択肢が多すぎて迷う状態になった。実務家は費用対効果の目安を独自にまとめ始め、「Auto モードはどうなったのか」と問い返している(X / @rasbt)。

「価格構造になった」とは何を指すのか。一年前、「もう少し考えさせる」は論文の中の技法だった。今はプルダウンメニューで買う商品である。どの強度を選ぶか、並列にするか、速さを取るか安さを取るか。どの欄にも値札が付いている。


ミクロの層:「予算」という横軸そのものが割れた

マクロでは命題が裏付けられた。ところが一段下りて個々の利用の場を見ると、話は別になる。一週間前の結論は「評価はトークンかコストを横軸に取るべきだ」だった。今週の証拠が示すのは、その横軸すら一本の軸ではないということだ。

亀裂一:同じコスト曲線から、両陣営が正反対の結論を読む

Anthropic のスケーリング責任者 Moskovitz 氏は、Noam Brown 氏のコスト軸の曲線を引いて主張する。賢いモデルはトークン効率が高く、「一件の課題を解くのにかかる総コスト」で数えれば、大きなモデルに直接聞くほうがかえって安い(AI Supremacy)。同氏は売り手であり、立場に利害がある。同じ週、実務側の観察者である Raschka 氏の見方は正反対だった。最上位の出力が要る場合を除けば、安いモデルで強度の段階を上げるほうがたいてい割に合うという(X / @rasbt)。単一ソースの観察で、ベンチマークによる裏付けはない。現実の企業の行動は第三の位置にある。Ramp は社員に、メールを書くのに最も高価な Opus を使わないよう促しており、実務ではまだ用途別の振り分けが続いている。本紙の地図には「組織の中でモデルを階層的に使い分ける」という既存の判断があり、学術研究 RouteLLM の実証が支えている。この判断は Moskovitz 氏の論と正面からぶつかる。両論とも帳簿に残す。

この矛盾をどう読むか。見るべきは「トークンあたりの単価」ではなく、「一件の課題を解くまでの総額」である。単位経済への換算と言ってよい。矛盾の根はここにある。大きなモデルは単価が高いが、数百トークンで片づくかもしれない。小さなモデルは単価が安いが、数万トークンかけて粘るかもしれない。どちらが正しいかは、課題の難易度の分布と、両者のトークン効率の差で決まる。 簡単な課題が多ければ使い分けが勝ち、難しい課題が多ければ大きなモデルが勝つ。この問いは実証できる。主要 API の「課題一件あたりのコスト」を並べて監視すれば決着がつく。だから両論を並行して残し、本紙は勝者を決めない。

亀裂二:トークンの節約はコストの節約ではない——サービング基盤が収支を逆転させる

18 の課題とモデルの組み合わせで早期終了を比べた対照研究が、今週最も直観に反する数字を出した。同じ計算節約の手法が、計算済みの前置部分を再利用できる基盤ではトークンを 32% 減らし、全体を計算し直す必要がある基盤ではかえって 121% 高くつく(arXiv)。単一ソースで、未再現である。しかも早期終了に万能の勝者はない。自由記述の数学、選択式の問題、小規模で難度の高い競技問題はそれぞれ別の領域を成し、最後の種類には「認証できる積極的な節約法がない」。

この結果は体制にとって「裏付けと同時に範囲の縮小」である。TTC の価値が作業負荷によって本当に変わることを裏付ける一方、「性能対予算の曲線が一本あれば足りる」という見方を退けた。曲線の形は、サービング基盤が計算済みの部分を再利用できるかどうかで決まる。 評価軸は一次元から三次元になった。トークン、金額、基盤の設計である。

亀裂三:Noam Brown 氏が自身のテイクオフ論を緩めた——ただし並列化できる領域に限る

2025 年 6 月の Noam Brown 氏は、待ち時間こそ「AI の進歩には時間がかかる」とする側の最も強い論拠だと述べ、実験的な作業の大半は並列化できないとも述べた。2026 年 7 月 10 日の同氏は Sol Ultra を発表し、同じ水準の数学の証明にかかる時間を「おそらく丸一日」から「一時間」に縮めたと主張した。約 24 倍で、当事者自身による例示の数字である。投稿には perhaps という留保語も付いている(Noam Brown)。同じ時期、独立した実務家による長時間エージェントの実地試験は反対側に立つ。研究上の問いの多くは本質的に強く直列的で、50 のエージェントを並べてゼロから解かせることはできないという。むしろ単一のエージェントが自律的に八時間以上走り、発表できそうな進展がすでに見えたとしている(X / @arankomatsuzaki)。主観的な単一ソースである。学術面でも、「時間の長さそのものが訓練のボトルネックだ」とする逆方向の証拠は残っている。

まず二つを分けておく。「数学の証明は並列探索でレイテンシを縮められる」は工学上の事実であり、今のところ当事者が単一の領域で例示しただけである。「テイクオフの時間曲線は領域ごとに分かれる」はマクロの推論であり、前者は後者の最初のデータ点にすぎず、証明ではない。本稿の判断は弱い層にとどめる。動いたのはテイクオフ論争の座標である。「全体として速いか遅いか」から、「どの領域の待ち時間なら工学で回避できるか」に移った。並列に探索でき、機械で検証できる領域では、回避の事例が積み上がりつつある。Gemini は半自律で Erdős の未解決予想 700 件を走査し、自律的に 5 件の新しい結果を出した(X / @quocleix)。別の路線の「テスト時訓練」は、テストの場で強化学習によってモデルの重みを更新し続ける。サンプリングするだけで重みを変えない通常のテスト時の手法とは別の系統である。この路線はオープンモデルを使い、一題あたり数百米ドルのコストで未解決問題の最高記録を塗り替えている(arXiv)。一方、実験結果を待たなければならない創薬や材料の領域では、ボトルネックは元のままだ。Noam Brown 氏が 2025 年 6 月に添えた「実験的な作業の大半は並列化できない」という半文は、同氏自身を含め、いまだ誰にも覆されていない。「一夜でテイクオフはしない」という書き換えは覆っていない。ただ、その適用範囲が、製品水準の事例によって初めて縁から削られ始めた。

亀裂四:第四の軸——「検証」にも計算を積める

Stanford と Berkeley の周辺から出たプレプリントは、verification、つまり解が正しいかを判定する作業が、事前学習・事後学習・TTC に続く第四のスケーリング軸だと主張する。連続的なスコア、判定の粒度、評価の反復、基準の分解を掛け合わせる方式で、エージェント型の四つのベンチマークで最高成績を自己申告している(arXiv)。単一ソースだが、著者陣は強い。

この主張は、「TTC の利得は領域を条件とする命題だ」という見方に一つの機構的な説明の候補を与える。ここからは演繹であって、因果の観察ではない。TTC の利得を刈り取るのに「正誤を判定できる仕組み」が要るのなら、検証器に計算を積める領域では TTC が複利で効き、検証器のない領域では考えるほど間違いが増えるだけになる。そうであれば、領域の境界は経験上の偶然ではなく、「検証器があるかどうか」で決まる関数になる。ただし説明はこれだけではない。医療の領域で TTC が利得を生まないのは、因果の複雑さそのもの、検証の高すぎるコスト、データや倫理の制約によるのかもしれない。これらの代替説明と検証器仮説は見分けられる。代替説明が正しければ、より強い検証器に替えても解けない。そこが今後の答え合わせの場所になる。この説は二つ目の独立した出典を得て初めて、「推論のスケーリングは領域を条件とする命題だ」という判断の機構的な土台になる。今はまだ検証中の説明にとどまる。

領域の境界そのものも、7 月 15 日にさらに細かくなった。「計画能力」を下位の能力に分けて分析した研究によれば、「計画」は単一の能力ではない。局所的な行動と状態遷移の推論は、モデルの大型化と推論過程の延長で改善する。一方、目標に到達できるかを調べる構造の列挙は、規模にも推論予算にもほとんど反応しない(arXiv)。単一ソースで、領域の境界を示す反例がまた一つ加わった。境界は「領域」の間だけでなく、同じ課題の中の下位能力の間にも走っている。「能力は予算の関数である」という一文に求められる解像度は、さらに一段上がった。

統治が機能しなかった理由は、Noam Brown 氏の指摘より深い

四つの亀裂は能力の測り方の話だった。同じ問題は安全性の統治にも及んでいる。Noam Brown 氏の批判は「安全準備の枠組みが TTC の予算を勘定に入れていない」というものだった。Anthropic が 2026 年 2 月 24 日に責任あるスケーリング方針の第三版で示した自己点検は、もっと根が深い。能力の閾値による統治そのものが、方法論の天井に突き当たったという。同社は、モデル評価の科学はまだ決定的な答えを出せるほど成熟していないと書いた。生物リスクは「低いとも高いとも言えない」灰色の帯で止まり、方針は二本立ての緩和策と拘束力のないロードマップに切り替わった。リスク報告は 3〜6 か月ごとに出す(Anthropic)。これは同社の自己申告である。ラボをまたいだ裏付けは成り立つ。二つのフロンティアラボが別々の角度から同じことを認めた。固定したスナップショットでの能力評価では、TTC の時代の能力は測れない。 未照合の点が一つある。第三版の全文が TTC の予算を明文で組み込んでいるかどうかは、全文との照合を経ていない。組み込んでいれば、「統治の遅れ」は「統治が追いつき始めた」に書き換えることになる。


体制は倒れず、形を変えた——一本の曲線から、領域ごとの地図へ

ここまでの四つの亀裂を重ねると、この体制の形は次のように更新される。

能力 = f(予算 | 領域に検証器があるか、課題を並列化できるか、サービング基盤が再利用できるか)。

  • マクロ(資本):現実になった。推論支出の逆転は複数の出典で裏付けられ、TTC の配分は製品になった。一週間前の「強気寄り」という判断は証拠面が硬くなり、この柱は仮説から引用できる段階に移った。
  • ミクロ(工学と調達):割れた。「予算」は少なくともトークン、金額、レイテンシ、検証の四つの軸から成る。軸の間の交換レートはサービング基盤と課題の構造で決まり、全体に通じる定数はない。
  • 命題そのもの:「何週間考えても壁に当たらない」という強い読みは引き続き押さえ込まれている。「能力は予算とともに上がる」という弱い読みは引き続き成り立つ。新たに加わった判断はこうだ。次に見るべきは、誰が多くの GPU を燃やすかではなく、誰が「予算を能力に換える」配分の層を担うかである。

本誌の見立て

TTC 体制の資本面はマクロの水準で現実になった。しかし「予算」はトークン、コスト、レイテンシ、検証という複数の軸に割れつつあり、能力の関数は領域を条件とするものになった。検証器があるかどうかが、その機構の説明の候補である。「予算を能力に換える」配分の問題が勝負所になる。 ただし、この層を誰が握るかは決まっていない。フロンティアラボが内蔵する強度の段階や並列モードと、第三者の独立した配分の層が正面から競っている。「Auto モードの不在」は好機とも読めるし、配分を独立した製品にするのは難しいとも読める。
監視でき、同時にこの判断の反証条件にもなるものは三つある。①12 か月以内に、配分の層が独立して粗利を取る層として現れるか。いつまでもモデル企業の内蔵機能にとどまるなら「第三者の配分の層」という判断は死に、価値はモデル企業に帰す。②主要 API について、「課題一件あたりのコスト」で比べた公開の比較が現れるか。③検証器のない領域での TTC の利得が、検証器のある領域での利得の三分の一を超えない状態が続くか。

これは誰にとって何を意味するか

  • 推論の設備投資を判断する投資家:一週間前に本紙が注目点に挙げたのは「性能対予算の曲線の傾き」だった。今週の更新は、曲線は一本ではなく、行列になっているという点である。同じ推論予算の回収は、領域、課題の構造、サービング基盤の三つで同時に決まる。強気の論理は総量の層では成り立つ。しかし「その支出を誰が取るか」の層では、粗利は単に GPU を積む者ではなく、この行列を管理できる者に流れる。
  • エージェントを作る企業と AI の調達部門:今週は賛否の両陣営がそろった。「大きなモデルのほうがかえって安い」と「安いモデルで強度を上げる」である。どちらの全称命題も、そのままでは成り立たない。社内で意味を持つ計器は課題一件あたりのコストで、各社の課題難易度の分布で測ったときに初めて役に立つ。この一つの物差しで、両陣営の筋書きをまとめて裁ける。
  • AI の安全性と評価に携わる組織:Anthropic の自己点検は、問題を「準備の枠組みに TTC という変数が一つ足りない」から「スナップショット型の能力測定が全体として壁に当たった」に格上げした。能力が予算と領域の関数なら、「モデルに危険な能力があるか」はそもそも定義のはっきりした問いではない。「どれだけの予算で、どの領域で、どんな検証器を組み合わせたときか」が問いになる。この三つの条件を最初に手順へ書き込んだ機関が、次の世代の標準を定める。
  • TTC や推論の製品を手がける PM:前述の反証条件①、つまり 12 か月以内に独立して粗利を取る配分の層が現れるかどうかが、製品ロードマップの分かれ目になる。強度の配分の層を今のうちに自社で作るか、第三者の標準が現れるのを待つかは、この点で決まる。

本記事は日本語版・英語版・中国語版と同一の調査と判断にもとづいて書かれています。
出典にはリンクを付け、原文書と報道を区別し、確かめられなかった点を明記しています。

最後までお読みいただきありがとうございます。ご意見・ご感想は [email protected] までお寄せください。

他言語版が引いた出典

以下の出典は、この記事の他言語版の本文ではリンクされているが、この版の本文にはないため、ここに補う。