SecondSource一次情報から判断を組み立てる

Paul Christiano 氏は Dwarkesh Podcast で、最先端のラボはモデルの重みとアルゴリズムの盗用をセキュリティで防げるようになるまで、アルゴリズムの進展を止めるべきだと主張した。

コンセプトイラスト:水色の背景の左端に立つ黒いシルエットの人物が、2本の支柱に立つ白いボードへ開いた手を差し出しており、ボード上端の右寄りには大きな黒い開き引用符が載り、ボード内には実線枠の左パネルと破線枠の右パネルが並び、どちらにも吹き出しを映したモニターのある机、ALGORITHMS と書かれた台の上で低い順に並ぶ4つの紙の束、大きな門枠の中の WEIGHTS と書かれた赤い箱が描かれている。左パネルではヘルメットの作業員が2番目に高い紙の束の上に立って紙を1枚いちばん高い束へ差し出し、右パネルでは紙の束の上に人はおらずいちばん高い束の上に小さな手すりがあり、ヘルメットの作業員2人(1人は立ち、1人はひざまずく)が箱の前にレンガの壁を積んで箱の下半分を覆い、そばの床に小さなレンガの山がある。 画像内の文字:6〜12か月 Christiano 氏によると、重みの盗用を防げるまで、セキュリティ強化にかかりうる期間。少なくとも数か月。

同氏は OpenAI の取締役で、AI を人の意図どおりに動かす方法を研究する機関 ARC を率いる。これは Christiano 氏個人の主張である。Christiano 氏は、いまの開発ペースを落とさずに進めば一年以内に超知能が現れる確率はおよそ三分の一で、セキュリティの強化には少なくとも数か月、場合によっては六か月から十二か月かかると述べた(Dwarkesh Podcast、2026-11)。この確率は同氏の主観的な見積もりであり、根拠となる計算モデルは示されていない。Anthropic が 11 月 17 日に出した上場申請の修正書類も、モデルの重みの流出対策を強めるために、次世代の最先端基盤モデルの事前学習を最近一か月あまり遅らせたと書く(Anthropic S-1/A、2026-11-17)。司会の Dwarkesh Patel 氏は、METR の結果を引いて Anthropic の進歩の速度が倍になったと述べた。そのうえで、売上高の数字を挙げて Christiano 氏に問い返した。Anthropic の 7〜9 月の売上高の増加分は、4〜6 月より小さい。同じ申請書類の四半期の表も同じ向きを示し、売上高は 1〜3 月 47.31 億、4〜6 月 115.55 億、7〜9 月 169.56 億ドルで、二つの四半期の増加分は 68.2 億と 54.0 億である(本紙の計算)。四半期の表は監査を受けていない。Christiano 氏は、一社の短期の売上高は大きくぶれる(原語は「extremely noisy」)と答え、長く見れば六か月ごとに倍以上のペースが続いているとした。同じ表で、1〜3 月から 7〜9 月までに売上高は 3.6 倍になった(本紙の計算)。 どう確かめたか →

出典と検証

この記事は2026年11月17日の夕刊に掲載されました(同じ号にほか 13 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。

この記事を引用

SecondSource(2026)「Paul Christiano 氏は Dwarkesh Podcast で、最先端のラボはモデルの重みとアルゴリズムの盗用をセキュリティで防げるようになるまで、アルゴリズムの進展を止めるべきだと主張した。」https://secondsource.io/ja/expert/2026-11-17-1/ (閲覧日閲覧)