Paul Christiano 氏は Dwarkesh Podcast で、最先端のラボはモデルの重みとアルゴリズムの盗用をセキュリティで防げるようになるまで、アルゴリズムの進展を止めるべきだと主張した。

同氏は OpenAI の取締役で、AI を人の意図どおりに動かす方法を研究する機関 ARC を率いる。これは Christiano 氏個人の主張である。Christiano 氏は、いまの開発ペースを落とさずに進めば一年以内に超知能が現れる確率はおよそ三分の一で、セキュリティの強化には少なくとも数か月、場合によっては六か月から十二か月かかると述べた(Dwarkesh Podcast、2026-11)。この確率は同氏の主観的な見積もりであり、根拠となる計算モデルは示されていない。Anthropic が 11 月 17 日に出した上場申請の修正書類も、モデルの重みの流出対策を強めるために、次世代の最先端基盤モデルの事前学習を最近一か月あまり遅らせたと書く(Anthropic S-1/A、2026-11-17)。司会の Dwarkesh Patel 氏は、METR の結果を引いて Anthropic の進歩の速度が倍になったと述べた。そのうえで、売上高の数字を挙げて Christiano 氏に問い返した。Anthropic の 7〜9 月の売上高の増加分は、4〜6 月より小さい。同じ申請書類の四半期の表も同じ向きを示し、売上高は 1〜3 月 47.31 億、4〜6 月 115.55 億、7〜9 月 169.56 億ドルで、二つの四半期の増加分は 68.2 億と 54.0 億である(本紙の計算)。四半期の表は監査を受けていない。Christiano 氏は、一社の短期の売上高は大きくぶれる(原語は「extremely noisy」)と答え、長く見れば六か月ごとに倍以上のペースが続いているとした。同じ表で、1〜3 月から 7〜9 月までに売上高は 3.6 倍になった(本紙の計算)。 どう確かめたか →
出典と検証
この記事は2026年11月17日の夕刊に掲載されました(同じ号にほか 13 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。
この記事を引用
SecondSource(2026)「Paul Christiano 氏は Dwarkesh Podcast で、最先端のラボはモデルの重みとアルゴリズムの盗用をセキュリティで防げるようになるまで、アルゴリズムの進展を止めるべきだと主張した。」https://secondsource.io/ja/expert/2026-11-17-1/ (閲覧日閲覧)