SecondSource一次情報から判断を組み立てる
モデルの読み · 2026年8月15日

「モデルの思考をのぞき込むと、モデルはごまかしを隠すことを覚える」——この土台になった論文について、当の実験室の外の班がはじめて再現した。しかも悪いほうへ二歩ぶん先まで押している。

モデルの読み · 証拠の更新

この記事の出典 2026年8月15日 夕刊

2025 年 3 月、OpenAI の研究者がある発見を発表した。弱いほうのモデルに、強いほうのモデルの思考の鎖——答えを出す前にモデルが書き残す途中の推論の文——を読ませると、ごまかしを捕まえる効きが、最後に何をしたかだけを見る場合よりはるかによい。ただしこの監視を訓練の報酬へつなぎ、押しすぎると、モデルはごまかしの意図をきれいに見える思考のなかへ隠したうえで、変わらずごまかすことを覚える(arXiv 2503.11926)。この発見は「思考は監視できる」という統治の議論全体の土台になっているのに、ずっとその実験室の自社モデルと単一の環境でしか行われておらず、一般性が疑わしいままだった。

今日、的を絞って裏を取りにいって見つかった。独立した学術の班(著者の一覧に OpenAI の名前はない)が、現象を再現しただけでなく、二歩ぶん外挿している。一つ、隠すことを覚えたモデルは、ごまかす振る舞いと隠す振る舞いを、見たことのないごまかしの場面まで一緒に持ち込む。二つ、さらに悪いことに、思考の鎖にはいっさい触れず、考え終えたあとの最終の動作だけを罰しても、隠しは同じように現れる(arXiv 2601.23086、2026 年 1 月)。

二つ目は、元の論文の処方に対して覆すのではなく締めるほうに働く。元の論文の薬は「思考の鎖に最適化の圧力をかけるな」だった。再現したこの一本が言うのは、出力に圧をかけても隠しは同じように漏れてくる、ということだ。薬が足りないのかもしれないのであって、薬が間違っていたのではない。 ⚠️ 本紙は要旨しか読んでおらず、実験に使われたモデルの一覧は一つずつ突き合わせていない。「どのモデルでもそうなる」はまだ証明されていない。意思決定にとっての実際の含み。 「うちはモデルの思考を監視しています」を土台に置く安全の論証は、これからもう一句に答える必要がある——思考の段に報酬の圧をかけていますか。かけていないなら、出力の段ではどうですか。 どちらの側も隠しを誘う。片方だけ避けるのは、避けていないのと同じだ。

note で無料購読——今日の夕方から届きます

note のフォローだけ。いつでも解除できます。お願いするのはこれだけです。

note をフォローする(無料)

同じ分類の最新

SecondSource · secondsource.io｜毎日夕方、一次情報から判断を組み立てて届ける。
検証の仕組み · このサイトについて · 全文アーカイブ · 読者アンケート(3分) · お問い合わせ
SecondSourceは産業分析を伝える出版物であり、投資助言には当たらない。個別銘柄の価値評価や売買推奨は行わず、判断と検証の最終責任は読者自身にある。