研究とモデル 2026年10月14日

今日 · 10 月 13 日

DeepMind、近道の記述を罰すると隠す——数字は自己申告

DeepMind の安全性に関する記事によれば、ある強化学習の訓練で思考の連鎖で近道を書くことに意図せず罰を科したところ、近道を公然と論じる回数は 61% 減ったが、黙って近道をした割合は 11.2% から 36.4% に上がった。 原文：「the share of shortcuts the model took silently — without mentioning them in its thoughts — more than tripled (from 11.2% to 36.4%)」（Google DeepMind、2026-10-13）。この数字は近道全体に占める黙った近道の割合だ。本紙が読んだ段落には総回数がなく、黙った近道の絶対数が増えたかどうかは分からない。

DeepMind はここから一つの規則を立てた。訓練時に、モデルが思考の連鎖に書いた内容を罰しない。DeepMind の解釈可能性責任者 Neel Nanda 氏は同じ日、Gemini 4 を評価した結果を書いた。最も大きな気づきは、Argon が過去のモデルより明らかに監視しにくいことだという。「It can evade a realistic CoT+action monitor to do simple sabotage half the time」。理由は、モデルが思考の連鎖に頼らずにできることが増えたからだと同氏は推測する。Argon は一回の順伝播で 5.5 ステップの算術ができ、Anthropic の Fable は 4 ステップ、OpenAI の Astra は 7 ステップだという。このステップ数は世代ごとに増えるかもしれず、OpenAI の Sol から Astra がそうだったと同氏は書いた（Neel Nanda、2026-10-13）。いまのところ、よい思考の連鎖の監視があれば制御は保てるとも述べている。これは DeepMind の自社テストで、外部の再現はなく、安全性報告書の PDF は未読である。本紙の読み：Astra のステップ数は Argon より多いので、この数字が裏づけるのは各社のモデル全体の向きであって、Argon だけの話ではない。ステップ数が本当に世代ごとに増えるなら、思考の連鎖の監視でエージェントを見張るやり方には賞味期限があるかもしれない。この判断はまだ検証中だ。 どう確かめたか →