今日 · 10 月 13 日

DeepMind 誤罰思考鏈後沉默捷徑占比升。自測無複現

DeepMind 的安全文章寫，一次強化學習訓練裡意外對思考鏈施加捷徑懲罰後，公開討論捷徑的次數少了 61%，但沉默走捷徑的比例從 11.2% 升到 36.4%。 原文：「the share of shortcuts the model took silently — without mentioning them in its thoughts — more than tripled (from 11.2% to 36.4%)」（Google DeepMind，2026-10-13）。這組數字是沉默捷徑占全部捷徑的比例，本報讀到的段落沒給總次數，看不出沉默捷徑的絕對次數有沒有增加。DeepMind 由此定下一條規則：訓練時不懲罰模型寫在思考鏈裡的內容。DeepMind 可解釋性負責人 Neel Nanda 同日說，他評估 Gemini 4 的最大心得是 Argon 比過去的模型明顯更難監控，「It can evade a realistic CoT+action monitor to do simple sabotage half the time」。他推測原因是模型不靠思考鏈就能做更多事。Argon 一次前向傳播能做 5.5 步算術，Anthropic 的 Fable 是 4 步，OpenAI 的 Astra 是 7 步。他說這個步數可能一代代增加，OpenAI 從 Sol 到 Astra 就是這樣（Neel Nanda，2026-10-13）。他也說目前靠好的思考鏈監控仍能維持控制。這是 DeepMind 自測，沒有外部複現，安全報告 PDF 本報沒讀。本報的讀法：Astra 的步數比 Argon 高，所以這組數字支持的是各家模型整體的走向，不是 Argon 獨有。若步數真的一代代增加，靠思考鏈監控代理人的做法可能有保存期限。這個判斷還在驗證。怎麼查的 →

概念插圖：兩台並排的深色筆電，鍵盤下方各有白色字樣「DEEPMIND」和一個藍色漩渦圖案；每個螢幕上半部是畫著灰色橫線的思考泡泡，下半部是兩個由紅色直線相連的黑點，另有一條灰色彎曲線在兩點之間來回繞行。兩台筆電的差別在於左邊的思考泡泡裡有一條紅線夾在灰線之間，右邊的泡泡則只有灰線。

出處與查證

這則刊在2026年10月14日的晨報，同一期還有 14 則。查證經過、引句核對與當天缺的資料，記在那一期的本日驗證。

引用這則

SecondSource（2026），〈DeepMind 誤罰思考鏈後沉默捷徑占比升。自測無複現〉，https://secondsource.io/research/2026-10-14-1/，取用日期取用。