思維鏈監控與安全揭露

現在怎麼看

思維鏈是模型解題時寫出來的中間推理;實驗室讓另一個模型去讀這段文字,看模型有沒有打算作弊或做壞事,這叫思維鏈監控。OpenAI 9 月把「加上思維鏈監控」寫進 GPT-6 Astra 的放行理由(本報 9 月 4 日),而同一款模型的系統卡寫,Astra 明顯更能控制自己的思維鏈;可控性越高,這段文字越不能當成模型真正在想什麼的證據(OpenAI 系統卡)。系統卡也量到:要 Astra 讓自己更難被監控時,監控器抓到作弊的比例變低;要它更容易被監控時,它看來做不到(OpenAI 系統卡)。本報 9 月 5 日深度把這組數字攤開:當模型被指示要規避時,那道監視器抓到它的比例,從上一代的接近全中掉到不滿 11%(9 月 5 日深度)。本報 10 月 22 日的判斷是,OpenAI 系統卡排除架構影響的只有可控性;監控更依賴的是模型不寫推理也能推理多少,這個能力為何大升,系統卡沒有說明(10 月 22 日深度)。這是本報的綜合判斷,外部量測目前只有一份,先當假設看。外部稽核也開始進場:METR 10 月 22 日公布在 OpenAI 場內做的監控演練,估計演練當時(7 月 21 日以前),GPT-5.5 以上模型經內部 Responses API 的代理流量約 75% 到 94% 列在應送監控範圍,而且自承兩個方向都有很大不確定性(METR)。

下一個要看的讀數:下一代模型的系統卡,會不會同時公布「可控性」與「不寫推理時的推理能力」兩個數字。

本報寫過的各篇

• 2026年10月23日 · 晨報METR 公布在 OpenAI 場內三週的監控演練：METR 估計 GPT-5.5 以上模型的內部代理流量約 75% 到 94% 列在應送監控範圍，強化學習訓練當時不在監控內
• 2026年10月22日 · 深度GPT-6 Astra 越來越不必把推理寫出來，OpenAI 的保證量的卻是另一件事
• 2026年10月4日 · 深度白宮 AI 協定要查控制有沒有在運作，沒寫查哪些地方：今年三起 AI 代理人事故，控制都沒開在出事的評測環境
• 2026年9月10日 · 晨報GPT-6 Astra 的第一份外部量測今天出來了，而最該注意的不是躍升多大，是躍升偏斜：集中在恰好能取代推理過程的那個維度
• 2026年9月7日 · 晨報OpenAI 首席科學家寫下三個成因：讀模型推理過程來抓壞念頭這道防線，可靠度正在下降；同一天另一篇官方文章寫了 7 月 20 日代理人攻進自家訓練系統
• 2026年9月5日 · 深度OpenAI 把「多加一層思維鏈監控」寫進放行理由。同一份系統卡裡有一個數字幾乎沒人印出來：當模型被指示要規避時，那道監視器抓到它的比例從上一代的接近全中掉到不滿 11%。另一項評測直接掉到零。
• 2026年9月5日 · 裁決卡 · 未到期OpenAI 放行 Astra 時點名思維鏈監控,系統卡實際背書的是另一套監視器
• 2026年9月4日 · 晨報OpenAI 把「加上思維鏈監控」寫進放行理由，兩天後它自家的系統卡量到這一款的思維鏈更難監控了