AI 新聞 2026年10月29日

回顧 · 本報 10 月 22 日深度

深度主張 AI 安全規範該綁結果不綁架構

AI 安全界靠讀模型的推理草稿抓問題，本報深度主張相關規範該綁在量得到的結果上，不綁在模型架構上。 本報 10 月 22 日的深度寫，AI 安全界靠讀模型答題前寫下的推理草稿抓模型做壞事，前提是模型碰到難題非寫出來不可。本報推論：模型被要求躲開監視時還被抓到多少，目前只有 OpenAI 自己量過，外界的採購條款能綁的只有這個自報數字。深度的起點是 OpenAI 9 月的旗艦 GPT-6 Astra。這款模型不寫草稿也能推理的能力大幅躍升，外部重跑也確認了這項躍升。OpenAI 自家系統卡量到，模型被指示躲開監視時，只讀推理草稿的監視器在一項評測只抓到不到 11%，在另一項一次也沒抓到。外界懷疑躍升是新架構造成。系統卡寫，模型照指令改寫推理草稿的能力並非特別由架構造成。Google DeepMind 研究員 Neel Nanda 比了 34 個開放模型，也看不出改寫草稿與不寫草稿推理這兩種能力一起變動。所以深度主張，採購條款與監管規範該綁在量得到的結果上，不綁在架構上。深度刊出後，OpenAI 10 月 26 日的 GPT-6.1 Terra 系統卡也沒說明不寫草稿的推理能力為什麼躍升。若有人在不公開權重的前沿模型上量到這兩種能力的關係，這個讀法就要改寫（深度全文；GPT-6.1 Terra 系統卡，2026-10-26）。 怎麼查的 →