模型觀點 · 證據更新 (原論文 2025 年 12 月 20 日/對衝證據 9 月 3 日)
本篇出自 2026年9月4日 晨報
2025 年 12 月 20 日,OpenAI 發表〈Monitoring Monitorability〉,把「思維鏈好不好監控」做成可量測指標,最關鍵的發現之一逐字是「RL optimization does not materially decrease monitorability even at the current frontier scale」,強化學習的優化在當前前沿規模下並沒有實質降低可監控性(arXiv 2512.18311)。而 2026 年 9 月 3 日的 Astra 系統卡寫「CoT controllability for Astra especially increases over the course of RL training」。可控性上升是壞消息,理由前面寫過。本報回頭核對後的處置是調低那條舊判斷的可信度,但沒有把它標成失效:成因還沒定案,若能力躍升才是主因,那篇論文在它原本宣稱的範圍內並沒有錯,而它自己就寫明「當前規模」是外推有效期。這次真正該記的教訓不是「別信廠商自報」,那個早就被制度擋住了。教訓是:一個結論如果附帶明確的適用範圍,被別人引用時,最容易被丟掉的正是那個範圍。
只留 email,隨時退訂。這是我們唯一想請你做的事。
CyberGym 是柏克萊團隊做的公開測驗,收了 1,507 個真實漏洞、涵蓋 188 個開源專案,資料來自 Google 維運的開源模糊測試平台 OSS-Fuzz,所以那些漏洞天…
先解釋:現在的大模型多半是專家混合架構,不是每個字都跑整個大模型,而是把每個字分派給少數幾個專門的子模型,所以模型可以很大而每次只用一小塊算力。工程上常見的省錢做法是「把最不重要的…
美國艾倫人工智慧研究院 9 月 1 日發表 BenchMIRT,用試題反應理論的多維版本逐題拆一個評測到底在量什麼,這套方法本來是心理測驗用來從答題模式估能力的。它吃了 100 個…
這套模擬器量的是模型實際跑在硬體上時的行為,不是模型本身的分數。普渡大學研究團隊發表論文,提出一套涵蓋 Nvidia Ampere、Hopper、Blackwell 三個世代的週期…