一篇自稱開出「第三條預訓練軸」的論文，被同一個旋鈕的兩個指標打了對台，2026-08-04。

本篇出自 2026年8月9日 晨報

「第三條軸」是論文自己的分類，本報不背書。論文〈Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation〉（arXiv 2607.27372）自報運算效率 4.1 倍、樣本效率 6.2 倍。前 Meta 研究者 Armen Aghajanyan 指出的那組數字形狀特別乾淨：當每一步生成的備選數量增加時，論文正在最佳化的那個指標一路變好（0.0896 → 0.0763 → 0.0703），而真正代表泛化能力的保留集指標一路變壞（0.1437 → 0.1631 → 0.1835）。同一個旋鈕、兩個指標、方向完全相反、而且都是單調的（原文，2026-08-04）。保留集是訓練時完全沒看過、專門留著檢驗的資料；在訓練分布上變好而在它上面變壞，是「被最佳化的指標」與「真正想要的性質」脫鉤的教科書形狀。⚠️ 那組反轉數字是單一來源報出、本報未複現，也未確認其實驗設定與論文原設定是否可比——這正是本則自己在批評的錯誤類型，所以它是值得追的線索，不是已成立的反駁；論文全文本報未讀，而爭議恰恰全在實驗章節。能拿走的三題盤問清單（不需要讀懂技術細節就能問）：這個指標是在哪裡量的，訓練分布還是保留集？分母裡有沒有東西被拿掉？這是新的，還是舊的換個名字？效率宣稱正在成為估值模型與採購決策的輸入，這三題是把它拉回可查證狀態的最短路徑。

同類最新

• 模型觀點 2026年8月5日 2 條來源

  知識廣度與誠實度是兩條可以分開的軸，規模只推得動前者。

  評測機構 Artificial Analysis 的 AA-Omniscience 榜設計特殊：答錯扣分、承認不知道不扣分，所以同時量到知識廣度與「拒絕瞎編」的傾向。Teortax…

• 模型觀點 2026年8月5日 1 條來源

  一道任何人都能重做的算力對帳。

  Teortaxes 對 DeepSeek 2024 年底 V3 模型的官方揭露做雙路徑驗算：硬體路徑（卡數 × 每卡實際算力 × 秒數）和模型路徑（活躍參數 × 訓練資料量 × 標…

• 模型觀點 2026年8月3日 2 條來源

  K3 與 Opus 4.8 的「差一分」拆到任務層：能力剖面真的重合，殘差集中在數學一項。

  先說這「差一分」是哪把尺量出來的：第三方評測機構 Artificial Analysis 的綜合智力指數，也就是把多項測驗加權成一個總分的排行榜；Kimi K3 與 Anthrop…

• 模型觀點 2026年8月3日 1 條來源

  「模型自己改進自己」進了發布文案：K3 早期版寫了大多數加速核心。

  K3 發布材料兩條線（經 Teortaxes 逐字轉引）：開發後期「一個早期版本的 K3 撰寫了大多數 kernel」。kernel 是決定模型跑多快的底層加速程式，等於用上一版模…