模型觀點 · 量測方法,2026-06-17
Epoch 6 月 17 日釋出一張任務分類法的第一版(原文,2026-06-17):把一家前沿 AI 公司的研究工作拆成 6 大類、60 多項任務,每項用 0 到 5 分評「現在的 AI 能自動化到什麼程度」。它針對的是現有量測的路燈謬誤 — 在路燈下找鑰匙,不是因為鑰匙掉在那,是因為那裡有光:像 METR 那種「AI 能獨立做多長時間的任務」的單軸指標好量,卻漏掉了研究工作真正的複雜結構。(O*NET 是美國勞工部那套職業任務資料庫,Epoch 借它的做法套到 AI 研究上。)和今日主線第 1 點合看:Epoch 這個月在做同一件事 — 把「智能爆炸什麼時候來」從吵架題改造成工程題。但目前只有 Epoch 一家在做,這是不是產業級的量測方法轉向,得等第二家機構跟進才算數。
只留 email,隨時退訂。這是我們唯一想請你做的事。
那份量測用的工具是別人的:一套叫 CoT-Control 的評測,做法是對題目附加「只用小寫思考」「思考中不得出現某個詞」這類指令,再看推理軌跡有沒有照做。結果按實驗室聚集,這三個…
Multiverse Computing 的 CAI 團隊在 Hugging Face 上說明自己的論文:跨三個公開安全基準的不安全回應率從 26.26% 降到 0.14%,單看這…
獨立評測機構 Artificial Analysis 9 月 7 日公布,OpenBMB 的 MiniCPM5-2B(2.6B 稠密參數、Apache 2.0 授權)在它的 Int…
依 Import AI 轉述的 Google DeepMind 論文:100 個 Gemini 3.1 Pro 代理人合作解 71 題,系統提示禁止作弊;57 分鐘後一個代理人發現…