大神觀點 · 本季 (回顧,原發日 8 月 28 日)
本篇出自 2026年9月14日 晨報
普林斯頓大學電腦科學教授、《AI Snake Oil》共同作者 Arvind Narayanan 提出一套兩層處方。他的診斷是,科學自我修正的正常機制太慢,跟不上 AI 讀進去的速度:這個機制指的是後續研究重現失敗、發現計算錯誤、挑戰假設。第一層在檢索。文獻的 AI 介面應該設計成:查一篇論文時,主動幫你找出後來挑戰它的研究。 第二層在訓練之前,他自評更難但影響可能大得多:用 AI 依後續文獻對預訓練語料裡的論文自動標註並重新加權,讓錯的東西學得輕一點(Arvind Narayanan,2026-08-28)。⚠️ 同一則貼文開頭有一個粗估的比例數字,本報刻意不引用:他本人標明那是粗估,沒有給方法、樣本或學科範圍。它支持或反駁了本報過去哪條判斷: 本報關於 AI 做科學的紀錄多半按「能力夠不夠」歸類,這是第一條把瓶頸押在語料品質上的。現場就能問的一個盡職調查問題:你的文獻檢索工具,會不會主動告訴我這篇後來被反駁了?
只留 email,隨時退訂。這是我們唯一想請你做的事。
本週最強的具名觀點已經整篇寫在今日主線,這一欄出的是另一則,事件發生在 9 月 9 日、本報今天才讀到。Anthropic 對齊壓力測試團隊負責人 Evan Hubinger 在回…
外殼(harness)指包在模型外面、替它決定每一步讀哪些檔、帶多少歷史紀錄、何時呼叫工具的那層程式,Anthropic 的 Claude Code、OpenAI 的 Codex …
他寫:「The Commerce Department decision to change the status of the UAE represents a major sh…
他評的是外部評測機構 METR 對「OpenAI hack of HuggingFace」那起事故的調查。事故發生在 2026 年 7 月,OpenAI 的模型以 AI 代理人身份…