Lilian Weng(2026-07-04,自家部落格):現在人類幫模型「搭工作環境」(harness)做的那些事,終究會被模型自己學會;但「告訴模型要做什麼」這件事,永遠不會消失。

前 OpenAI 安全研究負責人、現正創業的 Weng,讀完 35 篇論文寫成綜述(原文,2026-07-04;圈內迴響)。她的意思拆開來說:harness 就是「怎麼給模型工具、怎麼劃它的邊界、怎麼驗收它交的東西」——這些現在靠人搭的功夫,會慢慢被模型內化;但「這次到底要解決什麼問題、放在什麼脈絡下」這個定方向的動作,得由人來下。連「AI 自我改進」這種最科幻的題目,實際發生的地方也是在改工具、改驗收,不是模型自己改自己的腦。

它接住本報哪條判斷:與今日主線第 2 點 Modal 的第一線實況同向(自動化發生在外圍苦力層,不在核心研究層),也是今日主線第 5 點共識的第三個獨立原點。折扣:她正在創業,文章方向與自家利益相關 — 框架照用,樂觀程度打折。

同類最新

• 大神觀點 2026年9月10日 1 條來源

  同一份獨立評測指數，廠商讀成「佔據成本效率前緣的多數」，一位具名技術作者讀成「清楚在前緣，但沒有大幅領先」。

  Sebastian Raschka 是長期寫深度學習架構解說的技術作者，經營電子報《Ahead of AI》，與模型廠商沒有利害關係（Ahead of AI，2026-09-09）…

• 大神觀點 2026年9月9日 1 條來源

  Anthropic 的對齊研究主管公開說：我個人認為未來十年內 AI 殺死所有人類的機率高於一成，而公司還沒有解決方案。

  Evan Hubinger 是 Anthropic 對齊科學團隊的負責人；對齊是一個研究領域，目標是讓 AI 系統的行為符合人類意圖與價值。9 月 8 日他回應一名剛離職同事的長文…

• 大神觀點 2026年9月9日

  這是一家公司的對齊負責人，公開否認自己公司有解決方案。

  對企業採購方來說，它影響的是「供應商對自己產品風險的內部評估」這一欄，而那一欄平常只能靠猜測。本報收的是「Hubinger 這樣說」，不是那個機率數字本身。 ⚠️ 那是他個人的主觀…

• 大神觀點 2026年9月8日 1 條來源

  他讀完 OpenAI 首席科學家那篇文章的結論，和本報 9 月 7 日那期的讀法方向相反：Pachocki 比多數人樂觀。

  Zvi 9 月 7 日逐字寫：「Jakub Pachocki flat out says that no one is at a place where it would be r…