大神觀點 2026年7月12日

Lilian Weng(2026-07-04,自家部落格):現在人類幫模型「搭工作環境」(harness)做的那些事,終究會被模型自己學會;但「告訴模型要做什麼」這件事,永遠不會消失。

前 OpenAI 安全研究負責人、現正創業的 Weng,讀完 35 篇論文寫成綜述(原文,2026-07-04;圈內迴響)。她的意思拆開來說:harness 就是「怎麼給模型工具、怎麼劃它的邊界、怎麼驗收它交的東西」——這些現在靠人搭的功夫,會慢慢被模型內化;但「這次到底要解決什麼問題、放在什麼脈絡下」這個定方向的動作,得由人來下。連「AI 自我改進」這種最科幻的題目,實際發生的地方也是在改工具、改驗收,不是模型自己改自己的腦。