大神觀點 · 今日 (發表日 9 月 8 日)
本篇出自 2026年9月9日 晨報
Evan Hubinger 是 Anthropic 對齊科學團隊的負責人;對齊是一個研究領域,目標是讓 AI 系統的行為符合人類意圖與價值。9 月 8 日他回應一名剛離職同事的長文時逐字寫:
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. […] we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.
翻成白話:Jacob 說的沒錯,我們真的認真相信 AI 有可能殺死所有人類。我個人認為未來十年內這個機率高於一成。……我們還沒有解決超級智慧對齊問題的方案,也不明顯走在解得掉的軌道上(Evan Hubinger,2026-09-08)。
只留 email,隨時退訂。這是我們唯一想請你做的事。
Sebastian Raschka 是長期寫深度學習架構解說的技術作者,經營電子報《Ahead of AI》,與模型廠商沒有利害關係(Ahead of AI,2026-09-09)…
對企業採購方來說,它影響的是「供應商對自己產品風險的內部評估」這一欄,而那一欄平常只能靠猜測。本報收的是「Hubinger 這樣說」,不是那個機率數字本身。 ⚠️ 那是他個人的主觀…
Zvi 9 月 7 日逐字寫:「Jakub Pachocki flat out says that no one is at a place where it would be r…
Box 執行長 Aaron Levie 9 月 6 日說,網際網路幾乎完全沒有為「每個人的個人 AI 代理人到處替他們執行任務」的未來做好準備,並引一個個案:訂位平台 Resy 封…