SecondSource從一手資料重建判斷
大神觀點 · 2026年9月9日

Anthropic 的對齊研究主管公開說:我個人認為未來十年內 AI 殺死所有人類的機率高於一成,而公司還沒有解決方案。

大神觀點 · 今日 (發表日 9 月 8 日)

本篇出自 2026年9月9日 晨報

Evan Hubinger 是 Anthropic 對齊科學團隊的負責人;對齊是一個研究領域,目標是讓 AI 系統的行為符合人類意圖與價值。9 月 8 日他回應一名剛離職同事的長文時逐字寫:

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. […] we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

翻成白話:Jacob 說的沒錯,我們真的認真相信 AI 有可能殺死所有人類。我個人認為未來十年內這個機率高於一成。……我們還沒有解決超級智慧對齊問題的方案,也不明顯走在解得掉的軌道上(Evan Hubinger,2026-09-08)。

免費訂閱,明天早上就收得到

只留 email,隨時退訂。這是我們唯一想請你做的事。

同類最新