大神觀點 2026年9月9日

今日 · 發表日 9 月 8 日

Anthropic 的對齊研究主管公開說：我個人認為未來十年內 AI 殺死所有人類的機率高於一成，而公司還沒有解決方案。

Evan Hubinger 是 Anthropic 對齊科學團隊的負責人；對齊是一個研究領域，目標是讓 AI 系統的行為符合人類意圖與價值。9 月 8 日他回應一名剛離職同事的長文時逐字寫：

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. […] we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

翻成白話：Jacob 說的沒錯，我們真的認真相信 AI 有可能殺死所有人類。我個人認為未來十年內這個機率高於一成。……我們還沒有解決超級智慧對齊問題的方案，也不明顯走在解得掉的軌道上（Evan Hubinger，2026-09-08）。