SecondSource從一手資料重建判斷
大神觀點 · 2026年8月10日

Geoffrey Irving(UK AISI 首席科學家,曾任職 DeepMind 與 OpenAI),2026-08-07:「我不認為現在有任何人在前沿實驗室做能力研究是理性的。我們並不處在囚徒困境裡:情況非常危險,而且如果一個人或一家實驗室停下來,其他人或其他實驗室要停下來會變得更容易、也更能被同儕接受。」

大神觀點

本篇出自 2026年8月10日 晨報

原文

白話一句:囚徒困境的前提是「單方退出會被懲罰」,而 AI 競賽最常見的辯護正是「我不做別人也會做,停下來只是把優勢讓給更不小心的人」。Irving 主張前提是反的:單方停下來會降低別人停下來的社會成本,所以這是協調賽局。同一天,OpenAI 在職政策研究者 Yo Shavit 也說:「當前這場 AI 競賽發生在兩家相距不到兩英里的公司之間。大家明天在 Presidio 公園碰個面,就……把事情喬一喬」(原文)。

它動到本報過去哪條判斷:本報既有的安全論述多半在爭「風險有多大/該管什麼」,這兩位攻擊的是賽局前提本身,而其中一位還在當事公司之一任職,這是本報記錄這條線以來第一次。⚠️ 兩則都是零證據的規範性主張,也不得推論為離職或內部異議

免費訂閱,明天早上就收得到

只留 email,隨時退訂。這是我們唯一想請你做的事。

同類最新