OpenAI 董事、研究怎麼讓 AI 照人的意圖做事的機構 ARC 負責人 Paul Christiano 在 Dwarkesh Podcast 主張,前沿實驗室在資安擋得住權重與演算法被竊之前,應暫停演算法進展。

這是 Christiano 以個人身分提出的主張,所附的機率是個人主觀估計、沒有附模型。Christiano 說,照現在的路走、不放慢,一年內出現超級智慧的機率大約三分之一;補強資安至少要幾個月,可能要六到十二個月(Dwarkesh Podcast,2026-11)。Anthropic 11 月 17 日送交的上市申請修正文件也寫,Anthropic 最近為了加強防止模型權重外流,把新一代前沿基礎模型的預訓練延後了一個多月(Anthropic S-1/A,2026-11-17)。主持人 Dwarkesh Patel 引 METR 的結果說 Anthropic 的進步速度翻倍,再拿營收反問:Anthropic 7 到 9 月的營收增量比 4 到 6 月少。同一份申請文件的季表對得上方向:營收 1 到 3 月 47.31 億、4 到 6 月 115.55 億、7 到 9 月 169.56 億美元,兩季增量是 68.2 億與 54.0 億(本報算術)。季表未經審計。Christiano 回答,單一公司的短期營收起伏很大(原話「extremely noisy」),拉長看仍是每六個月翻倍以上;同一張季表上,1 到 3 月到 7 到 9 月營收是 3.6 倍(本報算術)。 怎麼查的 →
出處與查證
這則刊在2026年11月17日的晨報,同一期還有 13 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈OpenAI 董事、研究怎麼讓 AI 照人的意圖做事的機構 ARC 負責人 Paul Christiano 在 Dwarkesh Podcast 主張,前沿實驗室在資安擋得住權重與演算法被竊之前,應暫停演算法進展。〉,https://secondsource.io/expert/2026-11-17-1/,取用日期取用。