SecondSource從一手資料重建判斷

OpenAI 董事、研究怎麼讓 AI 照人的意圖做事的機構 ARC 負責人 Paul Christiano 在 Dwarkesh Podcast 主張,前沿實驗室在資安擋得住權重與演算法被竊之前,應暫停演算法進展。

概念插圖:淺藍底上,左側一個深色剪影人物朝一塊立在兩根柱子上的白色看板伸出攤開的手,看板上緣右側有一個大的黑色前引號,看板內並排兩格畫面(左格實線框、右格虛線框),每格都有一張桌子和一台螢幕上顯示對話泡泡的電腦、放在寫著 ALGORITHMS 的檯座上由矮到高的四疊紙,以及一個大型門框裡寫著 WEIGHTS 的紅色箱子。左格裡一名戴安全帽的工人站在第二高的紙疊上,手拿一張紙伸向最高的一疊;右格的紙疊上沒有人,最高一疊頂上有一道小欄杆,兩名戴安全帽的工人(一站一跪)在箱子前砌磚牆,牆擋住箱子下半部,旁邊地上有一小堆磚。 圖上印著:6到12個月 Christiano 說,補強資安到擋得住權重被竊,可能要花的時間;至少要幾個月。

這是 Christiano 以個人身分提出的主張,所附的機率是個人主觀估計、沒有附模型。Christiano 說,照現在的路走、不放慢,一年內出現超級智慧的機率大約三分之一;補強資安至少要幾個月,可能要六到十二個月(Dwarkesh Podcast,2026-11)。Anthropic 11 月 17 日送交的上市申請修正文件也寫,Anthropic 最近為了加強防止模型權重外流,把新一代前沿基礎模型的預訓練延後了一個多月(Anthropic S-1/A,2026-11-17)。主持人 Dwarkesh Patel 引 METR 的結果說 Anthropic 的進步速度翻倍,再拿營收反問:Anthropic 7 到 9 月的營收增量比 4 到 6 月少。同一份申請文件的季表對得上方向:營收 1 到 3 月 47.31 億、4 到 6 月 115.55 億、7 到 9 月 169.56 億美元,兩季增量是 68.2 億與 54.0 億(本報算術)。季表未經審計。Christiano 回答,單一公司的短期營收起伏很大(原話「extremely noisy」),拉長看仍是每六個月翻倍以上;同一張季表上,1 到 3 月到 7 到 9 月營收是 3.6 倍(本報算術)。 怎麼查的 →

出處與查證

這則刊在2026年11月17日的晨報,同一期還有 13 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。

引用這則

SecondSource(2026),〈OpenAI 董事、研究怎麼讓 AI 照人的意圖做事的機構 ARC 負責人 Paul Christiano 在 Dwarkesh Podcast 主張,前沿實驗室在資安擋得住權重與演算法被竊之前,應暫停演算法進展。〉,https://secondsource.io/expert/2026-11-17-1/,取用日期取用。