SecondSource從一手資料重建判斷

OpenAI 讓四家評估機構進駐看訓練中的模型

概念插圖:左側一面大型展示牆,頂部寫著 OPENAI,旁邊有白色交織結狀圖案,兩側是帶紅、白小燈的機架式面板,中央深色螢幕顯示一個內有灰色線條的對話泡泡和三個小方塊;牆前長桌上放著四台打開的筆電,螢幕都是灰色線條,一名穿西裝的男子在其中一台上打字,一名女子雙手背在身後,抬頭看著螢幕。右側一個門口前立著一塊寫著 EVALUATORS 的立牌,一名穿深色衣服、掛著識別證的男子站在前景的桌子後方,桌上放著一本寫著 REPORT 的紅色資料夾和一支黑色筆。 圖上印著:評估方拿得到原始碼與訓練資料,OpenAI 保留刪掉機密資訊、要求延後公開的權力。

四家外部評估機構進駐 OpenAI,查看還在訓練中的內部模型。OpenAI 11 月 16 日公布這第一期「嵌入式評估」(OpenAI,2026-11-16)。評估機構可看訓練中的模型,但 OpenAI 保留刪掉機密資訊、要求延後公開的權力。

評估方可以拿到模型的訓練中版本、原始碼、訓練與評測資料,以及監控系統。METR 做 AI 自主能力與監控的評估,看的是 OpenAI 最大的一次前沿強化學習訓練。強化學習是預訓練之後,用獎勵訊號調整模型行為的階段。Apollo Research 評估模型會不會暗中違背指令,分兩階段檢驗 OpenAI 的四項主張,例如訓練沒有誘使模型暗中違抗。Transluce 與 Goodfire 做可解釋性研究,也就是研究模型內部怎麼運作。

OpenAI 也保留了幾項權力:可以刪掉機密資訊、可以要求延後公開;員工訪談的內容不得公開引用。雙方有爭議時,交給 OpenAI 基金會董事會的安全委員會處理。OpenAI 說這是在履行白宮超級智慧協定(White House Accord on Super Intelligence)的承諾。

專家觀點 · Daniel Kokotajlo(AI Futures Project 研究者、前 OpenAI 員工;利益:未查到公開揭露):「評估者只能和 OpenAI 指定的員工談,結果要 OpenAI 核准才能發表,OpenAI 想刪什麼都可以……太弱了」(Daniel Kokotajlo,2026-11-16)

還不能當真: 獨立程度要看日後公開的評估報告 怎麼查的 →

接下來看四家機構公開的第一份報告刪掉多少,以及 Transluce 2027 年初那約八週的評估結果。

出處與查證

這則刊在2026年11月17日的晨報,同一期還有 13 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。

引用這則

SecondSource(2026),〈OpenAI 讓四家評估機構進駐看訓練中的模型〉,https://secondsource.io/news/2026-11-17-4/,取用日期取用。