OpenAI 讓四家評估機構進駐看訓練中的模型

四家外部評估機構進駐 OpenAI,查看還在訓練中的內部模型。OpenAI 11 月 16 日公布這第一期「嵌入式評估」(OpenAI,2026-11-16)。評估機構可看訓練中的模型,但 OpenAI 保留刪掉機密資訊、要求延後公開的權力。
評估方可以拿到模型的訓練中版本、原始碼、訓練與評測資料,以及監控系統。METR 做 AI 自主能力與監控的評估,看的是 OpenAI 最大的一次前沿強化學習訓練。強化學習是預訓練之後,用獎勵訊號調整模型行為的階段。Apollo Research 評估模型會不會暗中違背指令,分兩階段檢驗 OpenAI 的四項主張,例如訓練沒有誘使模型暗中違抗。Transluce 與 Goodfire 做可解釋性研究,也就是研究模型內部怎麼運作。
OpenAI 也保留了幾項權力:可以刪掉機密資訊、可以要求延後公開;員工訪談的內容不得公開引用。雙方有爭議時,交給 OpenAI 基金會董事會的安全委員會處理。OpenAI 說這是在履行白宮超級智慧協定(White House Accord on Super Intelligence)的承諾。
專家觀點 · Daniel Kokotajlo(AI Futures Project 研究者、前 OpenAI 員工;利益:未查到公開揭露):「評估者只能和 OpenAI 指定的員工談,結果要 OpenAI 核准才能發表,OpenAI 想刪什麼都可以……太弱了」(Daniel Kokotajlo,2026-11-16)
還不能當真: 獨立程度要看日後公開的評估報告 怎麼查的 →
接下來看四家機構公開的第一份報告刪掉多少,以及 Transluce 2027 年初那約八週的評估結果。
出處與查證
這則刊在2026年11月17日的晨報,同一期還有 13 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈OpenAI 讓四家評估機構進駐看訓練中的模型〉,https://secondsource.io/news/2026-11-17-4/,取用日期取用。