SecondSource一次情報から判断を組み立てる

OpenAI、外部四機関を社内に入れ訓練中のモデルを見せる

コンセプトイラスト:左側には OPENAI と書かれ、白い組紐状のマークが添えられた大型の展示壁があり、両側には赤と白の小さなランプが並ぶラック型パネル、中央の暗い画面には灰色の線が入った吹き出しと小さな四角が三つ表示されている。その前の長机には画面に灰色の線が映る開いたノートパソコンが4台置かれ、スーツ姿の男性が1台でタイピングし、女性が両手を後ろに組んで画面を見上げている。右側には出入口の前に EVALUATORS と書かれたスタンド付きの看板があり、ネックストラップの名札を下げた濃い色の服の男性が手前の机の後ろに立ち、机には REPORT と書かれた赤いフォルダーと黒いペンが置かれている。 画像内の文字:評価機関は、ソースコードと訓練データを見られる。OpenAI は機密情報を削除でき、公表の延期も求められる。

外部の評価機関四つが OpenAI の社内に入り、まだ訓練中の社内モデルを調べる。OpenAI は 11 月 16 日、この第一期の「組み込み型評価」を公表した(OpenAI、2026-11-16)。評価機関は訓練中のモデルを見られるが、OpenAI は機密情報を削除でき、公表の延期を求めることもできる。

評価する側は、訓練途中のモデル、ソースコード、訓練と評価のデータ、監視システムにアクセスできる。METR は AI の自律的な能力と監視についての評価を手がけ、OpenAI で最大規模となる最先端強化学習の訓練を調べる。強化学習は、事前学習の後に報酬の信号でモデルの振る舞いを調整する段階である。Apollo Research はモデルが指示にひそかに背くかどうかを評価する機関で、OpenAI の四つの主張を二段階で検証する。その一つは、訓練がモデルにひそかに背く行動を促していない、という主張だ。Transluce と Goodfire は解釈可能性、つまりモデルの内部がどう動いているかを研究する。

OpenAI はいくつかの権限を手元に残した。機密情報を削除でき、公表の延期を求めることができる。評価機関は、社員への聞き取りの内容を公に引用できない。双方の意見が割れたときは、OpenAI 財団の取締役会の安全委員会が扱う。OpenAI は、これがホワイトハウスの超知能協定(White House Accord on Super Intelligence)での約束の履行だとしている。

専門家の見方・Daniel Kokotajlo(AI Futures Project の研究者、元 OpenAI 社員。利害:公開の開示は見つかっていない): Kokotajlo 氏は X への投稿で、この枠組みは弱すぎると批判した。同氏によると、評価者は OpenAI が指定した社員としか話せず、結果の公表には OpenAI の承認が要る。OpenAI は何でも削除できる、というのが同氏の見方である(Daniel Kokotajlo、2026-11-16)。

まだ言えないこと: どこまで独立しているかは、今後公表される評価報告しだい どう確かめたか →

次に注目するのは、四機関が公表する最初の報告がどれだけ削られているか、そして Transluce が 2027 年初めに行う約八週間の評価の結果である。

出典と検証

この記事は2026年11月17日の夕刊に掲載されました(同じ号にほか 13 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。

この記事を引用

SecondSource(2026)「OpenAI、外部四機関を社内に入れ訓練中のモデルを見せる」https://secondsource.io/ja/news/2026-11-17-4/ (閲覧日閲覧)