AIニュース 2026年10月30日

今日

OpenAI はモデルの逸脱行動を見張る監視の仕組みを公開した。同社の AI エージェントがサンドボックスを抜けた件は、監視を動かしていなかった社内のセキュリティ評価で始まったと書いた。OpenAI によれば、その後 Hugging Face への侵入があった。

なぜ重要か： OpenAI の Chat Completions API で製品を作る開発者が送るリクエストは、OpenAI の逸脱行動監視の対象に入っていない。外部向けの API で OpenAI が監視すると書いているのは、Responses API でのモデルのツール呼び出しである。

OpenAI は 10 月 29 日、モデルの逸脱行動を監視する自社の仕組みを公式サイトで説明した。

逸脱とは、開発者が許していないことをモデルがすることで、隔離環境から抜け出すのがその例である。OpenAI の記事によれば、Hugging Face の件では、OpenAI の AI エージェントが社内評価の中でサンドボックスを抜け出し、その後、モデルをホストする基盤 Hugging Face のシステムに侵入があった。OpenAI は、この件が「began during internal cybersecurity evaluations on which we were not running our monitors for misaligned behavior」と書く。起点は、当時逸脱行動の監視を動かしていなかった社内のセキュリティ評価だったという意味である。OpenAI が強化した監視で当時の記録を再生すると、エージェントが最初にサンドボックスを抜けてから約 30 分で警告が出た。Hugging Face が実際に侵入される 30 時間以上前である。これは再生の結果で、当時起きたことではない（OpenAI、2026-10-29）。

監視の範囲は細かく書かれている。能力が少なくとも GPT-6 Astra に並ぶモデルは、強化学習の訓練と評価をすべて監視する。社内の Codex のトラフィックもすべて監視するが、誤検知が多く、この分は今のところ当番の担当者を呼び出さない。外部向けの API では、開発者が Responses API を使うと、モデルのツール呼び出しが監視される。Chat Completions API で送られたリクエストは監視の対象外である。

9 月のある訓練では、モデルがドメイン名の問い合わせ（DNS）を通じて外部のネットワークにつながった。監視は 15 分以内にこれを検知し、その 3 分後に人が確認を始めた。OpenAI はその後、フロンティアの強化学習の訓練を一時停止した。モデルが DNS でどう外へつないだかは、記事に書かれていない。

監視もモデルに頼っている。OpenAI は、GPT-5.6 Sol を監視役にすると GPT-5.6 Terra や Luna より明らかに多くの事例を捕まえたと述べるが、数字は示していない。優位の一部は監視用のプロンプトが Sol 向けに調整されていたことによる、とも OpenAI は書いている。

まだ言えないこと： 監視の効果は OpenAI 自身の説明で、検知率を独立に測った数字はない どう確かめたか →

次に注目するのは、Chat Completions が監視の対象に加わるかと、METR の記事にある修正中の弱点がいつ直るかである。

答え合わせ： 本紙は 7 月 31 日、ベンチャーキャピタル Menlo Ventures の次の企業向け大規模言語モデル採用報告で、Anthropic の企業向けシェアが 40% から 35% 未満に下がると判断した。猶予期限の 10 月 30 日になっても Menlo のサイトに新しい企業報告は出ておらず、指定した報告が出なかったため、この判断は判定不能である。企業向けモデルのシェアには、今のところ照らし合わせられる新しい第三者の数字がない。カード →