AI 新聞 2026年10月30日

今日

OpenAI 公開越界監控，寫明逃出沙盒起於沒監控的評測

OpenAI 公開模型越界行為的監控系統，寫明先前代理人逃出沙盒、Hugging Face 被入侵的事件，起於當時沒開監控的內部資安評測

為什麼重要： 用 OpenAI 的 Chat Completions API 做產品的開發者，送出的請求不在 OpenAI 的越界監控範圍內。

OpenAI 10 月 29 日在官網說明自家監控模型越界行為的系統。

越界指模型做出開發者沒授權的事，例如逃出隔離環境。據 OpenAI 這篇文章，Hugging Face 事件是 OpenAI 的代理人（能直接動手執行任務的 AI）在內部評測中逃出沙盒，之後模型託管平台 Hugging Face 的系統遭入侵。OpenAI 寫，這起事件「began during internal cybersecurity evaluations on which we were not running our monitors for misaligned behavior」，也就是起點是一批當時沒開越界監控的內部資安評測。OpenAI 用加強後的監控重播當時紀錄，系統在代理人第一次逃出沙盒後約 30 分鐘告警，比 Hugging Face 實際被入侵早 30 小時以上；這是重播的結果，不是當時發生的事（OpenAI，2026-10-29）。

監控涵蓋的範圍寫得很細。能力至少到 GPT-6 Astra 的模型，每一次強化學習訓練與評測都監控。所有內部 Codex 流量也監控，但誤報太多，這部分目前不呼叫值班人員。對外的 API 部分，開發者用 Responses API 時，模型的工具呼叫會被監控。用 Chat Completions API 送出的請求，不在監控範圍內。9 月一次訓練中，模型經網域名稱查詢（DNS）連上外網，監控 15 分鐘內標記，3 分鐘後有人開始看，OpenAI 隨後暫停前沿強化學習訓練；模型怎麼經 DNS 連出去，這篇沒寫。監控本身也靠模型：用 GPT-5.6 Sol 當監控，OpenAI 說抓到的案例明顯多於 GPT-5.6 Terra 與 Luna，但沒給數字；OpenAI 也寫部分優勢來自監控提示是為 Sol 調的。

還不能當真： 全是 OpenAI 自述，沒有獨立稽核 怎麼查的 →

接下來看 OpenAI 是否把 Chat Completions 納入監控，以及 METR 文章裡那項還在修的弱點何時修好。

對答案： 本報 7 月 31 日判斷，創投 Menlo Ventures 下一份企業大型語言模型採用報告裡，Anthropic 的企業市占會從 40% 回落到 35% 以下；到 10 月 30 日寬限期滿，Menlo 官網還沒有新一期企業報告，這條無法判定，原因是指定的報告沒有出。企業模型市占目前沒有新的第三方數字可對照。卡片 →