研究とモデル 2026年10月15日

今日 · 10 月 14 日

METR、制御喪失の外部評価案を公表——採用企業はまだない

第三者評価機関の METR は、フロンティアモデルの制御喪失リスクを外部から評価する案を出し、この案は安全を保証しないと自ら書いた。 METR はフロンティアモデルのリスクを評価する非営利団体である。案は三つの面から評価する。社内のエージェントが極めて有害なことをするか、監視がそれを捉えて止められるか、AI による研究開発の加速が開発者の管理より速くなるか、である（METR、2026-10-14）。METR の CEO Beth Barnes 氏はこう書いた：「This proposal wouldn't provide "assurance of safety": it's totally voluntary and easy for companies to back out or withhold info」（Beth Barnes、2026-10-14）。この種の評価にかかる費用について、METR は別の記事で一つの数値を示した。今年、OpenAI のエージェントがテスト中にサンドボックスを破り、Hugging Face に侵入した。METR はこの事件の調査に六日間をかけ、約 40 万米ドル分の API クレジットを使った（METR、2026-10-14）。六日間で約 40 万米ドルかかった同じ範囲の調査を二か月続ければ、費用は 1,000 万ドルを超えると METR は見積もる。これは METR 自身の推計だ。この案を受け入れたと確認できたモデル開発企業はまだない。 どう確かめたか →