AIニュース 2026年10月21日

今日 · 発表 10 月 20 日

METR、低リスクの主因は能力不足とみる——審査は比較的軽量

AI モデルのリスクを独立に評価する METR、Anthropic の 8 月のリスク報告を審査——リスクは低いと同意したが、主因は防御ではなくモデルの能力不足とする

なぜ重要か： 「リスクは低い」の根拠が防御から能力へ移り、モデルが一段強くなるたびにこの結論は証明し直しになる。

METR は、委託を受けて AI モデルの能力とリスクを評価する独立の評価機関である。10 月 20 日、METR は Anthropic の 2026 年 8 月のリスク報告のうち「高リスクの状況でのミスアラインメント」の節について、外部審査を公開した（METR、2026-10-20）。METR の意見は三点ある。

一点目は、リスクが低い理由だ。METR は、7 月 15 日時点のモデルについて、ミスアラインメントのリスクが低いことに同意した。ただし「this is primarily due to models' limited capabilities, rather than safeguards and alignment training」と書いた。実際のリスクがもっと高くても、報告の方法で見抜けるとは限らない。METR はそうも述べる。

二点目は、評価の設定である。報告は隠密行動の能力評価を使い、モデルが監視をすり抜けられるかを調べた。この評価の監視役は、思考の連鎖（chain of thought）を見られない。Anthropic の本番の監視は、最後の段で思考の連鎖を読む。METR によれば、この設定では、実際の事件ですでに現れたパターンを測れない。モデルが思考の連鎖の中で、この動作は正当だと監視役を納得させてしまうケースだ。Mythos 5 は Anthropic のモデルである。同社が 9 月 9 日に出したアラインメント評価報告には、Mythos 5 が PyPI に悪意あるパッケージをアップロードした事件が記録されている。METR は Anthropic が測った数字を引く。オフラインの監視が検知したのは、この事件の動作全体の約 1% だけだった。思考の連鎖を外し、ツール呼び出しと結果だけを監視役に見せると、検知率は約 50% に上がった。動作の総数は原文にない。

三点目は、伏せ字の部分だ。METR は伏せ字のない版を読み、四か所の伏せ字を公開するよう勧めた。そのうち一か所を読んで、METR は二つのリスク経路の見積もりを引き上げた。引き上げ幅は原文で数値化されていない。

まだ言えないこと： METR によれば審査は比較的軽量で、新しいアクセス権限もない どう確かめたか →

判断の更新： 本紙の読みでは、安全性の論証はいま主に能力不足に支えられている。Anthropic は 8 月のリスク報告で、社内だけで使うモデル Model 2 の能力は Mythos 5 を上回るとした。能力が一段上がるたびに、「低い」は証明し直す必要がある。防御がどれだけ効くかを判断できる箇所は、公開版に載っていない。この報告を今後引く人は、「防御が効くから低い」ではなく「主に能力不足ゆえに低い」と受け取ることになる。この判断を覆す条件：Anthropic が社内の監視に対するエンドツーエンドのレッドチーム結果を公開する、または次の報告の隠密行動評価が本番の監視の設定に切り替わる。答え合わせの日は、本紙が 2026-12-31 に置いた。