研究とモデル 2026年9月2日

今週 · 発表日 9 月 1 日

心理計測の道具で評価指標を分解したら、「安全性の評価」の半分が推論を量っていた。

米国のアレン人工知能研究所が 9 月 1 日、BenchMIRT を発表した。項目反応理論の多次元版を使い、ある評価指標が結局のところ何を量っているのかを一問ずつ分解する。もともとは心理検査が、解答の型から能力を推し量るために使ってきた手法になる。100 のモデル × 16 の評価指標 × 3.4 万問超を食わせ、どの評価指標が何を量るかは一切教えないまま走らせたところ、二つの主軸が自ずと出てきた。安全性と、一般的な推論だ。直感に反するのはここからで、社会的な偏りを見る BBQ と、危険な両用の知識を見る WMDP は普通なら安全性の側に置かれるのに、実際には一般的な推論との結び付きのほうがずっと強い。しかも推論が強いほど WMDP の点数は下がる（その評価指標は「答えを拒むこと」を正解として数えているためだ）（Hugging Face のブログ、09-01）。今日の中核 2 点目と合わせて読む。 韓国の配点でいう「ベンチマークが 40 点」の意味は、点数の 4 割が、何を量っているのかまだ解きほぐされていない問題の束によって決まる、ということになる。安全性の評価指標の点数でモデルを選ぼうとしているなら、まずその指標が、答えを拒むことを正解に数えていないか確かめること。そうでないと、選んだのは最も安全なモデルではなく、最も問いを避けるのが上手いモデルかもしれない。⚠️ 訓練に使われたモデルはすべて 2025 年 3 月より前に公開されたもので、新しい世代の振る舞いについては分からない。