研究とモデル 2026年11月7日

四人の著者のプレプリントによると、正確さが近いモデルの群れから一つを選ぶだけで、個々の予測の一部を反転させ、しかも全体の成績だけを見るブラックボックス監査を通過できる。実験は表形式のデータと木モデルに限られる。

全体の成績だけを見るブラックボックス監査はこの実験で意図的なモデル選びを止められず、パラメータの直接改変はホワイトボックス監査で止まるが、論文は査読前である。論文はこの現象を敵対的多重性と呼ぶ。正確さが同程度のモデルの群れでも個々の事例への予測は違いうるので、動機のある側は最も有利な一つを選べる。先行研究はこの多重性を公平性と両立できる好ましい性質として扱ってきたが、この論文は逆の向きに使う。著者は HELOC（約 1 万人の信用申込者）や COMPAS（5,278 人の被告）などのデータセットで試した。木モデルのパラメータを直接書き換えると、検証データのすべての人の判定を反転でき、全体の誤差の差は 1% だった。もう一つの型は、ハイパーパラメータと特徴量設計だけを動かす「ソフト」な選択である。許容幅は、選んだモデルの全体の成績が元のモデルよりどれだけ悪くてよいかを指す。ソフトな選択では、許容幅 5% のとき HELOC のテスト対象の 61.9% を反転でき、1% に絞ると 12.8% に下がった。ブラックボックス監査は全体の成績しか測らないので、個々の予測が反転してもこの指標には表れない。ホワイトボックス監査は、パラメータを直接書き換える型を止められる。大規模なニューラルネットワークは試していない（arXiv 2611.07378、2026-11）。 どう確かめたか →