研究とモデル 2026年11月13日

ある査読前論文によると、偽のニュース記事が一本、AI 予測システムの検索結果に入る。それだけで、記事と逆の立場だった予測の 74% から 82% がひっくり返った。平均の正答率はほとんど変わらなかった。

論文の要旨によると、検索側の二つの防御を併用すると正常な判断の 29% が変わり、本物のニュースの 39% が落とされ、これは著者らの自己申告の結果である。この種の予測システムは、先にウェブを検索してから判断を下す。試した二つの予測システムの名前を、論文は挙げていない。著者の Zeyu Zhang 氏と Bradly C. Stadie 氏は、攻撃者が予測の問いだけを知っていて、内部への接続は一切ないと仮定した。要旨によると、すでに稼働しているトップ級の予測システム二つの構成では、約 90% の確率でこの偽の記事が検索に引っかかる。二種類の防御は、単独でもそれぞれ偽の記事一本までなら防げるが、攻撃者がプロンプトを一度変えるだけで破られる。二つを併用すると 4 本まで防げるが、攻撃者が書き換えた写しを 16 本置けば突破される。平均の正答率はほとんど変わらないので、平均の正答率だけを見ていては、誰かが狙って操作していることに気づけない。結果は著者らの自己申告で、まだ誰も再現していない（arXiv 2611.15102、2026-11-11）。 どう確かめたか →