研究とモデル 2026年11月9日

あるプレプリントによると、同じニュースの転載が三本あると、一部の小型モデルは虚偽を真実と判定する。

（論文の日付は 11-06）

AI で事実確認をする場合、出典の数はコピーをまとめて数えて初めて意味を持つ。ただし試験対象の多くは小型モデルで、結果は著者の自己申告である。著者は検出器で英語のニュース 20 万本を照合し、18.9% が別の媒体の近似コピーにつながった。知られていない人物についての虚偽を真実と判定した割合は、Llama 3.2 3B では報道一本で 0.06、同じ転載三本で 0.71、phi4 14B ではそれぞれ 0.21 と 0.90 だった。この二つのモデルは、報道がすべて同じ出典から来ていると指示されても、虚偽を信じた。Gemini 2.5 Pro はこの出典の指示に従って判定を変えた。著者は、複数の出典が共謀して虚偽を作る場合は未解決の問題だとも述べている（arXiv 2611.09203、2026-11-06）。次に注目するのは、フロンティアの大規模モデルも転載にだまされるかどうかである。 どう確かめたか →