SecondSource從一手資料重建判斷

一篇預印本說,三份相同的新聞轉載會讓部分小模型把假話當真。

(論文日 11-06)

概念插圖:一塊立在雙腳支架上的大白板,黑色頂欄左邊寫著 PREPRINT、右邊寫著 FALSE CLAIMS,下方分成上下兩列,各立在一條橫線上。上列是一張缺角的紙,右邊接著一個寫著 LLAMA 3.2 3B 的黑色梯形,梯形上方有對話框、右側有一條短紅條;下列是三張同樣的紙並排,右邊接著同樣寫著 LLAMA 3.2 3B 的黑色梯形和對話框,右側的紅條長長延伸到接近白板右緣。 圖上印著:0.06→0.71 Llama 把假話當真比例,作者自報。

用 AI 做查證時,來源數要先把拷貝合併才算數,這是作者自報,受測多是小模型。作者用偵測器比對 20 萬篇英文新聞,18.9% 能連到另一媒體的近似拷貝。對陌生人物的假話,Llama 3.2 3B 看一份報導時把假話當真的比例 0.06,看三份相同轉載時 0.71;phi4 14B 分別是 0.21 與 0.90。這兩個模型就算被提示這些報導都來自同一來源,也照樣相信。Gemini 2.5 Pro 則會照這個來源提示判斷。作者也說,多家來源串通造假仍是未解的問題(arXiv 2611.09203,2026-11-06)。接下來看前沿大模型是否也會被轉載騙過。 怎麼查的 →

出處與查證

這則刊在2026年11月9日的晨報,同一期還有 14 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。

引用這則

SecondSource(2026),〈一篇預印本說,三份相同的新聞轉載會讓部分小模型把假話當真。〉,https://secondsource.io/research/2026-11-09-3/,取用日期取用。