一篇預印本發現，一篇假新聞進到 AI 預測系統的檢索結果，就能逆轉 74% 到 82% 原本與假新聞立場相反的預測，平均準確率卻幾乎不變。

概念插圖：一個頂端黑色橫條印著 ARXIV 的框裡，同一條層架線上左右並排兩個場景；左邊一疊印有灰色文字線條的米色紙張靠著黑色書擋，旁邊是一台螢幕空白的打開筆電，筆電上方的對話泡泡裡畫著黑色豎起大拇指的手。右邊一疊米色紙張同樣靠著黑色書擋，最前面多了一張印著 FAKE NEWS 和白色大拇指朝下手勢的紅色紙張，旁邊是一台相同的筆電，它的對話泡泡裡畫著黑色大拇指朝下的手。圖上印著：74%–82% 原本與假新聞立場相反的 AI 預測，被一篇假新聞逆轉的比例，預印本作者自報。

這類預測系統會先上網檢索，再下判斷。受測的兩個預測系統，論文沒有點名。作者 Zeyu Zhang 與 Bradly C. Stadie 假設攻擊者只知道預測的問題，不需要任何內部存取。據摘要，兩個已部署的領先預測系統，照這兩個系統的架構約有 90% 會檢索到這篇假文章。兩種防禦單獨用時，各擋得住一篇假文章，但攻擊者改一次提示詞就能繞過。兩種合用時擋得住 4 篇，攻擊者放 16 份改寫過的副本就能突破；而且合用會改掉 29% 的正常判斷、丟掉 39% 的真新聞。平均準確率幾乎不變，所以只看平均準確率，看不出有人在定向操縱。這是作者自報的結果，還沒有別人重做（arXiv 2611.15102，2026-11-11）。怎麼查的 →

出處與查證

這則刊在2026年11月13日的晨報，同一期還有 16 則。查證經過、引句核對與當天缺的資料，記在那一期的本日驗證。

引用這則

SecondSource（2026），〈一篇預印本發現，一篇假新聞進到 AI 預測系統的檢索結果，就能逆轉 74% 到 82% 原本與假新聞立場相反的預測，平均準確率卻幾乎不變。〉，https://secondsource.io/research/2026-11-13-1/，取用日期取用。