Microsoft の研究チームは査読前論文で、再訓練をせず、ふだん働かないニューロンを十個足らず書き換えるだけで、AI エージェントが使うモデルの重みにバックドアを仕込めると自己申告している。

論文が想定する攻撃者は、配備の前にモデルのファイルを書き換えられる者で、たとえば公開のモデル置き場に微調整版を配る第三者である。著者らが示す検知法は、66 個のモデルファイルでしか試されていない(arXiv 2611.15118、2026-11-11)。 どう確かめたか →
出典と検証
この記事は2026年11月15日の夕刊に掲載されました(同じ号にほか 9 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。
この記事を引用
SecondSource(2026)「Microsoft の研究チームは査読前論文で、再訓練をせず、ふだん働かないニューロンを十個足らず書き換えるだけで、AI エージェントが使うモデルの重みにバックドアを仕込めると自己申告している。」https://secondsource.io/ja/research/2026-11-15-3/ (閲覧日閲覧)