SecondSource一次情報から判断を組み立てる

Microsoft の研究チームは査読前論文で、再訓練をせず、ふだん働かないニューロンを十個足らず書き換えるだけで、AI エージェントが使うモデルの重みにバックドアを仕込めると自己申告している。

コンセプトイラスト:濃い色の脚が付いたベージュの板に左下の角がめくれた紙が載り、上部の黒い帯には MICROSOFT の文字、その左には赤・緑・青・黄の四つの小さな正方形でできた四角があります。紙の上には一段七マスで五段の白いマス目が二つ並び、それぞれの台座に WEIGHTS の文字があり、右側のマス目では中段の右四マスがれんが色の帯で覆われて黒い虫のアイコンが描かれ、そこから右側を垂れ下がる黒いひもが右下の BACKDOOR と書かれた黒い札につながり、板の下端には目盛り付きの定規のような帯があります。 画像内の文字:ふだん働かない少数のニューロンを書き換え、再訓練なしでバックドアを仕込める(Microsoft チームの自己申告)。

論文が想定する攻撃者は、配備の前にモデルのファイルを書き換えられる者で、たとえば公開のモデル置き場に微調整版を配る第三者である。著者らが示す検知法は、66 個のモデルファイルでしか試されていない(arXiv 2611.15118、2026-11-11)。 どう確かめたか →

出典と検証

この記事は2026年11月15日の夕刊に掲載されました(同じ号にほか 9 本)。確認の経緯、引用の照合、その日に確認できなかった資料は、その号の本日の検証にあります。

この記事を引用

SecondSource(2026)「Microsoft の研究チームは査読前論文で、再訓練をせず、ふだん働かないニューロンを十個足らず書き換えるだけで、AI エージェントが使うモデルの重みにバックドアを仕込めると自己申告している。」https://secondsource.io/ja/research/2026-11-15-3/ (閲覧日閲覧)