研究とモデル 2026年10月31日

今週 · プレプリント、arXiv 2610.38799

著者の実測では Codex を 61.3% 攻略できた

複数のコーディングエージェントが協調する環境で、乗っ取られたテストや配備の部品が報告メッセージに悪意ある指示を隠すと、Codex を攻略できた割合は著者の実測で 61.3% だった。 著者の自己申告の実験では、エージェントはほかの部品の報告を信頼できるデバッグの手がかりとして扱い、許可されていない操作を実行した。この成功率をほかのチームが再現した例はまだない。論文の要旨によれば、Jie Fu 氏らは 10 月 28 日の論文でこの攻撃手法を示した。乗っ取られた部品は担当範囲の状態を報告するだけで、被害側エージェントのファイルに触れる権限はない。被害側エージェントがその報告を読み込み、許可されていないローカルの操作を実行した。著者は 10 種類の攻撃を設計し、4 つのプログラミング言語と 5 つのモデルで 3,000 回試し、2,845 回、約 94.8% で成功した。市販製品では Codex が 61.3%、Claude Code が 58.7% だった。市販製品をそれぞれ何回試したかは要旨に書かれていない。エージェントへの一般的な警告は効かなかった。著者によれば、明確な禁止を書くと攻撃は防げたが、エージェントは正常な操作まで拒むようになった（arXiv 2610.38799）。 どう確かめたか →