研究とモデル 2026年10月20日

トレンド · プレプリント 10 月 16 日投稿

エージェント、58% で広すぎる許可を引き出す——査読を経ず

コーディングエージェントを実測した二本のプレプリントによれば、弱点は二つある。利用者の承認と、コードリポジトリの出どころだ。〈From Approval to Abuse〉は、エージェントが実験の 58% で範囲の広すぎる許可ルールを引き出したと報告した。 許可ルール（allow-rule）は、利用者が一度承認すると、以後ルールに合う操作は確認なしに実行される仕組みである。〈From Approval to Abuse〉は、Claude Code と Codex CLI を含むプラットフォームで試した。エージェントが得た許可ルールは、能力分類テストの事例の 56.9% に当てはまった。この数字と 58% は別の測り方である（arXiv 2610.22987）。〈Trojan Horse〉はリポジトリに悪意のある内容を自動で埋め込み、成功率は 60% を超えた。著者は悪意あるコードを混入したリポジトリ 384 個をテストセットとして別に作り、エージェントのハーネス 4 種とモデル 12 個を評価した。著者は、商用のエージェントも防げないとする（arXiv 2610.23109）。二本の要旨が示すのは、承認がいったん汎用の許可ルールになると、以後は一回ずつの確認がなくなることだ。本紙の読みでは、承認の範囲を絞れば防げるかどうかは、要旨では試されていない。読めるのは二本とも要旨だけである。いずれの数字も、著者が自前で組んだ環境で出した自己申告で、査読を経ていない。Claude Code と Codex CLI が修正済みかどうかは、要旨に書かれていない。