研究とモデル 2026年10月28日

今週 · プレプリント 10 月 26 日

プレプリント VELA が脆弱性は設計で決まると測定

プレプリント VELA によれば、AI エージェントにバックエンドを直接呼ばせるサイトでは、著者が作った 44 の脆弱性を突けるかどうかは、主にインターフェースの設計で決まった。同じ設定で市販のエージェント三つを替えても、突ける割合の差は最大 4.5 ポイントだった。 論文の要旨によると、Ruozhao Yang 氏らは 12 系統のウェブアプリと 44 の脆弱性を自ら作った。脆弱性のあるバックエンドはそのまま残し、正規の業務の流れからエージェント向けのインターフェースを導き、攻撃の成否は独立したプログラムが判定した。参照用の設計では、91% の脆弱性がなお突けた。攻撃の残存率は、インターフェースの設定によって 39% から 95% まで動いた。残存率とは、インターフェースの制約のもとでも、もともと突ける脆弱性がなお突ける割合を指す。同じ設定での市販エージェント三つの差は最大 4.5 ポイントだった。攻撃が失敗した例のうち、エージェントの拒否や、サーバーが入力の形式を整えてから検査したことによるものは一つもなかった。攻撃者が抜かした呼び出しをエージェントが自ら補い、攻撃が完了した例も一件あった。三つのエージェントの名前と脆弱性の種類ごとの内訳は要旨に書かれていない。プレプリント一本で、題材は著者が作り、査読を経ていない（arXiv 2610.35541、2026-10-26）。 どう確かめたか →