プロダクト動向 2026年11月13日

Google は外部の 5 チームが書いたエージェントの安全性評価で、エージェントの逸脱を事後に検出する自社のツール Agent Anomaly Detection を試した。実行された有害な指示の 87% に印を付けたが、長期記憶に書き込まれた汚染指示は 18 個のうち 4 個しか捉えられなかった。

このツールは事後に報告するだけで動作を止めず、評価は Google が自社で行い、使ったモデルはやや古い世代のもの一つだけである。Agent Anomaly Detection は 9 月から Google の企業向けエージェント基盤で試験提供されており、エージェントの実行記録を読んで、逸脱した作業セッションに印を付ける。この検出の仕組みがないと、モデルが自力で有害な指示をはねのける力には限りがある。ツールの出力に隠された有害な指示のうち、モデルが無視したか実行に失敗したのは約 30% だけだった。87% の分母は、すでに実行された有害な指示だけである。有害な作業セッションすべてを分母にすると、印を付けた割合は 45% から 62% になる。通常の事務作業での誤検出は 2% から 4% だった（Google Developers Blog、2026-11-12）。 どう確かめたか →