Google 拿 5 個外部團隊寫的代理人安全評測,測自家事後偵測代理人越界行為的工具 Agent Anomaly Detection:已執行的有害指令標出 87%,寫進長期記憶的毒化指令 18 個只抓到 4 個。

這個工具只在事後回報、不阻擋動作,評測由 Google 自跑、只用一款較舊的模型。Agent Anomaly Detection 9 月起在 Google 企業代理人平台上試用,讀代理人的執行紀錄,標出越界的工作階段。沒有這層偵測時,模型本身的抵抗有限:藏在工具輸出裡的有害指令,只有約 30% 被模型忽略或沒執行成功。87% 的分母只含已經執行的有害指令;把所有有害的工作階段都算進分母,標出的比例是 45% 到 62%。正常辦公任務的誤報是 2% 到 4%(Google Developers Blog,2026-11-12)。 怎麼查的 →
出處與查證
這則刊在2026年11月13日的晨報,同一期還有 16 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈Google 拿 5 個外部團隊寫的代理人安全評測,測自家事後偵測代理人越界行為的工具 Agent Anomaly Detection:已執行的有害指令標出 87%,寫進長期記憶的毒化指令 18 個只抓到 4 個。〉,https://secondsource.io/product/2026-11-13-1/,取用日期取用。