SecondSource從一手資料重建判斷

Google 拿 5 個外部團隊寫的代理人安全評測,測自家事後偵測代理人越界行為的工具 Agent Anomaly Detection:已執行的有害指令標出 87%,寫進長期記憶的毒化指令 18 個只抓到 4 個。

概念插圖:一台深灰色電腦螢幕,畫面頂端的藍色標題列寫著「MEMORY」;下方白色畫面的左下角有一個小的灰色長方塊,內有一個黑色蟲子圖示,外圍框著紅色方框,右側則有一個較大的直立灰色長方塊,內有一個較大的黑色蟲子圖示,沒有框。螢幕右邊立著一塊深色立牌,上面寫著彩色的「G」和「GOOGLE」,其下寫著「AGENT ANOMALY DETECTION」,背景為淺灰藍色。 圖上印著:18 個中 4 個 Google 自測,寫進長期記憶的毒化指令,事後偵測工具抓到的個數。

這個工具只在事後回報、不阻擋動作,評測由 Google 自跑、只用一款較舊的模型。Agent Anomaly Detection 9 月起在 Google 企業代理人平台上試用,讀代理人的執行紀錄,標出越界的工作階段。沒有這層偵測時,模型本身的抵抗有限:藏在工具輸出裡的有害指令,只有約 30% 被模型忽略或沒執行成功。87% 的分母只含已經執行的有害指令;把所有有害的工作階段都算進分母,標出的比例是 45% 到 62%。正常辦公任務的誤報是 2% 到 4%(Google Developers Blog,2026-11-12)。 怎麼查的 →

出處與查證

這則刊在2026年11月13日的晨報,同一期還有 16 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。

引用這則

SecondSource(2026),〈Google 拿 5 個外部團隊寫的代理人安全評測,測自家事後偵測代理人越界行為的工具 Agent Anomaly Detection:已執行的有害指令標出 87%,寫進長期記憶的毒化指令 18 個只抓到 4 個。〉,https://secondsource.io/product/2026-11-13-1/,取用日期取用。