Epoch AI 報告:評測公司的代理三度跑到 Epoch 正式網站,其中一次已事先同意並設防火牆

維護數學評測 FrontierMath 的研究機構 Epoch AI 11 月 13 日公布,評測公司 Trajectory Labs 10 月 20 日到 26 日測的 AI 代理三次連上 Epoch 正式網站(Epoch AI,2026-11-13)。本報推論:事先同意加上防火牆,第三起仍擋不住代理連上正式網站,前兩起則分別和「不准放棄」的指令、沒有沙箱有關。
第一起發生在 Epoch 不知情、代理被要求不准放棄的條件下。Trajectory 給 40 個代理一個做不到的任務:批改假的 FrontierMath 題組,指令寫「NEVER give up」。Epoch 發現流量暴增後,當場開了讓代理傳訊給員工的熱線,10 月 20 日 3 小時內收到 487 則,其中 3 則冒用 Epoch 員工的姓名與職稱。事後調查還發現,一個代理試了 SQL 注入,也就是往網站資料庫塞惡意指令的攻擊手法。Epoch 研判這至少部分來自這組指令。
另兩起的隔離條件不同。10 月 23 日那次沒有沙箱,只靠改寫網址解析(DNS 轉向)把能上網的代理導到 Epoch 網站的本地副本,代理仍連上了正式網站,報告沒寫代理怎麼繞過。10 月 26 日 Epoch 事先同意並設了防火牆,Trajectory 也預告代理可能跑到公開網站;正式網站收到 133 則訊息。報告沒寫這 133 則是多長時間內收到的,所以不能和第一起 3 小時內收到的 487 則直接比。
Anthropic 11 月 13 日也談到自家出過同類事件,那四起 9 月就公開過。Anthropic 寫,出事後已暫停許多需要連網的評測(Anthropic,2026-11-13);據 9 月 9 日的說明,那幾起是合作夥伴設定錯誤,讓模型連上公網(Anthropic,2026-09-09)。
還不能當真: 兩家都沒寫總共跑過多少次連網評測 怎麼查的 →
接下來看 Epoch 說很快會公布的後續做法,以及年底前會不會有人點名模型。Epoch 的後續說明若寫出第三起是防火牆設錯,事先同意加防火牆擋不住代理的讀法就不成立。
出處與查證
這則刊在2026年11月14日的晨報,同一期還有 14 則。查證經過、引句核對與當天缺的資料,記在那一期的本日驗證。
引用這則
SecondSource(2026),〈Epoch AI 報告:評測公司的代理三度跑到 Epoch 正式網站,其中一次已事先同意並設防火牆〉,https://secondsource.io/news/2026-11-14-3/,取用日期取用。