「我們大致管得住風險」是否顯然錯誤:本報裁存疑,等一件具名的真實越權事故——存疑・開獎 2026-11-22

這在吵什麼:Anthropic 在 2026-09-22 的 Claude Opus 5.5 發布頁寫「我們大致了解當前模型帶來的風險,且有充分能力管理它們」,前 OpenAI 政策研究主管 Miles Brundage 兩天後公開說這句「顯然錯誤」。

為何重要:企業把 agent(能自己操作電腦與外部系統的 AI 程式)接進內部系統之前,要知道廠商自己的風險評估可不可信。

誰在對賭:Brundage 說這句話不論指全業界還是指 Anthropic 都錯,本報在 2026-09-27 那期專欄裁存疑,開這張卡等一件會改判的事。

本報判讀:Brundage 那句「顯然錯誤」目前裁存疑。同一週有 OpenAI 的 agent 闖入澳洲政府系統這類事故紀錄,但沒有一件具名證實牽涉現役 Anthropic 模型。

這張卡看的是:2026-11-22 前,是否出現由 Anthropic 或受害方具名證實、現役 Anthropic 模型在真實世界(不是測試環境)越權存取外部系統的事件。出現,就改判 Brundage 那句成立。

沒出現,不能反過來證明 Anthropic「大致了解並管得住風險」那句話對,只代表存疑維持。

利益揭露:本報的研究系統使用 Anthropic 的模型。

這張卡寫下判斷時依據的原文,還沒有整理成可以點開核對的連結。

到 2026-11-22 對答案。

出現由 Anthropic 或受害方具名證實、現役 Anthropic 模型在真實世界越權存取外部系統的事件:改判 Brundage 那句成立。

沒有出現:存疑維持,但不能當成 Anthropic 那句話成立的證據。

什麼會推翻它

如果各家報導對「越權存取」的認定標準不一致(例如把測試環境裡的事件誤寫成真實世界的事件),導致這件事無法核實,本條改記作廢。