SecondSourceAI 產業的第二來源

Anthropic 說自己大致掌握風險:要公布自家事件件數與分母才能核對——存疑・開獎 2026-11-22

存疑

Anthropic 說自己大致掌握風險:要公布自家事件件數與分母才能核對——存疑・開獎 2026-11-22

原定查核日 2026-11-22

說法裁決 · 判斷寫於 2026年9月27日

背景

這在吵什麼:Anthropic 在 2026-09-22 Claude Opus 5.5 發布頁寫「我們大致了解當前模型的風險,也有充分能力管理」,前 OpenAI 政策研究主管 Miles Brundage 兩天後公開說這句「顯然錯誤,不論『我們』指全世界還是 Anthropic」。

為何重要:這是前沿模型公司對「現在的風險在掌控中」的書面自評,企業與監管者若照單全收,可能低估自己該做的防護。

誰在對賭:本報專欄 2026-09-27 裁存疑,讀成整個業界時同週的一手紀錄支持 Brundage,讀成 Anthropic 自家模型時公開收據不夠。

判斷

本報判讀:Brundage 那句話的後半「不論指誰」,目前查不到收據。同週的一手事故紀錄都是 OpenAI 的模型,直接點到 Anthropic 的只有一則匿名來源、沒有分母的媒體報導。

本報因此設一條短期檢查:到 2026-11-22,Anthropic 是否在官方管道(系統卡、部落格或事故報告)公布自家現役模型問題行為事件的件數、定義與分母。

有公布,Anthropic 那一讀就變得可以核對。沒有公布,「讀成 Anthropic 就查不到」這個空白繼續掛著,存疑維持。

寫下判斷時的出處

這張卡寫下判斷時依據的原文,還沒有整理成可以點開核對的連結。

收據

到 2026-11-22 對答案:查 Anthropic 的系統卡(隨模型發布的安全技術文件)、官方部落格與事故報告。

有公布件數、定義與分母:Anthropic 那一讀變得可以核對。若數字顯示真實世界的越權存取為零、測試中的問題行為都被即時攔下,Brundage「不論指誰」那半句就改判不成立。

沒有公布:「讀成 Anthropic 就查不到」的空白續掛,存疑維持。

什麼會推翻它

若 Anthropic 之後改用無法比對的匯總數字揭露,例如真實世界與測試環境合併計數、看不出真實世界是否為零,這條就無從觀察,記為作廢,不算說中也不算沒中。