AI 新聞 2026年10月27日

今日 · 貼文 10 月 26 日

AVERI 審 Amazon 800 題樣本。抽樣未經驗

推動第三方 AI 稽核的非營利團體 AVERI 審了 Amazon 提供的 800 題內部 AI 安全題庫樣本，點出部分拒答可能只靠表面字眼觸發，Amazon 回應改四件事

本報 AI 推測：外部機構審 Amazon 題庫是新形態，但抽樣與改法仍由 Amazon 說了算 AVERI 公布完整報告或第二家公司公開同類審查時時對答案

為什麼重要： 外部機構看了 Amazon 的安全題庫並公開弱點，抽樣、改法與發表核可權都在 Amazon 手上。

推動第三方 AI 稽核的非營利團體 AVERI 10 月 26 日公布對 Amazon 內部安全題庫的審查結果（AVERI，2026-10-26）。審的是題庫品質不是模型：Amazon 抽 800 題。弱點是部分攻擊題只測得到過濾器、部分拒答可能由表面字眼而非安全推理觸發。Amazon 10 月 20 日先回應改四件事：去重加難題、按難度分層、擴多語、每季重新檢視（Amazon Science，2026-10-20）。

還不能當真： 抽樣由 Amazon 提供，AVERI 沒驗抽樣 怎麼查的 →

判斷更新： 本報的讀法：「審題庫、不碰模型、受審方有核可權」這種合作，證明力介於公司自評與第三方直接測模型之間；在抽樣與改法都由 Amazon 單方交代的情況下，這次審查改變的是題庫怎麼出，Nova 2 安不安全沒有新數據。下一個要看的是 AVERI 的完整報告，以及有沒有第二家公司開放內部題庫給外部審。