研究與模型 2026年10月17日

今日 · 發布 10 月 16 日

Databricks 補知識讓漏報降至 4%。無獨立複現

Databricks 安全研究：便宜模型抓不到 npm 套件裡藏在二進位檔的惡意程式，推理前先給約 1,800 token 的領域知識，該送人工複查卻沒送的比例從 50% 降到 4%。 npm 是 JavaScript 的套件庫。母體是 70 次測試、十種二進位惡意負載，對照是同一批預算級模型、同輸入、有無這份知識。這裡的失敗，指惡意套件的判定連送人工複查的門檻都沒到。對照的 Sonnet 4.6 與 Kimi K3 不給這份知識，也把十種負載全部抓到，單次成本約為預算級的三倍（Databricks，2026-10-16）。多模型投票沒用，原句：「correlated errors converge on the wrong answer rather than canceling」。受測模型之一 Gemini 十種都判惡意，卻編出掃描輸入裡不存在的位址。Databricks 自家研究、推銷自家做法，沒有獨立複現。