SecondSource從一手資料重建判斷
模型觀點 · 2026年8月30日

今天真正值得記的不是規格,是一個缺口。

模型觀點

本篇出自 2026年8月30日 晨報

一位使用者回報 Qwen3.8-Flash 在低精度下多輪追蹤壞掉,把鍵值快取換回較高精度之後修好了(QuixiAI,08-29)。鍵值快取存的是先前每個字的向量,多輪對話靠它維持狀態;把它壓到低精度會累積誤差,而誤差在單輪推論裡看不出來、在多輪追蹤裡才爆掉。⚠️ 這是單一使用者的部署經驗,只有一個案例。但它指出的東西是普遍的:發布時的規格與價格全是單輪指標,實際部署的失效卻出現在狀態維持上,而沒有任何一家實驗室在發布時提供多輪穩定性的讀數。照著發布數字做採購決策的人,缺的就是這一項。規格與價格可以並排比,狀態維持的可靠度不能:三家追平規格,不等於買方的採購風險跟著追平。

免費訂閱,明天早上就收得到

只留 email,隨時退訂。這是我們唯一想請你做的事。

同類最新