有人把一款部署中的模型權重整個拆開實測，推翻了一個業界常用的省錢假設。

本篇出自 2026年9月3日 晨報

先解釋：現在的大模型多半是專家混合架構，不是每個字都跑整個大模型，而是把每個字分派給少數幾個專門的子模型，所以模型可以很大而每次只用一小塊算力。工程上常見的省錢做法是「把最不重要的專家剪掉」，而判斷重要性的常用代理指標是「這個專家被分派到幾次」。獨立研究者 Alexey Fateev 在四張 RTX PRO 6000 上實跑 GLM-5.3 Flash 的部署檢查點（320B 總參數、18B 活躍），逐項量測而不是讀設定檔，量出兩件事：一、被分派次數與專家實際重要性幾乎不相關（Spearman 相關係數 −0.222）；二、把最不重要的那 2% 專家丟掉，仍然改變了 64% 的輸出序列（丟掉最重要的 2% 是 79%）（@superalesha，09-02）。這對「剪枝省成本」這條工程路線是壞消息：常用的那把尺量錯了東西，而且就算量對了，最不重要的那一小撮也不是可以無痛拿掉的。⚠️ 本報對這位研究者的過往紀錄沒有資料，這是單一來源的實測，還沒有人複現。

同類最新

• 模型觀點 2026年9月4日 1 條來源

  一篇 OpenAI 論文的承重發現，被同一家公司八個半月後的系統卡對衝掉。

  2025 年 12 月 20 日，OpenAI 發表〈Monitoring Monitorability〉，把「思維鏈好不好監控」做成可量測指標，最關鍵的發現之一逐字是「RL op…

• 模型觀點 2026年9月4日 2 條來源

  三家自證用的那把尺，量的是「重現一個你已經被告知的漏洞」。

  CyberGym 是柏克萊團隊做的公開測驗，收了 1,507 個真實漏洞、涵蓋 188 個開源專案，資料來自 Google 維運的開源模糊測試平台 OSS-Fuzz，所以那些漏洞天…

• 模型觀點 2026年9月2日 1 條來源

  有人拿心理計量學的工具去拆評測，發現「安全評測」裡有一半在量推理。

  美國艾倫人工智慧研究院 9 月 1 日發表 BenchMIRT，用試題反應理論的多維版本逐題拆一個評測到底在量什麼，這套方法本來是心理測驗用來從答題模式估能力的。它吃了 100 個…

• 模型觀點 2026年8月31日 2 條來源

  普渡大學的 GPU 模擬器對到真晶片 99%：模型跑起來會是什麼行為，不必買到那批機器也量得出來。

  這套模擬器量的是模型實際跑在硬體上時的行為，不是模型本身的分數。普渡大學研究團隊發表論文，提出一套涵蓋 Nvidia Ampere、Hopper、Blackwell 三個世代的週期…