企業客製 AI 會分工:知識靠檢索塞進提示,行為才寫進模型——開獎 2027-07-14

這在吵什麼:要讓通用模型懂自家業務,可以在提問時把相關文件查出來交給模型(或直接用很長的輸入窗口),也可以拿資料再訓練模型(微調)。

為何重要:兩條路的成本和維護方式差很多,知識會過期,放在提示裡隨換隨新,寫進模型就得重訓。

誰在對賭:一派認為某一邊終將吃掉另一邊;本報判讀是兩者並存分工,按「要改的是知識還是行為」分流。

本報判讀:企業客製模型會走分工,不是誰取代誰。知識類客製走提示這一側,用 RAG(提問時先檢索相關文件再交給模型)或長輸入窗口,好處是可以更新、可以查核來源。

行為和格式類客製走模型權重(模型內部的參數)這一側,也就是微調,好處是表現穩定,不必每次在提示裡交代。

兩篇 2026 年的獨立論文各在一個場景裡顯示其中一側占優,本報讀成分工,不是勝負。

arXiv (Lewis/Perez/Piktus/.../Riedel/Kiela; FAIR/UCL)
「models which combine pre-trained parametric and…」

到 2027-07-14 對答案:看企業客製的主流是否仍是「檢索加提示」,微調是否仍只用在行為和格式上。仍是如此算說中。

這個判斷後來拆成兩個可量的條件,都看同一份具名的企業 AI 年度調查(a16z 或同等級):以檢索或提示為主要知識注入方式的企業占比達六成以上,以及微調用途中「灌知識」類占比低於三成。

什麼會推翻它

像 Cartridges(史丹佛研究團隊把整批文件預先訓練成一小塊模型參數的做法)這種把知識直接寫進權重的方法,在企業場景被獨立複現,而且總成本低於檢索:知識這一側的分工就被侵蝕。