SecondSource從一手資料重建判斷

今日 · 10 月 10 日

LangChain 用便宜模型降本 64%。單一產品自報

LangChain 執行長 Harrison Chase 說,自家開源寫程式代理人(會自己動手做事的 AI)Open SWE 改由外層程式依品質門檻替每個任務挑最便宜的模型後,每個任務的成本中位數降了 64%。 他寫:「most orchestration steps don't need a frontier model. for Open SWE we moved model choice into the harness, so each task goes to the cheapest model that still does the job, tested against quality. median cost per task dropped 64%」(Harrison Chase,2026-10-10)。harness 是包在模型外面、管提示、工具與流程的那層程式。改前用的模型與品質怎麼量,LangChain 10 月 1 日的部落格寫了:對照組一律用 GPT-6 Astra;品質看任務最後有沒有變成被合併的程式碼修改,走路由的 29.2%、對照組 27.3%(p=0.49,差距不顯著);成本中位數 0.94 美元對 2.61 美元,少 64%(LangChain 部落格,2026-10-01)。這是單一產品的自報中位數,不能外推到別的代理人。想照做的團隊,可以先在自己的任務上量便宜模型的通過率,再決定哪幾步能降級。

概念插圖:左側淺色桌面上放著一台打開的筆電,螢幕上有一個內含灰色橫線的對話框,掌托上寫著「OPEN SWE」;一條紅色線從筆電側面連到右下方一個有接口和三個小圓點的黑色小盒,盒子右邊立著一座由八層單元疊成的深色高大機櫃。畫面上方的淺色橫幅上畫有一隻綠色鸚鵡、一個綠色鏈環圖示和「LANGCHAIN」字樣。

出處

這則刊在2026年10月11日的晨報,同一期還有 13 則。

引用這則

SecondSource(2026),〈LangChain 用便宜模型降本 64%。單一產品自報〉,https://secondsource.io/product/2026-10-11-1/,取用日期取用。