到 2027 年 7 月,獨立編碼工具能否通過企業採用與模型切換三門檻?——開獎 2027-07-14
未到期
到 2027 年 7 月,獨立編碼工具能否通過企業採用與模型切換三門檻?——開獎 2027-07-14
原定查核日 2027-07-14
背景
寫程式的 AI 工具層(業界叫 harness)是包在模型外面、負責指揮模型工作的軟體。獨立工具若能跨模型使用,買方就比較容易更換模型供應商。
本卡檢驗這類第三方工具能否同時證明大型企業採用與切換模型後的性能。
判斷
本卡檢驗到 2027-07-14 是否同時滿足三項門檻:
①有至少兩家獨立、不綁單一模型的編碼工具廠;
②每家各有至少三家財星 500 大或同等規模企業的公開採用證言;
③切換底層模型後,基準測試分數降幅小於 5 個百分點。
百分點是分數的直接相減,例如 80% 降至 75% 是下降 5 個百分點,恰好 5 不符合「小於 5」。
本報估計這整個事件成立的機率為 40%,低於一半。三項全部滿足才算說中;任一沒滿足算沒中,這時「模型與工具由同一供應商一體提供仍佔優」的看法保留。本報未核實今天的企業採用數或切換分數。
原判準未細定哪些企業算同等規模、哪些榜單算等值,以及必須比較哪一組模型,這些需在結算時釐清。若測試方法重大改版、使切換前後分數不可比,原判準規定作廢。
寫下判斷時的出處
這張卡寫下判斷時依據的原文,還沒有整理成可以點開核對的連結。
收據
查各工具廠官網的企業客戶案例,加上 SWE-bench Verified(業界公認的高難度程式修復基準)或等值榜單的歷史紀錄,比對換模型前後的分數。三項門檻同時滿足才算說中,任一沒滿足算沒中。
誠實記:廠商與基準都是既有的公開實體,本報沒有另外核實個別分數的現況——那是到期查證項。
什麼會推翻它
三項門檻任一沒滿足即判沒中;模型與工具由同一供應商一體提供仍佔優的看法保留。