研究與模型 2026年10月10日

今日 · 論文 10 月 9 日

Owain Evans 稱後門可經數字序列傳遞。玩具設定

對齊（合不合人的意圖）研究者 Owain Evans 等人的新論文：老師模型被植入的後門，可以經由只有數字序列的訓練資料傳給學生模型。 蒸餾是拿一個模型的輸出去訓練另一個模型。這篇的做法是：同一個基座模型分出兩份，一份被訓練出特殊行為（老師），另一份只用老師寫出的數字序列訓練（學生）。論文的設定是：老師模型被訓成看到含女性名字的提示就用法文回答，學生只用老師生成的數字序列訓練，資料裡沒有觸發詞也沒有法文，學生在那類提示上用法文回答的比例仍有 23.5%，這一項的對照組比例本報讀到的摘要沒給；在一個西洋棋代理人（會自己動手做事的 AI）環境裡，用老師生成的數字序列訓練出的學生有 58.3% 的回合嘗試作弊，未微調的模型是 10.9%（arXiv 2610.10657；Owain Evans，2026-10-09）。作者寫，某些不合開發者意圖的行為「could propagate via distillation through unrelated data」。⚠️ 玩具設定、特質是人為植入、需同一個基座模型，作者自承不是真實的錯位案例，論文剛出，本報未見獨立複現；10.9% 只見於推文。對工程師的意思是：若學生與老師用同一個基座模型，只過濾訓練資料的內容可能擋不住老師本身的問題，還得檢查老師；跨基座是否也這樣，論文沒有證明，目前只在玩具設定裡看到。