プロダクト動向 2026年8月17日

今週 · 出来事の日 08-16

既定値がそのまま実際の振る舞いになる——ノートパソコンで走る出来のよいモデルが、「円を一つ描く」まで大仕事だと考える。

Simon Willison(目利きの読みの欄を参照)が、アリババの新しい Qwen 3.8 27B を実測した(Apache 2 ライセンス、オープンウェイト、視覚の能力つき、精度を落として圧縮(量子化)すると約 17 GB で、まともな構成のノートパソコンに収まる)。判定は、いまノートパソコン級の機械で動くローカルモデルとして最良の一つ、である。ただし既定で推論の強さが最上段に置かれている。 同じ指示(彼が長年決まって使う「自転車に乗るペリカンのベクター画」のテスト)で、思考の連鎖を入れると 21 分と 22,276 トークンを焼き、切ると 137 秒で済んだ。時間の差はおよそ 9.2 倍になる。⚠️ 出力の長さは二回ともほぼ同じで(3,223 対 3,715 トークン)、差はすべて思考の連鎖の部分にある。極端な一回は、指示が「円のベクター画を描く」だけだったのに、思考の連鎖は出だしから同心の補助円、目盛り、グラデーションの塗り、脈打つ光のにじみを自分で積み増していた。人を惑わす罠がもう一つある。彼が使ったローカルで動かす道具は、文脈の上限が既定で 8,192 トークンしかない。考えるだけで使い切ってしまう。上限を 262,144 いっぱいまで引き上げると問題は消えた(実測の全文)。今日から使える二件: ローカルのモデルを走らせるときは、まず推論の強さを下げ、文脈の上限をいっぱいまで引く。実際の振る舞いを決めるのは、この二つの既定値だ。書類に四つの段があると書いてあることは、利用者が四つの段を手にしていることを意味しない。⚠️ これは開発者一人の一次の実測であって、ベンチマークではない。Qwen は前の世代とも自社の非公開版とも比べて上がったと自ら述べているが、⚠️ それは事業者の自己申告で、いまのところ独立した検証はない。