研究とモデル 2026年10月12日

今日 · 10 月 11 日の投稿

Sakana AI、モデルが自分を微調整——効果は自己申告

Sakana AI は UC Berkeley との共同研究 MASS を紹介した。270 億パラメータのオープンウェイトモデル一つに、役割を分けたチームを演じさせ、うまくいったやり取りの記録を使って自分自身を微調整する。会社の投稿によると、これを二回まわすと、出力トークン一つあたりの評価スコアが元のモデルの 1.2 から 1.6 倍になった。 Sakana AI の共同創業者 David Ha 氏の解説では、手順は二つの段階を交互に繰り返す。まず役割分担の組み方を進化的に探索し、次に、うまくいった分担での協働の記録を使って、共通の一つのモデルを訓練する。モデルは自分が生んだ成功記録で自分を訓練するわけだが、これが継続的な自己改善にあたるかを投稿は証明していない（David Ha、2026-10-11；Sakana AI、2026-10-11）。評価は研究系の課題で、投稿は四つとしながら、名前を挙げているのは MLR-Bench、ScienceAgentBench、DSBench の三つだけだ。この比率は評価スコアを出力の長さで割ったもので、能力が 1.2 から 1.6 倍になったことを意味しない。比率の上昇は出力が短くなっただけかもしれず、投稿はスコアと長さの変化を分けて示していない。論文自身も、モデルが自分の採点も兼ねると、共通の盲点のせいで誤りが進歩とみなされ、強化され続けるおそれがあると警告している。⚠️ 数字の出どころは会社の投稿だけで、論文は未読。 どう確かめたか →