AIの記憶争いは「プロンプトに戻す」側が今のところ優勢——期日 2027-07-14

何が争点か:AIに利用者や過去の仕事を覚えさせるには、記憶を外部に保存して毎回コンテキスト(モデルがその都度読む入力)に戻す方法と、モデルのパラメーター(重み)に直接書き込む方法がある。

なぜ重要か:重みへの書き込みが可能なら、AIはメモを見返すのではなく本当に「身につける」ことができ、不可能なら記憶製品の主戦場は外部の記憶をどう整理し取り出すかになる。

誰が何に賭けているか:Dwarkesh Patelはモデルが学び続けられないことが壁だと主張し、研究者のNathan Lambertはそれはシステムの問題で、より多くのコンテキストと強い推論で解けると反論しており、本紙は現時点で後者に傾いている。

本紙の見立て:記憶をめぐる争いは現時点でコンテキスト側に傾いている。重みに書き込んだ記憶は「書き込めて、しかも残る」ことさえまだ証明されていないからだ。

初めての直接的な仕組みの実験では、重みに直接書き込んだ事実は、その後20回の書き込みを経ると1〜46%しか残らなかった。同じ事実をコンテキストに戻すと77〜80%まで回復した。

決着はまだついておらず、本紙は現在の証拠がどちらに傾いているかを述べているにすぎない。

Packer/.../Gonzalez — UC Berkeley — arXiv
「virtual context management, a technique drawing…」

12カ月以内に2社以上の最先端研究所が重みレベルの記憶を本番環境に投入するかで判定する。なければ的中、あれば外れ。

何が起きれば覆るか

2社以上の最先端研究所が重みレベルの記憶を本番環境に投入すること。