AIニュース 2026年8月31日

今週 · 公開日 8 月 30 日

フラッシュメモリは一段あたり 16 倍を収められる。だが素直に置き換えると GPU が飢える——オックスフォード大学が出した折衷案。

オックスフォード大学の研究チームが論文を発表した。高帯域フラッシュメモリは一段あたりの容量が現行の高帯域メモリの 16 倍で、帯域は同等になる。推論で大きなモデルが収まらないという問題の答えに見える。ところが、そのまま置き換えると性能はひどく落ちる。フラッシュメモリのロングテールの遅延が、GPU の実行順を決める仕組みを空待ちさせるからだ。彼らのやり方は、二種類のメモリを混ぜて使い、予測によって遅いほうを重要な経路から外すことにある（Semiconductor Engineering、08-30；論文の原文、IEEE Computer Architecture Letters、2026 年 8 月）。記憶しておく理由： 今日の中核 1 点目と 2 点目はどちらも推論にかかる金の話で、その推論コストの物理の底は「モデルがメモリに収まるかどうか」で詰まっている。容量が 16 倍安くなるのは大きな数字だが、引き換えに出てくるのが遅延だ。この帳尻は、まだ誰も計算し終えていない。終わるまでは、「メモリが安くなる」という筋の推論はどれも半分欠けている。計算が終わった合図は、混ぜた設計が実際の推論負荷でどれだけの遅延になるかの実測が公開されることであって、もう一つの容量の倍数ではない。