AIニュース 2026年10月21日

今日 · 発表 10 月 20 日

Google、TorchTPU を発表——数字は自社側のみ

Google、TPU を PyTorch のネイティブなデバイスに——vLLM と SGLang の TPU 版推論エンジンは、両フレームワークの創業チームが立てた会社と共同開発

なぜ重要か： オープンモデルを TPU に移すとき、モデル層は設定変更で済む。カーネルは別に書く必要がある。1 ドルあたり性能は Google 側の数字しかない。

Google は 10 月 20 日、TPU を PyTorch のネイティブなデバイスにする TorchTPU を発表し、vLLM と SGLang の創業チームの会社と TPU 版推論エンジンも出した。百万トークンあたり最低コスト 2.01 セントは Google の自己申告で、プレビュー顧客の名前はない（Google for Developers、2026-10-20）。Hugging Face は、同社の変換層はもう要らないとした（Hugging Face、2026-10-20）。公開版は 10 月 19 日に公開された（PyPI torch-tpu）。

まだ言えないこと： コストと性能の数字は、すべて Google か提携先のもの どう確かめたか →

判断の更新： 今回、Google は vLLM と SGLang の創業チームを引き込み、Meta の学習フレームワークと Hugging Face のモデル定義にも合わせて一緒に作っている。Google と提携先の説明によれば、オープンモデルを TPU に移すとき、モデル定義とフレームワークの層は設定を変えれば動く。演算カーネル（kernel）は、TPU 向けに書き直すか調整する必要が残る。1 ドルあたりの性能は今のところ Google 側の数字しかなく、独立した測定はない。ここまでが本紙の読みである。本紙が 9 月に置いた検証点は、2026-11-07 までに Google と提携関係のない名前のある第三者が公開版で InferenceX を再実行するかどうかだ。今日、この点の新しい証拠はない。この判断を覆す条件：Google 以外の名前のある顧客が TPU への移行後の本番コストを公表する、または 2027 年 3 月になってもプレビュー顧客の名前が出ない。