第8世代TPUに2つのシステムを追加

米Googleは11月9日、自社開発のAI向け半導体「TPU」の第8世代に、新しいシステム「TPU 8i Max」と「TPU 8tx」を加えたと公式ブログで発表した。TPU 8i Maxは非常に長いコンテキスト（AIが一度に扱う入力の範囲）と、ラック（サーバーを収める棚）当たりの計算密度の高さを、TPU 8txは安全で機密性の高い推論を狙う。4月に発表した学習向けの「TPU 8t」と推論向けの「TPU 8i」に加わる。Googleは、1年に4つのTPUシステムを出すのは初めてだとしている。

ブログの筆者で、GoogleでAIとインフラを統括するAmin Vahdat上級副社長（チーフ・テクノロジスト）は、Xでも発表を伝えた（投稿は日本時間9日午後10時38分）。

Thrilled to share a big milestone from our AI & Infrastructure team at @Google. Today we’re expanding our 8th generation TPU portfolio with: • TPU 8i Max: Built for massive context windows and the highest compute density per rack • TPU 8tx: Purpose-built for secure, confidential inference This marks the first time we’ve introduced four distinct TPU systems in a single generation, in one year. For developers, hardware is only as good as the software stack. And we want you to be able to build with TPUs as easily and efficiently as we do at Google. You can now: ↳ Run native PyTorch & Hugging Face models via TorchTPU (zero code rewrites) ↳ Cut KV transfer latency >90% with open-source TPU Sync ↳ Eliminate idle compute waste with Agent Compute Engine Read more about our newest TPUs on our blog: https://t.co/8eaFhq3jhi I look forward to connecting with builders, researchers, engineers and organizations pushing the boundaries of AI and computing!

@AminVahdat · 2026年11月9日
訳：GoogleのAIとインフラのチームの大きな節目を伝えられてうれしい。本日、第8世代TPUの品ぞろえに次の2つを加える。TPU 8i Max：巨大なコンテキストと、ラック当たり最高の計算密度のために作った。TPU 8tx：安全で機密性の高い推論専用に作った。1つの世代で、1年のうちに4つの異なるTPUシステムを出すのは初めてだ。開発者にとって、ハードウエアの価値はソフトウエア次第だ。Googleと同じように手軽に効率よくTPUで開発してほしい。TorchTPUでPyTorchとHugging Faceのモデルをそのまま動かせる（コードの書き換えは不要）。オープンソースのTPU SyncでKVの転送遅延を90%超減らせる。Agent Compute Engineで遊んでいる計算資源の無駄をなくせる。新しいTPUの詳細はブログで。AIとコンピューティングの限界を広げる開発者、研究者、技術者、組織とつながるのを楽しみにしている。

投稿が挙げたソフトウエアのうち、TorchTPUは、ブログ自身が先月オープンソース化したと説明している。Agent Compute Engineは10月に発表済みで、今回の新しい発表ではない。TPU Syncは今回オープンソース化を表明したソフトウエアで、複数の記憶装置をまとめて扱い、KVキャッシュ（AIが途中の計算結果を保持するデータ）の転送遅延と、最初の出力が出るまでの時間（TTFT）を90%超減らすという。

TPU 8i Max、TPU 8iのチップ2個を1パッケージに

TPU 8i Maxは、低遅延のTPU 8iのチップ2個を1つのパッケージに載せたシステムだ。計算性能、SRAM（チップ内の高速メモリー）、HBM（チップの隣に積む広帯域メモリー）の帯域が、いずれもTPU 8iの2倍になる。既存のラックの設置面積に2倍のシリコンを収めるため、データセンターは床面積当たり、電力当たりでより多くの計算能力を置けるという。

Googleによると、数十のAIエージェントがソフトウエアのコード全体や数時間分の動画を同時に扱うと、メモリーの帯域が処理の詰まりになる。企業がエージェントを実際の業務で動かし始めたことで、ハードウエアでのデータ保護と、100万トークン規模のコンテキストという2つの課題が生まれ、今回の2システムはそれに応える構成だと説明した。計算性能や帯域の絶対値は示していない。

TPU 8tx、使用中のデータもハードウエアで保護

TPU 8txは、安全で機密性の高い推論に向けたシステムで、小規模な学習にも向くという。最先端のモデルや独自のモデル、AIエージェントを機密データと一緒に動かす、規制の強い企業や政府を対象にする。

データは保存や通信の際には暗号化されるが、計算する間はメモリー上で復号する必要がある。TPU 8txはTPU 8tと同じシリコンに、AMDの第5世代「EPYC」のCPUを載せたホストを組み合わせ、安全の仕組みをハードウエアに組み込んだ。機密データやモデルの重みを、使用中も保護し、隔離するとしている。

ネットワークには、リアルタイムの推論向けに作った低遅延の「Boardfly」を採用した。Googleは、TPU 8tに比べて遅延は最大で2分の1になり、性能の低下はほぼないと説明している。測定の条件は示していない。機密データを別のクラスター（計算機の一群）に移さずに、同じシステムでモデルの微調整、大きなモデルから小さなモデルへの蒸留、強化学習ができるという。

既存のチップを組み合わせた新しい構成

Googleは今回の発表で、新しいチップと新しいシステムを区別している。チップの設計と製造には何年もかかるが、システムはチップの周りの計算、ネットワーク、記憶装置、パッケージの組み合わせで作る。TPUを部品のように組める設計にしてきたため、用途に合わせた専用のスーパーコンピューターを数カ月で出せるという。

4月のクラウドの年次イベント「Google Cloud Next」で発表したTPU 8tとTPU 8iについて、Googleは前の世代に比べ、それぞれ学習性能が最大2.7倍、推論の費用対性能が80%高いと説明している。今回の2システムについては、こうした前の世代との比較の数字を示していない。

GoogleはTPUを、自社のGeminiの学習と提供、Google Cloudの顧客向けのサービスに使い、最近は顧客の自社データセンターにも置けるようにした。TPUの顧客は、最先端のAIを開発する企業、トレーディング会社、小売り、大学など100社近くに上るという。

第8世代TPUの4つのシステム。Googleの公式ブログによる
システム発表Googleの説明する用途
TPU 8t2026年4月大規模な学習
TPU 8i2026年4月リアルタイムの推論
TPU 8tx2026年11月安全で機密性の高い推論、小規模な学習
TPU 8i Max2026年11月巨大なコンテキスト、ラック当たり最高の計算密度

料金と提供時期は示さず

Googleはブログで、2つのシステムの料金、提供開始日、提供地域を明らかにしていない。新しいTPUシステムの詳細は、当日の太平洋時間午前9時（日本時間10日午前2時）からの配信で説明するとしていた。