Ep.1603 Google、新型AI半導体「TPU 8tx」「TPU 8i Max」を発表──エージェント時代のメモリと機密計算を制する年4機種の攻勢（2026年11月9日配信）

タイトル

Google、新型AI半導体「TPU 8tx」「TPU 8i Max」を発表──エージェント時代のメモリと機密計算を制する年4機種の攻勢

このエピソードで登場するキーワードを説明します。

Google: 米Alphabet傘下のテクノロジー企業。10年以上前から独自のAI特化型半導体を開発し、自社モデルの学習やクラウド顧客への提供を進めている。

アミン・ヴァフダット: GoogleのAIおよびインフラストラクチャ担当シニアバイスプレジデント兼チーフテクノロジスト。同社のカスタムシリコンとAIスーパーコンピュータ戦略を統括する。

TPU (Tensor Processing Unit): Googleが独自設計するAIの機械学習および推論に特化したカスタム半導体。第8世代では用途別にシステム構成を細分化している。

コンフィデンシャルコンピューティング: データを保存時や通信時だけでなく、メモリ上で処理している最中もハードウェアレベルで暗号化・隔離して保護するセキュリティ技術。

HBM (High Bandwidth Memory): 複数のDRAMチップを垂直に積層し、プロセッサとの間で超高速なデータ転送を実現する広帯域メモリ。大規模AIの性能を左右する重要部材。

それでは解説に入ります。

Googleは米国時間の2026年11月9日、第8世代の独自AI半導体ポートフォリオを拡充し、新たに「TPU 8tx」と「TPU 8i Max」の2つのシステムを発表しました。同社は2026年4月に開催されたGoogle Cloud Nextにおいて、大規模学習向けの「TPU 8t」とリアルタイム推論向けの「TPU 8i」を発表していましたが、わずか半年あまりでさらに2つの派生システムを追加した形です。Googleが1年のうちに4種類ものTPUシステムを投入するのは今回が初めてであり、自律型AIエージェントの本格普及を見据えてインフラの細分化とオープン化を一気に加速させています。

この異例のスピード展開を支えているのが、チップ単体ではなくシステム全体としてコンピュータを再構成するモジュラー設計のアプローチです。最先端のシリコンチップをゼロから設計・製造するには数年単位の歳月が必要ですが、Googleは既存のシリコンダイをビルディングブロックとして活用し、パッケージング技術や高速メモリ、光ネットワーク、セキュリティ機構を柔軟に組み替えることで、市場の新たな要請に数カ月単位で応える体制を構築しました。現在、TPU事業は最先端のAI研究所や金融取引企業、小売、大学など約100社の顧客を抱える急成長ビジネスとなっており、Bloombergの報道ではAppleやMeta、Oracle、Anthropicなども顧客に名を連ね、関連ハードウェアとソフトウェアを含む売上高は2026年の約120億ドルから2028年には1350億ドル規模へ急拡大すると予測されています。

今回発表された1つ目の新システムである「TPU 8tx」は、金融機関や医療機関、政府機関など、厳格な規制下にある組織に向けたコンフィデンシャルコンピューティング特化型システムです。通常、データは保存時やネットワーク転送時には暗号化されていますが、AIモデルがメモリ上で演算処理を行う際には復号しなければならず、そこが情報漏洩の弱点となっていました。TPU 8txは、学習用チップであるTPU 8tと同じシリコンをベースに、第5世代のAMD EPYCプロセッサをホストCPUとして組み合わせ、ハードウェア層に直接セキュリティ機構を組み込んでいます。これにより、機密データや独自のモデルウェイトをメモリ上で処理している最中も暗号化・隔離したまま保護することが可能です。さらに、推論向けに開発された低遅延のBoardflyネットワークを採用することで、性能劣化をほぼゼロに抑えつつTPU 8t比で最大2倍の低遅延を実現しました。企業は機密データを別々のクラスタへ移動させることなく、単一のシステム上でファインチューニングやモデルの蒸留、強化学習によるエージェントの訓練から本番推論までを一貫して安全に実行できます。

2つ目の「TPU 8i Max」は、AIエージェント時代における最大のボトルネックであるメモリの壁を突破するために設計されました。数十ものAIエージェントが連携し、巨大なソフトウェアのコードベース全体や数時間におよぶ動画など、100万トークン規模の超長文コンテキストを同時に処理する場面では、演算能力よりも先にメモリ帯域幅が枯渇して処理が停滞してしまいます。そこでGoogleは、低遅延な推論チップであるTPU 8iを1つのパッケージ上に2つ統合するデュアルチップ構成を採用しました。これにより、単一のTPU 8iと比べて演算性能、オンチップSRAM容量、そしてHBM帯域幅のすべてを2倍に引き上げ、元の576ギガバイト相当に倍増したHBMと毎秒約17.2テラバイトに達するメモリ帯域幅を確保しています。また、既存のデータセンターのラック設置面積を変えることなく2倍のシリコンを高密度に実装できるため、床面積あたりおよび消費電力あたりの計算効率も大幅に向上します。

ハードウェアの拡充と並んで業界に衝撃を与えているのが、NVIDIAのCUDAエコシステムに対する徹底したスイッチングコストの引き下げです。これまでTPUはGoogle独自のJAXフレームワークなどを使った専門的な最適化が必要とされてきましたが、Googleは2026年10月にオープンソース化した「TorchTPU」によって、業界標準のPyTorchコードやHugging Faceのモデルを書き換えなしでそのままネイティブ実行できる環境を整えました。さらに今回の発表にあわせて、Claude CodeやCursorなどのコーディングツールに直接プラグインして平易な言葉でTPUへの移行やカーネルの自動チューニングを行えるオープンソースの「TPUエージェントスイート」をプレビュー公開しています。加えて、データベース検索や人間の承認待ちで一時停止することが多いAIエージェントの特性に合わせ、待機中のセッションを数ミリ秒でチップから退避させて無駄な電力とコストを省く「Agent Compute Engine」や、チップ上のHBMからホストDRAM、ストレージまでを単一のメモリ階層として統合し、最初のトークンが出力されるまでの時間を90パーセント以上短縮する「TPU Sync」など、エージェント運用に直結するソフトウェア群も一斉に投入しました。

今回の2つの新システムは2027年に提供開始される見通しです。AI半導体市場で絶対的なシェアを握るNVIDIAに対抗し、学習、リアルタイム推論、機密計算、超長文コンテキストという4つの領域すべてに専用システムを揃え、かつPyTorch開発者をそのまま取り込もうとするGoogleの戦略は、企業のAIインフラ選びにおける勢力図を大きく塗り替える可能性を秘めています。

今回のエピソードは以上で終了です。また次回お会いしましょう。