Cloud Pathwaysは、Google DeepMindがGoogleのフロンティアモデル(Geminiを含む)の学習とサービングのために作り込んできた分散機械学習ランタイムです。今回の一般提供(GA)により、Google CloudのAI Hypercomputerの中核ランタイムとして、あらゆる顧客がGoogleの大規模ワークロードと同じ単一コントローラー方式を使えるようになりました。公式ドキュメントも、Googleが内部でGeminiのような大規模モデルの学習にPathwaysを使っていると説明しています。
解決する課題は、従来のmulti-controller方式の運用複雑さです。デフォルトのmulti-controller JAXでは、TPUホストごとに独立したPythonインタープリターが動き、各プロセスは自分に接続されたデバイスの局所的な視点しか持たず、同じSPMDプログラムを同期して実行します。複数スライスにまたがる異種ワークロードやリソース管理が複雑で壊れやすくなります。Cloud PathwaysはオープンソースのIFRT(Interim Framework Runtime)に基づく単一コントローラー構成で、JAX_PLATFORMS=proxyとpathwaysutilsの設定により、単一のJAXクライアントプロセスが数千チップ規模の複数TPUスライスを、ローカルに接続された1台のように見て操作できます。
一般提供の範囲GKEでGA、Slurm連携はプレビュー
- GKEで一般提供
TPU v5e・v5p・Trillium(v6e)・Ironwood(TPU 7x)
対応TPUを提供するすべてのGoogle Cloudリージョンで利用可能。JAX 0.10.1以降に対応したバージョン付きコンテナイメージを提供
- Slurmクラスター向け
Cluster Director連携はプレビュー
SlurmクラスターへPathwaysを拡張し、複数スライスのJAX実行、elastic training、対話的ノートブックに対応
Google Cloud公式ブログ(2026-11-10)による。料金とSlurm連携の一般提供時期はこの発表では示されていない。
発表が挙げる機能は4つです。単一のコントローラーがグラフ評価、Cloud Storageへのコンパイルキャッシュ、非同期のXLA HLOディスパッチを管理します。TPUホスト上で動くcolocated Python sidecar(共有メモリー対応)は、分散データ読み込みやチェックポイント処理のような計算負荷の高いPythonコードをホスト上で直接実行します。ホストメモリースナップショットを使うelastic trainingは、ハードウェア障害時にクライアントを落とさずN-1スライスへ動的に再シャーディングします。このほか、ノートブックや端末からJAXワークロードを対話的に実行・検査できるinteractive modeと、長時間稼働のTPUスライスプールを複数ユーザーとジョブで共有するShared Pathways Serviceが提供されます。
採用実績として、直近90日間でPathways on GKEを使って処理されたCloud TPUの処理量が1億3,000万チップ時間を超えたとGoogleは説明しています。これはGoogleの公表値で、利用量を表すもので売上ではありません。名前の明かされた顧客では、科学基盤モデル企業のZenteiQがCluster Toolkit、colocated Python sidecar、ホストスナップショットを組み合わせ、Trillium(v6e)の複数スライスでMaxTextによるelastic pre-trainingと、MaxTextとTunixによる単一コントローラーの強化学習を実行しています。このほか、世界最大級の消費者テクノロジー企業の1社が数万個のTPU v5p、Trillium、Ironwoodチップでバッチと強化学習の推論を運用し、四半期で1億チップ時間超を消費していると紹介されましたが、企業名は明かされていません。
「高価なアクセラレーターでの数日にわたる事前学習と事後学習のジョブでは、予期しないハードウェア障害と計画されたメンテナンスのどちらでも処理が確実に続くことが求められます。Google CloudのAI HypercomputerスタックでCloud TPUとMaxTextをCloud Pathwaysとともに動かすことで、チップやスライスがオフラインになったときにTPUトポロジーを監視し、ワークロードを動的に再メッシュ・リサイズする実績のあるコントローラーに頼ることができます。」
Running multi-day pre-training and post-training jobs on high-cost accelerators requires reliable continuity through both unexpected hardware faults and planned maintenance windows. By running Cloud TPUs and MaxText with Cloud Pathways on the Google Cloud AI Hypercomputer stack, ZenteiQ relies on a proven controller that monitors our TPU topology and dynamically re-meshes and resizes the workload whenever a chip or slice goes offline.
1億3,000万チップ時間はGoogleが公表した自社サービスの利用量で、独立監査された数値ではありません。四半期1億チップ時間超とされる顧客は匿名のままで、企業名を推測すべきではありません。この発表には速度向上率やコスト削減率の数値がなく、障害復旧時間の実測などの第三者検証も示されていません。価格とSlurm連携の一般提供時期も未公表です。
出典
- Cloud Pathways, a distributed ML runtime for massive accelerator fleets, now GA(Google Cloud Blog、2026-11-10)GAの発表(AI Hypercomputerの中核ランタイム)、90日間で1億3,000万チップ時間超、IFRT基盤の単一コントローラー、colocated Python sidecar、elastic training(N-1スライスへの再シャーディング)、interactive modeとShared Pathways Service、対応TPU(v5e/v5p/Trillium v6e/Ironwood 7x)とJAX 0.10.1以降、Cluster Director経由のSlurm連携がプレビュー、匿名大手顧客の四半期1億チップ時間超、ZenteiQの採用事例とコメント。2026-11-10に全文取得
- Introduction to Pathways on Cloud(Google Cloud、AI Hypercomputerドキュメント、2026-11-10確認)single-controllerとmulti-controllerの比較(制御・視点・プログラミング・柔軟性)、Pathwaysの構成要素(resource manager、client、worker、IFRT proxy、sidecar server)、GKEとCluster Director(Slurm)の2つの実行基盤、Google内部でのGemini学習への利用。2026-11-10に全文取得
出典の確認日 2026.11.10