端末ごとに異なるGPUを扱う
ML Driftは、スマートフォンやブラウザーなどでAIモデルを動かすための推論エンジンだ。GPUの種類や制御方法の違いを共通の仕組みで扱う。公開リポジトリではOpenCL、Metal、WebGPU、OpenGL ESの実装を案内している。
開発者はLiteRT経由でモデルを実行するか、C++のAPIで独自の計算処理を組み立てる。共通の記法でGPUの計算コードを書き、各実装向けに変換できる。大規模言語モデルでは、入力をまとめて処理する段階と出力を順に生成する段階に応じて計算方法を切り替える。
OpenCL
- 主な対象
- Android
Metal
- 主な対象
- Apple端末
WebGPU
- 主な対象
- ブラウザー、Dawn経由の各環境
OpenGL ES
- 主な対象
- バージョン3.1以上
公式READMEの整理。すべての端末で同じ性能を保証する表ではない。
Googleは、ChromeやYouTube Shortsなどでの利用例も紹介した。YouTube Shortsの人物などを分ける映像効果では、AndroidとiOSの平均フレーム処理時間を最大40%減らしたとしている。これは同社が示す特定用途の値で、AI全般の性能向上率には広げられない。
従来のTensorFlow Lite GPU delegateには、今後新機能を追加しない方針だ。GoogleはML Driftへの移行を勧めている。WindowsとLinuxなどでのデスクトップ対応はプレビューとして紹介され、Google Play開発者サービス向けLiteRTへの搭載は今後の予定となっている。
出典
- ML Drift: Next-Gen GPU AI/ML Inference at the Edge公開日2026-10-08。OSS公開、LiteRTとの関係、用途を限定した40%値、旧基盤の方針と提供段階を支える。2026-10-13に本文確認。
- google-ai-edge/ml-drift README公開日表記なし、10月8日の発表に対応する現行README。対応GPU API、共通記法、段階別最適化を支える。2026-10-13に本文確認。
出典の確認日 2026.10.13