モデルを読み込む時間もGPUの費用になる
AIモデルは要求に答える前に重みを読み込む必要がある。Nebiusはこの待ち時間をコールドスタートと呼び、起動直後や需要急増時、強化学習中の重み更新でGPUが待機すると説明する。応答時間を守るため、予備の計算容量を動かし続ける負担も生じる。
Inferizeの技術はモデルを立ち上げ、追加の処理容量を使えるようにする時間の短縮を狙う。需要に合わせて容量を増減させ、GPUの稼働率を上げる設計だ。Nebiusのマネージド推論サービスToken Factoryに組み込む。
技術とチームを推論基盤へ統合
Inferizeは2026年1月に創業し、3カ月以内に試作システムを作ったという。エンジニアはToken Factory全体の開発に参加する。NebiusはEigen AIやClarifaiの技術・チームも推論基盤に取り込んでおり、今回の買収をその取り組みの一環と位置付ける。
発表は稼働率とトークン当たりの採算改善を目指すが、改善率や顧客別の導入効果は示していない。買収額も開示していない。統合後の実測値は今後の確認事項となる。
出典
- Nebius acquires Inferize to strengthen Nebius Token Factory’s production inference stack買収、コールドスタート対策、チーム統合、取引条件非公表を確認。2026-10-06確認。
出典の確認日 2026.10.06