THE NEWS DESK
AIニュース
公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。
プロダクト
新しいサービスや開発者向けの発表を紹介します。
1件新しい順
分散推論スタックllm-d、1.0を公開 Kubernetes上でAIエージェントの大量同時実行を運用する
Kubernetesネイティブの分散推論スタックllm-dは2026年10月20日、最初の安定版となるv1.0.0を公開しました。PyTorch Conferenceでの発表です。プロジェクトは2025年5月にRed Hat、Google Cloud、IBM Research、CoreWeave、NVIDIAが共同で開始し、2026年3月にCNCF Sandboxプロジェクトになりました。1.0はマルチテナントのQoS制御、無停止更新、v1設定API、エージェントのセッション管理を統合した本番運用向けの版です。公表された性能数値は特定構成での測定値です。