THE NEWS DESK
AIニュース
公式発表や本人の発言をもとに、
AI企業や研究者の動きを伝えます。
プロダクト
新しいサービスや開発者向けの発表を紹介します。
1件新しい順
Buoyant、KubernetesとvLLM向けの推論制御プレーン「Kinference」をOSS公開
Linkerd開発元のBuoyantは2026年11月4日、KubernetesとvLLMの上で動くオープンソースの推論制御プレーン「Kinference」の一般提供を発表しました。Apache 2.0ライセンスで公開されており、KVキャッシュを考慮した負荷分散、ポリシーによるルーティング、テナント別の利用量とコスト配賦を担います。性能の数値は同社測定のベンチマーク値です。