Skip to content

採用とエコシステム

誰が使っているか

リポに ADOPTERS.md は無い。以下の組織は CNCF Incubating アナウンスと Bloomberg のエンジニアリング記事に基づく。出典のある採用事例のみを載せる。

組織ユースケース出典
Bloomberg自社の ML 推論基盤を KServe 上に構築。元の共同制作者でもあるBloomberg story
Red Hat採用組織。自社 AI プラットフォームに KServe を同梱CNCF blog
Cloudera採用組織CNCF blog
CyberAgent採用組織CNCF blog
Nutanix採用組織CNCF blog
SAP採用組織CNCF blog
NVIDIA採用組織。元の共同制作者でもあるCNCF blog

採用シグナル

kserve/kserve の GitHub API から、2026-06-24 時点: stars 5,611、forks 1,542、watchers (subscribers) 70、open issues + PRs 636。リポ作成は 2019-03-27 (GitHub API)。contributors API は匿名を含めおよそ 360 エントリまでページネーションするので、コントリビュータ層はその規模。

CNCF Incubating アナウンスはアナウンス時点の独自の値を公表している: stars 4,600 以上、PR 2,400 以上、コントリビュータ 300 以上、メンテナ 19、採用企業 30 以上 (CNCF blog)。KServe は 2025-09-29 に CNCF Incubation へ入り、TOC スポンサーは Faseela K と Kevin Wang。

エコシステム

KServe は複数のプロジェクトの上に、また並んで位置する:

  • サーバレス (Knative) デプロイモード向けの Knative。
  • ingress と VirtualService ルーティング向けの Istio。
  • autoscaling 向けの KEDA と Kubernetes HPA。
  • 元の親であり、今もディストリに KServe を同梱する Kubeflow。
  • 高密度な多モデルサービング向けの ModelMesh。
  • ランタイムバックエンド: vLLM (生成 AI)、Hugging Face、NVIDIA Triton、TorchServe。ServingRuntime リソースとして組み込む。

代替

KServe は、Kubernetes ネイティブな CRD API、Open Inference Protocol、ルーティング/autoscaling/ストレージダウンロードの自動プロビジョンが欲しい時の選択肢になる。他はトレードオフが異なる。

代替違い
Seldon CoreROUTER/COMBINER による inference graph で multi-armed-bandit やアンサンブルを組む。KServe は isvc CRD と V2 プロトコルを軸にインフラを自動プロビジョンする
BentoML任意の Python フレームワークの code-first なパッケージング。KServe と併用が定番 (BentoML で packaging、KServe でデプロイ)
NVIDIA Triton競合ではなく GPU 最適化サーバ。KServe が ServingRuntime として上に載せる
Ray Serve / vLLM / MLflow / SageMaker / Vertex AI分散サービング、LLM エンジン、クラウドマネージドのプラットフォーム。KServe は統合するか、self-managed Kubernetes で置き換える