LLMKube logo

LLMKube

266 スター Apache-2.0 ライセンス Go

LLM推論のためのKubernetes operator。プラグ可能なランタイム(llama.cpp、vLLM、TGI、Ollama、vllm-swift)、マルチGPUシャーディング、NVIDIA CUDA + Apple Silicon Metalサポート、OpenAI互換APIを備える。

カテゴリ

開発

最終更新

2026年11月

関連 開発 アプリ