LLMKube logo

LLMKube

266 звёзд Apache-2.0 лицензия Go

Оператор Kubernetes для LLM inference с подключаемыми runtime (llama.cpp, vLLM, TGI, Ollama, vllm-swift), multi-GPU sharding, поддержкой NVIDIA CUDA + Apple Silicon Metal и OpenAI-compatible API.

Категория

Разработка

Последнее обновление

ноябрь 2026 г.

Похожие Разработка приложения