跳转至
Unified Cache Manager 中文站点
快速开始
English
简体中文
正在初始化搜索引擎
ModelEngine-Group/ucm
首页
用户指南
开发者指南
参考
性能测试
工具集
Unified Cache Manager 中文站点
ModelEngine-Group/ucm
首页
用户指南
用户指南
安装
快速开始
快速开始
vLLM (CUDA)
vLLM Ascend (NPU)
SGLang (CUDA)
MindIE (NPU Ascend)
支持矩阵
部署
部署框架
部署框架
Kubernetes
pyMotor
模型示例
模型示例
GLM
GLM
Qwen
Qwen
DeepSeek
DeepSeek
MiniMax
MiniMax
Kimi
Kimi
核心能力
核心能力
前缀缓存
观测能力
观测能力
指标监控
诊断工具
诊断工具
Trace 模式
支持矩阵
开发者指南
开发者指南
架构
Build from Source
能力原理
添加指标
扩展存储
贡献
参考
参考
API 与参数
性能测试
工具集
工具集
KV Cache 计算器
用户指南
用户指南
dev-sandbox
metrics-view
nic-monitor
posix-aio
precheck
开发者
开发者
设计文档
dev-sandbox
快速开始
¶
集成 UCM 与以下推理引擎:
vLLM (CUDA)
vLLM Ascend (NPU)
SGLang
MindIE
详细的集成指南请参考英文版文档。
回到页面顶部