跳转至

Unified Cache Manager 中文站点

KV Cache 计算器

English
简体中文

正在初始化搜索引擎

ModelEngine-Group/ucm

首页
用户指南
开发者指南
参考
性能测试
工具集

Unified Cache Manager 中文站点

ModelEngine-Group/ucm

首页
用户指南
用户指南
- 安装
- 快速开始
  快速开始
- 支持矩阵
- 部署
- 部署框架
  部署框架
  - Kubernetes
  - pyMotor
- 模型示例
  模型示例
  - GLM
    
    GLM
  - Qwen
    
    Qwen
  - DeepSeek
    
    DeepSeek
  - MiniMax
    
    MiniMax
  - Kimi
    
    Kimi
- 核心能力
  核心能力
  - 前缀缓存
- 观测能力
  观测能力
  - 指标监控
- 诊断工具
  诊断工具
  - Trace 模式
- 支持矩阵
开发者指南
开发者指南
参考
参考
- API 与参数
性能测试
工具集
工具集
- KV Cache 计算器
- 用户指南
  用户指南
- 开发者
  开发者
  - 设计文档
  - dev-sandbox

KV Cache Size Calculator¶

Made with Material for MkDocs