logo
Unified Cache Manager 中文站点
概览
  • English
  • 简体中文
正在初始化搜索引擎
    ModelEngine-Group/ucm
    • 首页
    • 用户指南
    • 开发者指南
    • 参考
    • 性能测试
    • 工具集
    ModelEngine-Group/ucm
    • 首页
    • 用户指南
      • 安装
      • 快速开始
        • vLLM (CUDA)
        • vLLM Ascend (NPU)
        • SGLang (CUDA)
        • MindIE (NPU Ascend)
      • 支持矩阵
      • 部署
      • 部署框架
        • Kubernetes
        • pyMotor
      • 模型示例
        • GLM
        • Qwen
        • DeepSeek
        • MiniMax
        • Kimi
      • 核心能力
        • 前缀缓存
      • 观测能力
        • 指标监控
      • 诊断工具
        • Trace 模式
      • 支持矩阵
      • 架构
      • Build from Source
      • 能力原理
      • 添加指标
      • 扩展存储
      • 贡献
      • API 与参数
    • 性能测试
    • 工具集
      • KV Cache 计算器
        • dev-sandbox
        • metrics-view
        • nic-monitor
        • posix-aio
        • precheck
        • 设计文档
        • dev-sandbox

    概览

    Made with Material for MkDocs