用户指南

安装、部署和运行 UCM。从安装器开始，选择模型系列，然后按照适用于您环境的服务引擎和部署指南操作。

章节

• 安装 — 选择已发布的构件并获取匹配的命令
• 快速开始 — vLLM、vLLM Ascend 和 SGLang 集成
• 支持矩阵 — 支持的模型、平台和特性覆盖
• 部署 — 容器和 Kubernetes 部署
• 部署框架 — 使用 pyMotor 或 Kubernetes 部署
• 模型示例 — 模型系列目录和引擎特定的启动指南
• 核心能力 — 包括前缀缓存在内的核心能力
• 观测能力 — 指标和监控
• 诊断工具 — 包括 Trace 模式在内的诊断工具