观测能力

UCM 提供全面的观测能力，用于监控和分析 KV 缓存管理系统的性能。

核心特性

• Prometheus 指标：通过 vLLM connector 导出详细指标
• Grafana 仪表板：预置的可视化仪表板
• 实时监控：追踪缓存命中率、延迟、吞吐量等关键指标

相关文档

• 指标监控：使用 Prometheus 和 Grafana 配置 UCM 指标的完整指南