PD 重要监控指标详解

使用 TiUP 部署 TiDB 集群时，一键部署监控系统 (Prometheus & Grafana)，监控架构参见 TiDB 监控框架概述。

目前 Grafana Dashboard 整体分为 PD、TiDB、TiKV、Node_exporter、Overview、Performance_overview 等。

对于日常运维，我们通过观察 PD 面板上的 Metrics，可以了解 PD 当前的状态。

以下为 PD Dashboard 监控说明：

  • PD role：当前 PD 的角色
  • Storage capacity：TiDB 集群总可用数据库空间大小
  • Current storage size：TiDB 集群目前已用数据库空间大小
  • Current storage usage：TiDB 集群存储空间的使用率
  • Normal stores：处于正常状态的节点数目
  • Number of Regions：当前集群的 Region 总量
  • Abnormal stores：处于异常状态的节点数目，正常情况应当为 0
  • Region health：集群所有 Region 的状态。通常情况下，pending 或 down 的 peer 应该少于 100，miss 的 peer 不能一直大于 0，empty Region 过多需及时打开 Region Merge
  • Current peer count：当前集群 peer 的总量 PD Dashboard - Header

Cluster

  • PD scheduler config：PD 调度配置列表
  • Cluster ID：集群的 cluster id，唯一标识
  • Current TSO：当前分配 TSO 的物理时间戳部分
  • Current ID allocation：当前可分配 ID 的最大值
  • Region label isolation level：不同 label 所在的 level 的 Region 数量
  • Label distribution：集群中 TiKV 节点的 label 分布情况 PD Dashboard - Cluster metrics

Operator

  • Schedule operator create：新创建的不同 operator 的数量，单位 opm 代表一分钟内创建的个数
  • Schedule operator check：已检查的 operator 的次数，主要检查是否当前步骤已经执行完成，如果是，则执行下一个步骤
  • Schedule operator finish：已完成调度的 operator 的数量
  • Schedule operator timeout：已超时的 operator 的数量
  • Schedule operator replaced or canceled：已取消或者被替换的 operator 的数量
  • Schedule operators count by state：不同状态的 operator 的数量
  • Operator finish duration：已完成的 operator 所花费的最长时间
  • Operator step duration：已完成的 operator 的步骤所花费的最长时间

PD Dashboard - Operator metrics

Statistics - Balance

  • Store capacity：每个 TiKV 实例的总的空间大小
  • Store available：每个 TiKV 实例的可用空间大小
  • Store used：每个 TiKV 实例的已使用空间大小
  • Size amplification：每个 TiKV 实例的空间放大比率
  • Size available ratio：每个 TiKV 实例的可用空间比率
  • Store leader score：每个 TiKV 实例的 leader 分数
  • Store Region score：每个 TiKV 实例的 Region 分数
  • Store leader size：每个 TiKV 实例上所有 leader 的大小
  • Store Region size：每个 TiKV 实例上所有 Region 的大小
  • Store leader count：每个 TiKV 实例上所有 leader 的数量
  • Store Region count：每个 TiKV 实例上所有 Region 的数量

PD Dashboard - Balance metrics

Statistics - hot write

  • Hot Region’s leader distribution：每个 TiKV 实例上成为写入热点的 leader 的数量
  • Total written bytes on hot leader Regions：每个 TiKV 实例上所有成为写入热点的 leader 的总的写入流量大小
  • Hot write Region’s peer distribution：每个 TiKV 实例上成为写入热点的 peer 的数量
  • Total written bytes on hot peer Regions：每个 TiKV 实例上所有成为写入热点的 peer 的写入流量大小
  • Store Write rate bytes：每个 TiKV 实例总的写入的流量
  • Store Write rate keys：每个 TiKV 实例总的写入 keys
  • Hot cache write entry number：每个 TiKV 实例进入热点统计模块的 peer 的数量
  • Selector events：热点调度中选择器的事件发生次数
  • Direction of hotspot move leader：热点调度中 leader 的调度方向，正数代表调入，负数代表调出
  • Direction of hotspot move peer：热点调度中 peer 的调度方向，正数代表调入，负数代表调出

PD Dashboard - Hot write metrics

Statistics - hot read

  • Hot Region’s peer distribution：每个 TiKV 实例上成为读取热点的 peer 的数量
  • Total read bytes on hot peer Regions：每个 TiKV 实例上所有成为读取热点的 peer 的总的读取流量大小
  • Store read rate bytes：每个 TiKV 实例总的读取的流量
  • Store read rate keys：每个 TiKV 实例总的读取 keys
  • Hot cache read entry number：每个 TiKV 实例进入热点统计模块的 peer 的数量

PD Dashboard - Hot read metrics

Scheduler

  • Scheduler is running：所有正在运行的 scheduler
  • Balance leader movement：leader 移动的详细情况
  • Balance Region movement：Region 移动的详细情况
  • Balance leader event：balance leader 的事件数量
  • Balance Region event：balance Region 的事件数量
  • Balance leader scheduler：balance-leader scheduler 的状态
  • Balance Region scheduler：balance-region scheduler 的状态
  • Replica checker：replica checker 的状态
  • Rule checker：rule checker 的状态
  • Region merge checker：merge checker 的状态
  • Filter target：尝试选择 Store 作为调度 taget 时没有通过 Filter 的计数
  • Filter source：尝试选择 Store 作为调度 source 时没有通过 Filter 的计数
  • Balance Direction：Store 被选作调度 target 或 source 的次数
  • Store Limit：Store 的调度限流状态

PD Dashboard - Scheduler metrics

gRPC

  • Completed commands rate：gRPC 命令的完成速率
  • 99% Completed commands duration：99% 命令的最长消耗时间

PD Dashboard - gRPC metrics

etcd

  • Handle transactions count：etcd 的事务个数
  • 99% Handle transactions duration：99% 的情况下，处理 etcd 事务所需花费的时间
  • 99% WAL fsync duration：99% 的情况下，持久化 WAL 所需花费的时间，这个值通常应该小于 1s
  • 99% Peer round trip time seconds：99% 的情况下，etcd 的网络延时，这个值通常应该小于 1s
  • etcd disk WAL fsync rate：etcd 持久化 WAL 的速率
  • Raft term：当前 Raft 的 term
  • Raft committed index：最后一次 commit 的 Raft index
  • Raft applied index：最后一次 apply 的 Raft index

PD Dashboard - etcd metrics

TiDB

  • PD Server TSO handle time and Client recv time：从 PD 开始处理 TSO 请求到 client 端接收到 TSO 的总耗时
  • Handle requests count：TiDB 的请求数量
  • Handle requests duration：每个请求所花费的时间，99% 的情况下，应该小于 100ms

PD Dashboard - TiDB metrics

Heartbeat

  • Heartbeat region event QPS：心跳处理 region 的 QPS，包括更新缓存和持久化
  • Region heartbeat report：TiKV 向 PD 发送的心跳个数
  • Region heartbeat report error：TiKV 向 PD 发送的异常的心跳个数
  • Region heartbeat report active：TiKV 向 PD 发送的正常的心跳个数
  • Region schedule push：PD 向 TiKV 发送的调度命令的个数
  • 99% Region heartbeat latency：99% 的情况下，心跳的延迟

PD Dashboard - Heartbeat metrics

Region storage

  • Syncer Index：Leader 记录 Region 变更历史的最大 index
  • history last index：Follower 成功同步的 Region 变更历史的 index

PD Dashboard - Region storage