TiCDC 集群监控报警规则

本文介绍了 TiCDC 组件的报警项及相应的报警规则。根据严重级别，报警项按照严重程度由高到低依次为：重要级别 (Critical)、警告级别 (Warning)。

重要级别报警项

对于重要级别的报警，需要密切关注异常指标。

cdc_checkpoint_high_delay

• 报警规则：

  (time() - ticdc_processor_checkpoint_ts / 1000) > 600

• 规则描述：

  TiCDC 某个同步任务延迟超过 10 分钟。

• 处理方法：

  参考 TiCDC 同步任务出现中断的处理方法。

cdc_resolvedts_high_delay

• 报警规则：

  (time() - ticdc_processor_resolved_ts / 1000) > 300

• 规则描述：

  TiCDC 某个同步任务的 resolved ts 延迟超过 5 分钟。

• 处理方法：

  该告警与同步任务中断类似，可参考 TiCDC 同步任务出现中断的处理方法。

ticdc_processor_exit_with_error_count

• 报警规则：

  changes(ticdc_processor_exit_with_error_count[1m]) > 0

• 规则描述：

  TiCDC 某个同步任务报错退出。

• 处理方法：

  参考 TiCDC 同步任务出现中断的处理方法。

警告级别报警项

警告级别的报警是对某一问题或错误的提醒。

cdc_multiple_owners

• 报警规则：

  sum(rate(ticdc_owner_ownership_counter[30s])) >= 2

• 规则描述：

  TiCDC 集群有多个 owner。

• 处理方法：

  收集 TiCDC 日志，定位原因。

ticdc_mounter_unmarshal_and_mount_time_more_than_1s

• 报警规则：

  histogram_quantile(0.9, rate(ticdc_mounter_unmarshal_and_mount_bucket[1m])) * 1000 > 1000

• 规则描述：

  TiCDC 某一同步任务解码变更数据的耗时超过 1 秒。

• 处理方法：

  收集 TiCDC 日志，定位原因。

cdc_sink_execute_duration_time_more_than_10s

• 报警规则：

  histogram_quantile(0.9, rate(ticdc_sink_txn_exec_duration_bucket[1m])) > 10

• 规则描述：

  TiCDC 某一同步任务写下游执行时间超过 10 秒。

• 处理方法：

  检查下游是否出现问题。

cdc_processor_checkpoint_tso_no_change_for_1m

• 报警规则：

  changes(ticdc_processor_checkpoint_ts[1m]) < 1

• 规则描述：

  TiCDC 某一个同步任务进度超过 1 分钟没有推进。

• 处理方法：

  参考 TiCDC 同步任务出现中断的处理方法。

ticdc_puller_entry_sorter_sort_bucket

• 报警规则：

  histogram_quantile(0.9, rate(ticdc_puller_entry_sorter_sort_bucket{}[1m])) > 1

• 规则描述：

  TiCDC puller entry sorter 排序延迟太高。

• 处理方法：

  收集 TiCDC 日志，定位原因。

ticdc_puller_entry_sorter_merge_bucket

• 报警规则：

  histogram_quantile(0.9, rate(ticdc_puller_entry_sorter_merge_bucket{}[1m])) > 1

• 规则描述：

  TiCDC puller entry sorter merge 延迟太高。

• 处理方法：

  收集 TiCDC 日志，定位原因。

tikv_cdc_min_resolved_ts_no_change_for_1m

• 报警规则：

  changes(tikv_cdc_min_resolved_ts[1m]) < 1 and ON (instance) tikv_cdc_region_resolve_status{status="resolved"} > 0

• 规则描述：

  TiKV CDC 模块最小的 resolved ts 1 分钟没推进。

• 处理方法：

  收集 TiKV 日志，定位原因。

tikv_cdc_scan_duration_seconds_more_than_10min

• 报警规则：

  histogram_quantile(0.9, rate(tikv_cdc_scan_duration_seconds_bucket{}[1m])) > 600

• 规则描述：

  TiKV CDC 模块的增量扫描耗时超过 10 分钟。

• 处理方法：

  收集 TiCDC 监控和 TiKV 日志，定位原因。

ticdc_sink_mysql_execution_error

• 报警规则：

  changes(ticdc_sink_mysql_execution_error[1m]) > 0

• 规则描述：

  TiCDC 某一同步任务写下游 MySQL 时遇到错误。

• 处理方法：

  MySQL 报错的情况较多，参考 TiCDC 故障处理。

ticdc_memory_abnormal

• 报警规则：

  go_memstats_heap_alloc_bytes{job="ticdc"} > 1e+10

• 规则描述：

  TiCDC 堆内存使用量超过 10 GiB。

• 处理方法：

  收集 TiCDC 监控和 TiCDC 日志，定位原因。