使用逻辑导入模式

本文档介绍如何编写逻辑导入模式的配置文件,如何进行性能调优等内容。

配置及使用

可以通过以下配置文件使用逻辑导入模式执行数据导入:

  1. [lightning]
  2. # 日志
  3. level = "info"
  4. file = "tidb-lightning.log"
  5. max-size = 128 # MB
  6. max-days = 28
  7. max-backups = 14
  8. # 启动之前检查集群是否满足最低需求。
  9. check-requirements = true
  10. [mydumper]
  11. # 本地源数据目录或外部存储 URI。关于外部存储 URI 详情可参考 https://docs.pingcap.com/zh/tidb/v6.6/backup-and-restore-storages#uri-%E6%A0%BC%E5%BC%8F。
  12. data-source-dir = "/data/my_database"
  13. [tikv-importer]
  14. # 导入模式配置,设为 tidb 即使用逻辑导入模式
  15. backend = "tidb"
  16. [tidb]
  17. # 目标集群的信息。tidb-server 的地址,填一个即可。
  18. host = "172.16.31.1"
  19. port = 4000
  20. user = "root"
  21. # 设置连接 TiDB 的密码,可为明文或 Base64 编码。
  22. password = ""
  23. # tidb-lightning 引用了 TiDB 库,并生成产生一些日志。
  24. # 设置 TiDB 库的日志等级。
  25. log-level = "error"

TiDB Lightning 的完整配置文件可参考完整配置及命令行参数

冲突数据检测

冲突数据是指两条或两条以上记录中存在主键或唯一键列数据重复。TiDB Lightning 的逻辑导入模式通过 conflict.strategy 配置冲突数据的处理行为,使用不同的 SQL 语句进行导入。

策略冲突时默认行为对应 SQL 语句
“replace”新数据替代旧数据REPLACE INTO …
“ignore”保留旧数据,忽略新数据INSERT IGNORE INTO …
“error”遇到冲突数据时终止导入INSERT INTO …
“”会被转换为 “error”,遇到冲突数据时终止导入

配置为 "error" 时,由冲突数据引发的错误将直接导致导入任务终止。配置为 "replace""ignore" 时,可以通过进一步配置 conflict.threshold 控制冲突数据的上限。默认值为 10000,意味着能容忍 10000 个错误。

配置为 "ignore" 时,冲突数据可以被记录到下游的 conflict_records 表中,详见可容忍错误功能介绍。在 v8.1.0 之前的版本中,可以通过配置 conflict.max-record-rows 控制记录上限,超出上限的冲突数据会被跳过导入而不再记录。从 v8.1.0 版本开始,需要通过 conflict.threshold 配置,因为 TiDB Lightning 会自动将 max-record-rows 的值设置为 threshold 的值,并忽略用户输入。

性能调优

  • TiDB Lightning 的逻辑导入模式性能很大程度上取决于目标 TiDB 集群的写入性能,当遇到性能瓶颈时可参考 TiDB 相关性能优化文档

  • 如果发现目标 TiDB 集群的的写入尚未达到瓶颈,可以考虑增加 Lightning 配置中 region-concurrency 的值。region-concurrency 默认值为 CPU 核数,其含义在物理导入模式和逻辑导入模式下有所不同,逻辑导入模式的 region-concurrency 表示写入并发数。配置示例:

    1. [lightning]
    2. region-concurrency = 32
  • 调整目标 TiDB 集群的 raftstore.apply-pool-sizeraftstore.store-pool-size 参数也可能提升导入速度。