使用 TiDB Lightning 从 MySQL SQL 文件迁移数据

本文介绍如何使用 TiDB Lightning 从 MySQL SQL 文件迁移数据到 TiDB。关于如何生成 MySQL SQL 文件，可以参考 Dumpling 文档。

第 1 步：部署 TiDB Lightning

使用 TiDB Lightning 将数据导入 TiDB。TiDB Lightning 具体的部署方法见 TiDB Lightning 部署。

注意：

  • 如果选用 Local-backend 来导入数据，导入期间集群无法提供正常的服务，速度更快，适用于导入大量的数据（TB 以上级别）。
  • 如果选用 TiDB-backend 来导入数据，导入期间集群可以正常提供服务, 但相对导入速度较慢。
  • 二者的具体差别参见 TiDB Lightning Backend。

第 2 步：配置 TiDB Lightning 的数据源

本文以选用 TiDB-backend 导入数据为例。增加 tidb-lightning.toml 配置文件，在文件中添加以下主要配置：

  1. 将 [mydumper] 下的 data-source-dir 设置为 MySQL 的 SQL 文件路径。

    1.  [mydumper]
    2.  # 数据源目录
    3.  data-source-dir = "/data/export"

    注意：

    如果下游已经存在对应的 schema，那么可以设置 no-schema=true 来跳过 schema 创建的步骤。

  2. 增加目标集群 TiDB 的配置。

    1.  [tidb]
    2.  # 目标集群的信息。tidb-server 的地址，填一个即可
    3.  host = "172.16.31.1"
    4.  port = 4000
    5.  user = "root"
    6.  password = ""

  3. 增加 TiDB-backend 的必要参数。本文采用 TiDB-backend 模式。此处也可以根据实际应用场景设置为 “local” 或 “importer”。具体请参考后端模式。

    1.  [tikv-importer]
    2.  backend = "tidb"

  4. 增加导入 TiDB 集群必要参数

    1.  [tidb]
    2.  host = "{{tidb-host}}"
    3.  port = {{tidb-port}}
    4.  user = "{{tidb-user}}"
    5.  password = "{{tidb-password}}"

其它配置参考 TiDB Lightning 配置。

第 3 步：开启 TiDB Lightning 进行数据导入

运行 TiDB Lightning。如果直接在命令行中用 nohup 启动程序，可能会因为 SIGHUP 信号而退出，建议把 nohup 放到脚本里面，如：

  1. # !/bin/bash
  2. nohup ./tidb-lightning -config tidb-lightning.toml > nohup.out &

导入开始后，可以采用以下两种方式查看进度：

  • 通过 grep 日志关键字 progress 查看进度，默认 5 分钟更新一次。
  • 通过监控面板查看进度，具体参见 TiDB Lightning 监控。