TiDB 全局排序

注意

目前，全局排序会使用大量 TiDB 节点的计算与内存资源。对于在线增加索引等同时有用户业务在运行的场景，建议为集群添加新的 TiDB 节点，为这些 TiDB 节点设置 tidb_service_scope，并连接到这些节点上创建任务。这样分布式框架就会将任务调度到这些节点上，将工作负载与其他 TiDB 节点隔离，以减少执行后端任务（如 ADD INDEX 和 IMPORT INTO）对用户业务的影响。
当需要使用全局排序功能时，为避免 OOM，建议 TiDB 节点的规格至少为 16 核 CPU、32 GiB 内存。

功能概览

TiDB 全局排序功能增强了数据导入和 DDL（数据定义语言）操作的稳定性和执行效率。全局排序作为分布式执行框架中的通用算子，通过分布式执行框架，在云上提供全局排序服务。

全局排序目前支持使用 Amazon S3 作为云存储。

全局排序功能旨在提高 IMPORT INTO 和 CREATE INDEX 的稳定性与效率。通过将任务需要处理的数据进行全局排序，可以提高数据写入 TiKV 的稳定性、可控性和可扩展性，从而提供更好的数据导入与 DDL 任务的用户体验及更高质量的服务。

全局排序功能在分布式执行框架中执行任务，确保所需处理的数据在全局范围内保持有序。

目前，全局排序功能不支持在查询过程中对查询结果进行排序。

要开启全局排序功能，执行以下步骤：

将 tidb_enable_dist_task 的值设置为 ON，以开启分布式执行框架。该变量从 v8.1.0 起默认开启，对于新建的 v8.1.0 或更高版本集群，可以跳过此步骤。
```
SET GLOBAL tidb_enable_dist_task = ON;
```

将 tidb_cloud_storage_uri 设置为正确的云存储路径。参见示例。

SET GLOBAL tidb_cloud_storage_uri = 's3://my-bucket/test-data?role-arn=arn:aws:iam::888888888888:role/my-role'

注意

IMPORT INTO 也可使用 CLOUD_STORAGE_URI 参数来控制云存储路径。如果 tidb_cloud_storage_uri 和 CLOUD_STORAGE_URI 都设置了有效的云存储路径，IMPORT INTO 将以 CLOUD_STORAGE_URI 参数的配置为准。

全局排序功能的算法如下图所示：

详细的实现原理如下：

TiDB 节点扫描特定范围的数据后（数据源可以是 CSV 数据或者 TiKV 中的表数据）：
1. TiDB 节点将扫描的数据编码为键值对。
2. TiDB 节点将键值对排序为多个块数据段（数据段局部有序），每个段是一个文件，并将这些文件上传到云存储中。
TiDB 节点记录了每个段的连续实际键值范围（称为统计信息文件），这是可扩展排序实现的关键准备工作。这些文件随实际数据一起上传到云存储中。

从第一步中，全局排序的程序获取了一个已排序块的列表及其对应的统计信息文件，这些文件记录了本地已排序块的数量。此外，全局排序程序还记录了一个实际数据范围，供 PD 用于数据拆分和打散。接下来将执行以下步骤：