集群版

本文将简单介绍 IoTDB 集群的安装配置、扩容和缩容等常规操作。
遇到问题可以看:
FAQ

1. 安装部署

我们将以最小的改动，启动一个含有3个 ConfigNode 和3个DataNode(3C3D)集群：

  • 数据/元数据副本数为1
  • 集群名称为defaultCluster
  • Confignode JVM 的最大堆内存配置为机器内存的 1/4
  • Datanode JVM 的最大堆内存配置为机器内存的 1/4

假设有3台物理机(下面称节点)，操作系统为Linux，并且已经安装配置好了JAVA环境(具体见单机版对安装环境说明)，安装目录均为/data/iotdb。
IP地址和服务角色分配如下：

节点IP192.168.132.10192.168.132.11192.168.132.12
服务ConfigNodeConfigNodeConfigNode
服务DataNodeDataNodeDataNode

端口占用：

服务ConfigNodeDataNode
端口10710, 107206667, 10730, 10740, 10750, 10760

说明：

  • 可以使用IP地址或者机器名/域名来安装配置 IoTDB 集群，本文以IP地址为例。如果使用机器名/域名，则需要配置/etc/hosts。
  • JVM堆内存配置: confignode-env.sh 和 datanode-env.sh 内配置MAX_HEAP_SIZE, 建议设置值大于等于1G。ConfigNode 1~2G就足够了，DataNode的内存配置则要取决于数据接入的数据量和查询数据量。

1.1 下载安装包

在每个节点，将安装包下载集群版 - 图1open in new window后，解压到安装目录，这里为/data/iotdb。
目录结构:

  1. /data/iotdb/
  2. ├── conf    # 配置文件
  3. ├── lib     # jar library
  4. ├── sbin    # 启动/停止等脚本
  5. └── tools   # 其他工具

1.2. 修改节点配置文件

配置文件在 /data/iotdb/conf目录下。
按照下表修改相应的配置文件：

配置配置项IP:192.168.132.10IP:192.168.132.11IP:192.168.132.12
iotdb-confignode.propertiescn_internal_address192.168.132.10192.168.132.11192.168.132.12
cn_target_config_node_list192.168.132.10:10710192.168.132.10:10710192.168.132.10:10710
iotdb-datanode.propertiesdn_rpc_address192.168.132.10192.168.132.11192.168.132.12
dn_internal_address192.168.132.10192.168.132.11192.168.132.12
dn_target_config_node_list192.168.132.10:10710192.168.132.10:10710192.168.132.10:10710

注意：
我们推荐所有节点的 iotdb-common.properties 和 JVM 的内存配置是一致的。

1.3. 启动集群

启动集群前，需保证配置正确，保证 IoTDB 安装目录下没有数据(data目录)。

1.3.1. 启动第一个节点

即上面表格中cn_target_config_node_list配置的节点。
登录该节点 192.168.132.10，执行下面命令：

  1. cd /data/iotdb
  2. # 启动 ConfigNode 和 DataNode 服务
  3. sbin/start-standalone.sh
  5. # 查看 DataNode 日志以确定启动成功
  6. tail -f logs/log_datanode_all.log
  7. # 期望看见类似下方的日志
  8. # 2023-07-21 20:26:01,881 [main] INFO  o.a.i.db.service.DataNode:192 - Congratulation, IoTDB DataNode is set up successfully. Now, enjoy yourself!

如果没有看到上面所说的日志或者看到了 Exception，那么代表启动失败了。请查看 /data/iotdb/logs 目录内的log_confignode_all.log 和 log_datanode_all.log 日志文件。

注意：

  • 要保证第一个节点启动成功后，再启动其他节点。确切的说，要先保证第一个 ConfigNode 服务启动成功，即cn_target_config_node_list配置的节点。
  • 如果启动失败，需要清理环境后，再次启动。
  • ConfigNode 和 DataNode 服务都可以单独启动:
  1. # 单独启动 ConfigNode， 后台启动
  2. sbin/start-confignode.sh -d
  3. # 单独启动 DataNode，后台启动
  4. sbin/start-datanode.sh -d

1.3.2. 启动其他两个节点的 ConfigNode 和 DataNode

在节点 192.168.132.11 和 192.168.132.12 两个节点上分别执行：

  1. cd /data/iotdb
  2. # 启动 ConfigNode 和 DataNode 服务
  3. sbin/start-standalone.sh

如果启动失败，需要在所有节点执行清理环境后，然后从启动第一个节点开始，再重新执行一次。

1.3.3. 检验集群状态

在任意节点上，在 Cli 执行 show cluster:

  1. /data/iotdb/sbin/start-cli.sh -h 192.168.132.10
  2. IoTDB>show cluster;
  3. # 示例结果如下：
  4. +------+----------+-------+---------------+------------+-------+---------+
  5. |NodeID|  NodeType| Status|InternalAddress|InternalPort|Version|BuildInfo|
  6. +------+----------+-------+---------------+------------+-------+---------+
  7. |     0|ConfigNode|Running| 192.168.132.10|       10710|1.x.x  |  xxxxxxx|
  8. |     1|  DataNode|Running| 192.168.132.10|       10730|1.x.x  |  xxxxxxx|
  9. |     2|ConfigNode|Running| 192.168.132.11|       10710|1.x.x  |  xxxxxxx|
  10. |     3|  DataNode|Running| 192.168.132.11|       10730|1.x.x  |  xxxxxxx|
  11. |     4|ConfigNode|Running| 192.168.132.12|       10710|1.x.x  |  xxxxxxx|
  12. |     5|  DataNode|Running| 192.168.132.12|       10730|1.x.x  |  xxxxxxx|
  13. +------+----------+-------+---------------+------------+--------------+---------+

说明：
start-cli.sh -h 后指定的IP地址，可以是任意一个 DataNode 的IP地址。

【附录】清理环境

在所有节点执行：

  1. 结束 ConfigNode 和 DataNode 进程。
  1. # 1. 停止 ConfigNode 和 DataNode 服务
  2. sbin/stop-standalone.sh
  4. # 2. 检查是否还有进程残留
  5. jps
  6. # 或者
  7. ps -ef|gerp iotdb
  9. # 3. 如果有进程残留，则手动kill
  10. kill -9 <pid>
  11. # 如果确定机器上仅有1个iotdb，可以使用下面命令清理残留进程
  12. ps -ef|grep iotdb|grep -v grep|tr -s '  ' ' ' |cut -d ' ' -f2|xargs kill -9
  1. 删除 data 和 logs 目录。
  1. cd /data/iotdb
  2. rm -rf data logs

说明：删除 data 目录是必要的，删除 logs 目录是为了纯净日志，非必需。

2. 集群扩容

扩容方式与上方启动其他节点相同。也就是，在要添加的节点上，下载IoTDB的安装包，解压，修改配置，然后启动。这里要添加节点的IP为 192.168.132.13
注意：

  • 扩容的节点必须是干净的节点，不能有数据(也就是data目录)
  • iotdb-common.properties中的cluster_name的配置必须和已有集群一致。
  • cn_target_config_node_list 和 dn_target_config_node_list的配置必须和已有集群一致。
  • 原有数据不会移动到新节点，新创建的元数据分区和数据分区很可能在新的节点。

2.1. 修改配置

按照下表修改相应的配置文件：

配置配置项IP:192.168.132.13
iotdb-confignode.propertiescn_internal_address192.168.132.13
cn_target_config_node_list192.168.132.10:10710
iotdb-datanode.propertiesdn_rpc_address192.168.132.13
dn_internal_address192.168.132.13
dn_target_config_node_list192.168.132.10:10710

2.2. 扩容

在新增节点192.168.132.13上，执行：

  1. cd /data/iotdb
  2. # 启动 ConfigNode 和 DataNode 服务
  3. sbin/start-standalone.sh

2.3. 验证扩容结果

在 Cli 执行 show cluster，结果如下：

  1. /data/iotdb/sbin/start-cli.sh -h 192.168.132.10
  2. IoTDB>show cluster;
  3. # 示例结果如下：
  4. +------+----------+-------+---------------+------------+-------+---------+
  5. |NodeID|  NodeType| Status|InternalAddress|InternalPort|Version|BuildInfo|
  6. +------+----------+-------+---------------+------------+-------+---------+
  7. |     0|ConfigNode|Running| 192.168.132.10|       10710|1.x.x  |  xxxxxxx|
  8. |     1|  DataNode|Running| 192.168.132.10|       10730|1.x.x  |  xxxxxxx|
  9. |     2|ConfigNode|Running| 192.168.132.11|       10710|1.x.x  |  xxxxxxx|
  10. |     3|  DataNode|Running| 192.168.132.11|       10730|1.x.x  |  xxxxxxx|
  11. |     4|ConfigNode|Running| 192.168.132.12|       10710|1.x.x  |  xxxxxxx|
  12. |     5|  DataNode|Running| 192.168.132.12|       10730|1.x.x  |  xxxxxxx|
  13. |     6|ConfigNode|Running| 192.168.132.13|       10710|1.x.x  |  xxxxxxx|
  14. |     7|  DataNode|Running| 192.168.132.13|       10730|1.x.x  |  xxxxxxx|
  15. +------+----------+-------+---------------+------------+-------+---------+

3. 集群缩容

注意:

  • 可以在任何一个集群内的节点上，执行缩容操作。
  • 集群内的任意节点都可以被缩容。但是存留的 DataNode 服务不能小于副本数设置。
  • 请耐心等待缩容脚本执行结束，并仔细阅读日志说明，尤其是结束前的指南说明。

3.1 缩容一个 ConfigNode

  1. cd /data/iotdb
  2. # 方式一：使用 ip:port 移除
  3. sbin/remove-confignode.sh 192.168.132.13:10710
  5. # 方式二：使用节点编号移除, `show cluster`中的 NodeID 
  6. sbin/remove-confignode.sh 6

3.2 缩容一个 DataNode

  1. cd /data/iotdb
  2. # 方式一：使用 ip:port 移除
  3. sbin/remove-datanode.sh 192.168.132.13:6667
  5. # 方式二：使用节点编号移除, `show cluster`中的 NodeID
  6. sbin/remove-confignode.sh 7

3.3 验证缩容结果

在 Cli 执行 show cluster，结果如下：

  1. +------+----------+-------+---------------+------------+-------+---------+
  2. |NodeID|  NodeType| Status|InternalAddress|InternalPort|Version|BuildInfo|
  3. +------+----------+-------+---------------+------------+-------+---------+
  4. |     0|ConfigNode|Running| 192.168.132.10|       10710|1.x.x  |  xxxxxxx|
  5. |     1|  DataNode|Running| 192.168.132.10|       10730|1.x.x  |  xxxxxxx|
  6. |     2|ConfigNode|Running| 192.168.132.11|       10710|1.x.x  |  xxxxxxx|
  7. |     3|  DataNode|Running| 192.168.132.11|       10730|1.x.x  |  xxxxxxx|
  8. |     4|ConfigNode|Running| 192.168.132.12|       10710|1.x.x  |  xxxxxxx|
  9. |     5|  DataNode|Running| 192.168.132.12|       10730|1.x.x  |  xxxxxxx|
  10. +------+----------+-------+---------------+------------+-------+---------+