死区处理

旋转门压缩

旋转门压缩(SDT)算法是一种死区处理算法。SDT 的计算复杂度较低,并使用线性趋势来表示大量数据。

在 IoTDB 中,SDT 在刷新到磁盘时会压缩并丢弃数据。

IoTDB 允许您在创建时间序列时指定 SDT 的属性,并支持以下三个属性:

  • CompDev (Compression Deviation,压缩偏差)

CompDev 是 SDT 中最重要的参数,它表示当前样本与当前线性趋势之间的最大差值。CompDev 设置的值需要大于 0。

  • CompMinTime (Compression Minimum Time Interval,最小压缩时间间隔)

CompMinTime 是测量两个存储的数据点之间的时间距离的参数,用于减少噪声。 如果当前点和最后存储的点之间的时间间隔小于或等于其值,则无论压缩偏差如何,都不会存储当前点。 默认值为 0,单位为毫秒。

  • CompMaxTime (Compression Maximum Time Interval,最大压缩时间间隔)

CompMaxTime 是测量两个存储的数据点之间的时间距离的参数。 如果当前点和最后一个存储点之间的时间间隔大于或等于其值, 无论压缩偏差如何,都将存储当前点。 默认值为 9,223,372,036,854,775,807,单位为毫秒。

支持的数据类型:

  • INT32(整型)
  • INT64(长整型)
  • FLOAT(单精度浮点数)
  • DOUBLE(双精度浮点数)

SDT 的指定语法详见本文 SQL 参考文档

以下是使用 SDT 压缩的示例。

  1. IoTDB> CREATE TIMESERIES root.sg1.d0.s0 WITH DATATYPE=INT32,ENCODING=PLAIN,DEADBAND=SDT,COMPDEV=2

刷入磁盘和 SDT 压缩之前,结果如下所示:

  1. IoTDB> SELECT s0 FROM root.sg1.d0
  2. +-----------------------------+--------------+
  3. | Time|root.sg1.d0.s0|
  4. +-----------------------------+--------------+
  5. |2017-11-01T00:06:00.001+08:00| 1|
  6. |2017-11-01T00:06:00.002+08:00| 1|
  7. |2017-11-01T00:06:00.003+08:00| 1|
  8. |2017-11-01T00:06:00.004+08:00| 1|
  9. |2017-11-01T00:06:00.005+08:00| 1|
  10. |2017-11-01T00:06:00.006+08:00| 1|
  11. |2017-11-01T00:06:00.007+08:00| 1|
  12. |2017-11-01T00:06:00.015+08:00| 10|
  13. |2017-11-01T00:06:00.016+08:00| 20|
  14. |2017-11-01T00:06:00.017+08:00| 1|
  15. |2017-11-01T00:06:00.018+08:00| 30|
  16. +-----------------------------+--------------+
  17. Total line number = 11
  18. It costs 0.008s

刷入磁盘和 SDT 压缩之后,结果如下所示:

  1. IoTDB> FLUSH
  2. IoTDB> SELECT s0 FROM root.sg1.d0
  3. +-----------------------------+--------------+
  4. | Time|root.sg1.d0.s0|
  5. +-----------------------------+--------------+
  6. |2017-11-01T00:06:00.001+08:00| 1|
  7. |2017-11-01T00:06:00.007+08:00| 1|
  8. |2017-11-01T00:06:00.015+08:00| 10|
  9. |2017-11-01T00:06:00.016+08:00| 20|
  10. |2017-11-01T00:06:00.017+08:00| 1|
  11. +-----------------------------+--------------+
  12. Total line number = 5
  13. It costs 0.044s

SDT 在刷新到磁盘时进行压缩。 SDT 算法始终存储第一个点,并且不存储最后一个点。

时间范围在 [2017-11-01T00:06:00.001, 2017-11-01T00:06:00.007] 的数据在压缩偏差内,因此被压缩和丢弃。 之所以存储时间为 2017-11-01T00:06:00.007 的数据点,是因为下一个数据点 2017-11-01T00:06:00.015 的值超过压缩偏差。 当一个数据点超过压缩偏差时,SDT 将存储上一个读取的数据点,并重新计算上下压缩边界。作为最后一个数据点,不存储时间 2017-11-01T00:06:00.018。