IoTDB 流处理框架

IoTDB 流处理框架允许用户实现自定义的流处理逻辑，可以实现对存储引擎变更的监听和捕获、实现对变更数据的变形、实现对变形后数据的向外推送等逻辑。

我们将。一个流处理任务（Pipe）包含三个子任务：

  • 抽取（Extract）
  • 处理（Process）
  • 发送（Connect）

流处理框架允许用户使用 Java 语言自定义编写三个子任务的处理逻辑，通过类似 UDF 的方式处理数据。
在一个 Pipe 中，上述的三个子任务分别由三种插件执行实现，数据会依次经过这三个插件进行处理：
Pipe Extractor 用于抽取数据，Pipe Processor 用于处理数据，Pipe Connector 用于发送数据，最终数据将被发至外部系统。

Pipe 任务的模型如下：

任务模型图

任务模型图

描述一个数据流处理任务，本质就是描述 Pipe Extractor、Pipe Processor 和 Pipe Connector 插件的属性。
用户可以通过 SQL 语句声明式地配置三个子任务的具体属性，通过组合不同的属性，实现灵活的数据 ETL 能力。

利用流处理框架，可以搭建完整的数据链路来满足端边云同步、异地灾备、读写负载分库等需求。

自定义流处理插件开发

编程开发依赖

推荐采用 maven 构建项目，在pom.xml中添加以下依赖。请注意选择和 IoTDB 服务器版本相同的依赖版本。

  1. <dependency>
  2.     <groupId>org.apache.iotdb</groupId>
  3.     <artifactId>pipe-api</artifactId>
  4.     <version>1.2.1</version>
  5.     <scope>provided</scope>
  6. </dependency>

事件驱动编程模型

流处理插件的用户编程接口设计，参考了事件驱动编程模型的通用设计理念。事件（Event）是用户编程接口中的数据抽象，而编程接口与具体的执行方式解耦，只需要专注于描述事件（数据）到达系统后，系统期望的处理方式即可。

在流处理插件的用户编程接口中，事件是数据库数据写入操作的抽象。事件由单机流处理引擎捕获，按照流处理三个阶段的流程，依次传递至 PipeExtractor 插件，PipeProcessor 插件和 PipeConnector 插件，并依次在三个插件中触发用户逻辑的执行。

为了兼顾端侧低负载场景下的流处理低延迟和端侧高负载场景下的流处理高吞吐，流处理引擎会动态地在操作日志和数据文件中选择处理对象，因此，流处理的用户编程接口要求用户提供下列两类事件的处理逻辑：操作日志写入事件 TabletInsertionEvent 和数据文件写入事件 TsFileInsertionEvent。

操作日志写入事件（TabletInsertionEvent）

操作日志写入事件（TabletInsertionEvent）是对用户写入请求的高层数据抽象，它通过提供统一的操作接口，为用户提供了操纵写入请求底层数据的能力。

对于不同的数据库部署方式，操作日志写入事件对应的底层存储结构是不一样的。对于单机部署的场景，操作日志写入事件是对写前日志（WAL）条目的封装；对于分布式部署的场景，操作日志写入事件是对单个节点共识协议操作日志条目的封装。

对于数据库不同写入请求接口生成的写入操作，操作日志写入事件对应的请求结构体的数据结构也是不一样的。IoTDB 提供了 InsertRecord、InsertRecords、InsertTablet、InsertTablets 等众多的写入接口，每一种写入请求都使用了完全不同的序列化方式，生成的二进制条目也不尽相同。

操作日志写入事件的存在，为用户提供了一种统一的数据操作视图，它屏蔽了底层数据结构的实现差异，极大地降低了用户的编程门槛，提升了功能的易用性。

  1. /** TabletInsertionEvent is used to define the event of data insertion. */
  2. public interface TabletInsertionEvent extends Event {
  4.   /**
  5.    * The consumer processes the data row by row and collects the results by RowCollector.
  6.    *
  7.    * @return {@code Iterable<TabletInsertionEvent>} a list of new TabletInsertionEvent contains the
  8.    *     results collected by the RowCollector
  9.    */
  10.   Iterable<TabletInsertionEvent> processRowByRow(BiConsumer<Row, RowCollector> consumer);
  12.   /**
  13.    * The consumer processes the Tablet directly and collects the results by RowCollector.
  14.    *
  15.    * @return {@code Iterable<TabletInsertionEvent>} a list of new TabletInsertionEvent contains the
  16.    *     results collected by the RowCollector
  17.    */
  18.   Iterable<TabletInsertionEvent> processTablet(BiConsumer<Tablet, RowCollector> consumer);
  19. }

数据文件写入事件（TsFileInsertionEvent）

数据文件写入事件（TsFileInsertionEvent） 是对数据库文件落盘操作的高层抽象，它是若干操作日志写入事件（TabletInsertionEvent）的数据集合。

IoTDB 的存储引擎是 LSM 结构的。数据写入时会先将写入操作落盘到日志结构的文件里，同时将写入数据保存在内存里。当内存达到控制上限，则会触发刷盘行为，即将内存中的数据转换为数据库文件，同时删除之前预写的操作日志。当内存中的数据转换为数据库文件中的数据时，会经过编码压缩和通用压缩两次压缩处理，因此数据库文件的数据相比内存中的原始数据占用的空间更少。

在极端的网络情况下，直接传输数据文件相比传输数据写入的操作要更加经济，它会占用更低的网络带宽，能实现更快的传输速度。当然，天下没有免费的午餐，对文件中的数据进行计算处理，相比直接对内存中的数据进行计算处理时，需要额外付出文件 I/O 的代价。但是，正是磁盘数据文件和内存写入操作两种结构各有优劣的存在，给了系统做动态权衡调整的机会，也正是基于这样的观察，插件的事件模型中才引入了数据文件写入事件。

综上，数据文件写入事件出现在流处理插件的事件流中，存在下面两种情况：

（1）历史数据抽取：一个流处理任务开始前，所有已经落盘的写入数据都会以 TsFile 的形式存在。一个流处理任务开始后，采集历史数据时，历史数据将以 TsFileInsertionEvent 作为抽象；

（2）实时数据抽取：一个流处理任务进行时，当数据流中实时处理操作日志写入事件的速度慢于写入请求速度一定进度之后，未来得及处理的操作日志写入事件会被被持久化至磁盘，以 TsFile 的形式存在，这一些数据被流处理引擎抽取到后，会以 TsFileInsertionEvent 作为抽象。

  1. /**
  2.  * TsFileInsertionEvent is used to define the event of writing TsFile. Event data stores in disks,
  3.  * which is compressed and encoded, and requires IO cost for computational processing.
  4.  */
  5. public interface TsFileInsertionEvent extends Event {
  7.   /**
  8.    * The method is used to convert the TsFileInsertionEvent into several TabletInsertionEvents.
  9.    *
  10.    * @return {@code Iterable<TabletInsertionEvent>} the list of TabletInsertionEvent
  11.    */
  12.   Iterable<TabletInsertionEvent> toTabletInsertionEvents();
  13. }

自定义流处理插件编程接口定义

基于自定义流处理插件编程接口，用户可以轻松编写数据抽取插件、数据处理插件和数据发送插件，从而使得流处理功能灵活适配各种工业场景。

数据抽取插件接口

数据抽取是流处理数据从数据抽取到数据发送三阶段的第一阶段。数据抽取插件（PipeExtractor）是流处理引擎和存储引擎的桥梁，它通过监听存储引擎的行为，
捕获各种数据写入事件。

  1. /**
  2.  * PipeExtractor
  3.  *
  4.  * <p>PipeExtractor is responsible for capturing events from sources.
  5.  *
  6.  * <p>Various data sources can be supported by implementing different PipeExtractor classes.
  7.  *
  8.  * <p>The lifecycle of a PipeExtractor is as follows:
  9.  *
  10.  * <ul>
  11.  *   <li>When a collaboration task is created, the KV pairs of `WITH EXTRACTOR` clause in SQL are
  12.  *       parsed and the validation method {@link PipeExtractor#validate(PipeParameterValidator)}
  13.  *       will be called to validate the parameters.
  14.  *   <li>Before the collaboration task starts, the method {@link
  15.  *       PipeExtractor#customize(PipeParameters, PipeExtractorRuntimeConfiguration)} will be called
  16.  *       to config the runtime behavior of the PipeExtractor.
  17.  *   <li>Then the method {@link PipeExtractor#start()} will be called to start the PipeExtractor.
  18.  *   <li>While the collaboration task is in progress, the method {@link PipeExtractor#supply()} will
  19.  *       be called to capture events from sources and then the events will be passed to the
  20.  *       PipeProcessor.
  21.  *   <li>The method {@link PipeExtractor#close()} will be called when the collaboration task is
  22.  *       cancelled (the `DROP PIPE` command is executed).
  23.  * </ul>
  24.  */
  25. public interface PipeExtractor extends PipePlugin {
  27.   /**
  28.    * This method is mainly used to validate {@link PipeParameters} and it is executed before {@link
  29.    * PipeExtractor#customize(PipeParameters, PipeExtractorRuntimeConfiguration)} is called.
  30.    *
  31.    * @param validator the validator used to validate {@link PipeParameters}
  32.    * @throws Exception if any parameter is not valid
  33.    */
  34.   void validate(PipeParameterValidator validator) throws Exception;
  36.   /**
  37.    * This method is mainly used to customize PipeExtractor. In this method, the user can do the
  38.    * following things:
  39.    *
  40.    * <ul>
  41.    *   <li>Use PipeParameters to parse key-value pair attributes entered by the user.
  42.    *   <li>Set the running configurations in PipeExtractorRuntimeConfiguration.
  43.    * </ul>
  44.    *
  45.    * <p>This method is called after the method {@link
  46.    * PipeExtractor#validate(PipeParameterValidator)} is called.
  47.    *
  48.    * @param parameters used to parse the input parameters entered by the user
  49.    * @param configuration used to set the required properties of the running PipeExtractor
  50.    * @throws Exception the user can throw errors if necessary
  51.    */
  52.   void customize(PipeParameters parameters, PipeExtractorRuntimeConfiguration configuration)
  53.           throws Exception;
  55.   /**
  56.    * Start the extractor. After this method is called, events should be ready to be supplied by
  57.    * {@link PipeExtractor#supply()}. This method is called after {@link
  58.    * PipeExtractor#customize(PipeParameters, PipeExtractorRuntimeConfiguration)} is called.
  59.    *
  60.    * @throws Exception the user can throw errors if necessary
  61.    */
  62.   void start() throws Exception;
  64.   /**
  65.    * Supply single event from the extractor and the caller will send the event to the processor.
  66.    * This method is called after {@link PipeExtractor#start()} is called.
  67.    *
  68.    * @return the event to be supplied. the event may be null if the extractor has no more events at
  69.    *     the moment, but the extractor is still running for more events.
  70.    * @throws Exception the user can throw errors if necessary
  71.    */
  72.   Event supply() throws Exception;
  73. }

数据处理插件接口

数据处理是流处理数据从数据抽取到数据发送三阶段的第二阶段。数据处理插件（PipeProcessor）主要用于过滤和转换由数据抽取插件（PipeExtractor）捕获的
各种事件。

  1. /**
  2.  * PipeProcessor
  3.  *
  4.  * <p>PipeProcessor is used to filter and transform the Event formed by the PipeExtractor.
  5.  *
  6.  * <p>The lifecycle of a PipeProcessor is as follows:
  7.  *
  8.  * <ul>
  9.  *   <li>When a collaboration task is created, the KV pairs of `WITH PROCESSOR` clause in SQL are
  10.  *       parsed and the validation method {@link PipeProcessor#validate(PipeParameterValidator)}
  11.  *       will be called to validate the parameters.
  12.  *   <li>Before the collaboration task starts, the method {@link
  13.  *       PipeProcessor#customize(PipeParameters, PipeProcessorRuntimeConfiguration)} will be called
  14.  *       to config the runtime behavior of the PipeProcessor.
  15.  *   <li>While the collaboration task is in progress:
  16.  *       <ul>
  17.  *         <li>PipeExtractor captures the events and wraps them into three types of Event instances.
  18.  *         <li>PipeProcessor processes the event and then passes them to the PipeConnector. The
  19.  *             following 3 methods will be called: {@link
  20.  *             PipeProcessor#process(TabletInsertionEvent, EventCollector)}, {@link
  21.  *             PipeProcessor#process(TsFileInsertionEvent, EventCollector)} and {@link
  22.  *             PipeProcessor#process(Event, EventCollector)}.
  23.  *         <li>PipeConnector serializes the events into binaries and send them to sinks.
  24.  *       </ul>
  25.  *   <li>When the collaboration task is cancelled (the `DROP PIPE` command is executed), the {@link
  26.  *       PipeProcessor#close() } method will be called.
  27.  * </ul>
  28.  */
  29. public interface PipeProcessor extends PipePlugin {
  31.   /**
  32.    * This method is mainly used to validate {@link PipeParameters} and it is executed before {@link
  33.    * PipeProcessor#customize(PipeParameters, PipeProcessorRuntimeConfiguration)} is called.
  34.    *
  35.    * @param validator the validator used to validate {@link PipeParameters}
  36.    * @throws Exception if any parameter is not valid
  37.    */
  38.   void validate(PipeParameterValidator validator) throws Exception;
  40.   /**
  41.    * This method is mainly used to customize PipeProcessor. In this method, the user can do the
  42.    * following things:
  43.    *
  44.    * <ul>
  45.    *   <li>Use PipeParameters to parse key-value pair attributes entered by the user.
  46.    *   <li>Set the running configurations in PipeProcessorRuntimeConfiguration.
  47.    * </ul>
  48.    *
  49.    * <p>This method is called after the method {@link
  50.    * PipeProcessor#validate(PipeParameterValidator)} is called and before the beginning of the
  51.    * events processing.
  52.    *
  53.    * @param parameters used to parse the input parameters entered by the user
  54.    * @param configuration used to set the required properties of the running PipeProcessor
  55.    * @throws Exception the user can throw errors if necessary
  56.    */
  57.   void customize(PipeParameters parameters, PipeProcessorRuntimeConfiguration configuration)
  58.           throws Exception;
  60.   /**
  61.    * This method is called to process the TabletInsertionEvent.
  62.    *
  63.    * @param tabletInsertionEvent TabletInsertionEvent to be processed
  64.    * @param eventCollector used to collect result events after processing
  65.    * @throws Exception the user can throw errors if necessary
  66.    */
  67.   void process(TabletInsertionEvent tabletInsertionEvent, EventCollector eventCollector)
  68.           throws Exception;
  70.   /**
  71.    * This method is called to process the TsFileInsertionEvent.
  72.    *
  73.    * @param tsFileInsertionEvent TsFileInsertionEvent to be processed
  74.    * @param eventCollector used to collect result events after processing
  75.    * @throws Exception the user can throw errors if necessary
  76.    */
  77.   default void process(TsFileInsertionEvent tsFileInsertionEvent, EventCollector eventCollector)
  78.           throws Exception {
  79.     for (final TabletInsertionEvent tabletInsertionEvent :
  80.             tsFileInsertionEvent.toTabletInsertionEvents()) {
  81.       process(tabletInsertionEvent, eventCollector);
  82.     }
  83.   }
  85.   /**
  86.    * This method is called to process the Event.
  87.    *
  88.    * @param event Event to be processed
  89.    * @param eventCollector used to collect result events after processing
  90.    * @throws Exception the user can throw errors if necessary
  91.    */
  92.   void process(Event event, EventCollector eventCollector) throws Exception;
  93. }

数据发送插件接口

数据发送是流处理数据从数据抽取到数据发送三阶段的第三阶段。数据发送插件（PipeConnector）主要用于发送经由数据处理插件（PipeProcessor）处理过后的
各种事件，它作为流处理框架的网络实现层，接口上应允许接入多种实时通信协议和多种连接器。

  1. /**
  2.  * PipeConnector
  3.  *
  4.  * <p>PipeConnector is responsible for sending events to sinks.
  5.  *
  6.  * <p>Various network protocols can be supported by implementing different PipeConnector classes.
  7.  *
  8.  * <p>The lifecycle of a PipeConnector is as follows:
  9.  *
  10.  * <ul>
  11.  *   <li>When a collaboration task is created, the KV pairs of `WITH CONNECTOR` clause in SQL are
  12.  *       parsed and the validation method {@link PipeConnector#validate(PipeParameterValidator)}
  13.  *       will be called to validate the parameters.
  14.  *   <li>Before the collaboration task starts, the method {@link
  15.  *       PipeConnector#customize(PipeParameters, PipeConnectorRuntimeConfiguration)} will be called
  16.  *       to config the runtime behavior of the PipeConnector and the method {@link
  17.  *       PipeConnector#handshake()} will be called to create a connection with sink.
  18.  *   <li>While the collaboration task is in progress:
  19.  *       <ul>
  20.  *         <li>PipeExtractor captures the events and wraps them into three types of Event instances.
  21.  *         <li>PipeProcessor processes the event and then passes them to the PipeConnector.
  22.  *         <li>PipeConnector serializes the events into binaries and send them to sinks. The
  23.  *             following 3 methods will be called: {@link
  24.  *             PipeConnector#transfer(TabletInsertionEvent)}, {@link
  25.  *             PipeConnector#transfer(TsFileInsertionEvent)} and {@link
  26.  *             PipeConnector#transfer(Event)}.
  27.  *       </ul>
  28.  *   <li>When the collaboration task is cancelled (the `DROP PIPE` command is executed), the {@link
  29.  *       PipeConnector#close() } method will be called.
  30.  * </ul>
  31.  *
  32.  * <p>In addition, the method {@link PipeConnector#heartbeat()} will be called periodically to check
  33.  * whether the connection with sink is still alive. The method {@link PipeConnector#handshake()}
  34.  * will be called to create a new connection with the sink when the method {@link
  35.  * PipeConnector#heartbeat()} throws exceptions.
  36.  */
  37. public interface PipeConnector extends PipePlugin {
  39.   /**
  40.    * This method is mainly used to validate {@link PipeParameters} and it is executed before {@link
  41.    * PipeConnector#customize(PipeParameters, PipeConnectorRuntimeConfiguration)} is called.
  42.    *
  43.    * @param validator the validator used to validate {@link PipeParameters}
  44.    * @throws Exception if any parameter is not valid
  45.    */
  46.   void validate(PipeParameterValidator validator) throws Exception;
  48.   /**
  49.    * This method is mainly used to customize PipeConnector. In this method, the user can do the
  50.    * following things:
  51.    *
  52.    * <ul>
  53.    *   <li>Use PipeParameters to parse key-value pair attributes entered by the user.
  54.    *   <li>Set the running configurations in PipeConnectorRuntimeConfiguration.
  55.    * </ul>
  56.    *
  57.    * <p>This method is called after the method {@link
  58.    * PipeConnector#validate(PipeParameterValidator)} is called and before the method {@link
  59.    * PipeConnector#handshake()} is called.
  60.    *
  61.    * @param parameters used to parse the input parameters entered by the user
  62.    * @param configuration used to set the required properties of the running PipeConnector
  63.    * @throws Exception the user can throw errors if necessary
  64.    */
  65.   void customize(PipeParameters parameters, PipeConnectorRuntimeConfiguration configuration)
  66.           throws Exception;
  68.   /**
  69.    * This method is used to create a connection with sink. This method will be called after the
  70.    * method {@link PipeConnector#customize(PipeParameters, PipeConnectorRuntimeConfiguration)} is
  71.    * called or will be called when the method {@link PipeConnector#heartbeat()} throws exceptions.
  72.    *
  73.    * @throws Exception if the connection is failed to be created
  74.    */
  75.   void handshake() throws Exception;
  77.   /**
  78.    * This method will be called periodically to check whether the connection with sink is still
  79.    * alive.
  80.    *
  81.    * @throws Exception if the connection dies
  82.    */
  83.   void heartbeat() throws Exception;
  85.   /**
  86.    * This method is used to transfer the TabletInsertionEvent.
  87.    *
  88.    * @param tabletInsertionEvent TabletInsertionEvent to be transferred
  89.    * @throws PipeConnectionException if the connection is broken
  90.    * @throws Exception the user can throw errors if necessary
  91.    */
  92.   void transfer(TabletInsertionEvent tabletInsertionEvent) throws Exception;
  94.   /**
  95.    * This method is used to transfer the TsFileInsertionEvent.
  96.    *
  97.    * @param tsFileInsertionEvent TsFileInsertionEvent to be transferred
  98.    * @throws PipeConnectionException if the connection is broken
  99.    * @throws Exception the user can throw errors if necessary
  100.    */
  101.   default void transfer(TsFileInsertionEvent tsFileInsertionEvent) throws Exception {
  102.     for (final TabletInsertionEvent tabletInsertionEvent :
  103.             tsFileInsertionEvent.toTabletInsertionEvents()) {
  104.       transfer(tabletInsertionEvent);
  105.     }
  106.   }
  108.   /**
  109.    * This method is used to transfer the Event.
  110.    *
  111.    * @param event Event to be transferred
  112.    * @throws PipeConnectionException if the connection is broken
  113.    * @throws Exception the user can throw errors if necessary
  114.    */
  115.   void transfer(Event event) throws Exception;
  116. }

自定义流处理插件管理

为了保证用户自定义插件在实际生产中的灵活性和易用性，系统还需要提供对插件进行动态统一管理的能力。
本章节介绍的流处理插件管理语句提供了对插件进行动态统一管理的入口。

加载插件语句

在 IoTDB 中，若要在系统中动态载入一个用户自定义插件，则首先需要基于 PipeExtractor、 PipeProcessor 或者 PipeConnector 实现一个具体的插件类，
然后需要将插件类编译打包成 jar 可执行文件，最后使用加载插件的管理语句将插件载入 IoTDB。

加载插件的管理语句的语法如图所示。

  1. CREATE PIPEPLUGIN <别名>
  2. AS <全类名>
  3. USING <JAR 包的 URI>

例如，用户实现了一个全类名为 edu.tsinghua.iotdb.pipe.ExampleProcessor 的数据处理插件，
打包后的 jar 资源包存放到了 https://example.com:8080/iotdb/pipe-plugin.jar流处理 - 图2open in new window 上，用户希望在流处理引擎中使用这个插件，
将插件标记为 example。那么，这个数据处理插件的创建语句如图所示。

  1. CREATE PIPEPLUGIN example
  2. AS 'edu.tsinghua.iotdb.pipe.ExampleProcessor'
  3. USING URI '<https://example.com:8080/iotdb/pipe-plugin.jar>'

删除插件语句

当用户不再想使用一个插件，需要将插件从系统中卸载时，可以使用如图所示的删除插件语句。

  1. DROP PIPEPLUGIN <别名>

查看插件语句

用户也可以按需查看系统中的插件。查看插件的语句如图所示。

  1. SHOW PIPEPLUGINS

系统预置的流处理插件

预置 extractor 插件

iotdb-extractor

作用：抽取 IoTDB 内部的历史或实时数据进入 pipe。

keyvaluevalue 取值范围required or optional with default
extractoriotdb-extractorString: iotdb-extractorrequired
extractor.pattern用于筛选时间序列的路径前缀String: 任意的时间序列前缀optional: root
extractor.history.enable是否抽取历史数据Boolean: true, falseoptional: true
extractor.history.start-time抽取的历史数据的开始 event time，包含 start-timeLong: [Long.MIN_VALUE, Long.MAX_VALUE]optional: Long.MIN_VALUE
extractor.history.end-time抽取的历史数据的结束 event time，包含 end-timeLong: [Long.MIN_VALUE, Long.MAX_VALUE]optional: Long.MAX_VALUE
extractor.realtime.enable是否抽取实时数据Boolean: true, falseoptional: true

🚫 extractor.pattern 参数说明

  • Pattern 需用反引号修饰不合法字符或者是不合法路径节点，例如如果希望筛选 root.`a@b` 或者 root.`123`，应设置 pattern 为 root.`a@b` 或者 root.`123`（具体参考 单双引号和反引号的使用时机流处理 - 图3open in new window）

  • 在底层实现中，当检测到 pattern 为 root（默认值）时，抽取效率较高，其他任意格式都将降低性能

  • 路径前缀不需要能够构成完整的路径。例如，当创建一个包含参数为 ‘extractor.pattern’=’root.aligned.1’ 的 pipe 时：

    • root.aligned.1TS
    • root.aligned.1TS.`1`
    • root.aligned.100T

    的数据会被抽取；

    • root.aligned.`1`
    • root.aligned.`123`

    的数据不会被抽取。

❗️extractor.history 的 start-time，end-time 参数说明

  • start-time，end-time 应为 ISO 格式，例如 2011-12-03T10:15:30 或 2011-12-03T10:15:30+01:00

✅ 一条数据从生产到落库 IoTDB，包含两个关键的时间概念

  • event time： 数据实际生产时的时间（或者数据生产系统给数据赋予的生成时间，是数据点中的时间项），也称为事件时间。
  • arrival time： 数据到达 IoTDB 系统内的时间。

我们常说的乱序数据，指的是数据到达时，其 event time 远落后于当前系统时间（或者已经落库的最大 event time）的数据。另一方面，不论是乱序数据还是顺序数据，只要它们是新到达系统的，那它们的 arrival time 都是会随着数据到达 IoTDB 的顺序递增的。

💎 iotdb-extractor 的工作可以拆分成两个阶段

  1. 历史数据抽取：所有 arrival time < 创建 pipe 时当前系统时间的数据称为历史数据
  2. 实时数据抽取：所有 arrival time >= 创建 pipe 时当前系统时间的数据称为实时数据

历史数据传输阶段和实时数据传输阶段，两阶段串行执行，只有当历史数据传输阶段完成后，才执行实时数据传输阶段。

用户可以指定 iotdb-extractor 进行：

  • 历史数据抽取（'extractor.history.enable' = 'true', 'extractor.realtime.enable' = 'false' ）
  • 实时数据抽取（'extractor.history.enable' = 'false', 'extractor.realtime.enable' = 'true' ）
  • 全量数据抽取（'extractor.history.enable' = 'true', 'extractor.realtime.enable' = 'true' ）
  • 禁止同时设置 extractor.history.enable 和 extractor.realtime.enable 为 false

预置 processor 插件

do-nothing-processor

作用：不对 extractor 传入的事件做任何的处理。

keyvaluevalue 取值范围required or optional with default
processordo-nothing-processorString: do-nothing-processorrequired

预置 connector 插件

do-nothing-connector

作用：不对 processor 传入的事件做任何的处理。

keyvaluevalue 取值范围required or optional with default
connectordo-nothing-connectorString: do-nothing-connectorrequired

流处理任务管理

创建流处理任务

使用 CREATE PIPE 语句来创建流处理任务。以数据同步流处理任务的创建为例，示例 SQL 语句如下：

  1. CREATE PIPE <PipeId> -- PipeId 是能够唯一标定流处理任务的名字
  2. WITH EXTRACTOR (
  3.   -- 默认的 IoTDB 数据抽取插件
  4.   'extractor'                    = 'iotdb-extractor',
  5.   -- 路径前缀，只有能够匹配该路径前缀的数据才会被抽取，用作后续的处理和发送
  6.   'extractor.pattern'            = 'root.timecho',
  7.   -- 是否抽取历史数据
  8.   'extractor.history.enable'     = 'true',
  9.   -- 描述被抽取的历史数据的时间范围，表示最早时间
  10.   'extractor.history.start-time' = '2011.12.03T10:15:30+01:00',
  11.   -- 描述被抽取的历史数据的时间范围，表示最晚时间
  12.   'extractor.history.end-time'   = '2022.12.03T10:15:30+01:00',
  13.   -- 是否抽取实时数据
  14.   'extractor.realtime.enable'    = 'true',
  15. )
  16. WITH PROCESSOR (
  17.   -- 默认的数据处理插件，即不做任何处理
  18.   'processor'                    = 'do-nothing-processor',
  19. )
  20. WITH CONNECTOR (
  21.   -- IoTDB 数据发送插件，目标端为 IoTDB
  22.   'connector'                    = 'iotdb-thrift-connector',
  23.   -- 目标端 IoTDB 其中一个 DataNode 节点的数据服务 ip
  24.   'connector.ip'                 = '127.0.0.1',
  25.   -- 目标端 IoTDB 其中一个 DataNode 节点的数据服务 port
  26.   'connector.port'               = '6667',
  27. )

创建流处理任务时需要配置 PipeId 以及三个插件部分的参数：

配置项说明是否必填默认实现默认实现说明是否允许自定义实现
PipeId全局唯一标定一个流处理任务的名称---
extractorPipe Extractor 插件，负责在数据库底层抽取流处理数据选填iotdb-extractor将数据库的全量历史数据和后续到达的实时数据接入流处理任务否
processorPipe Processor 插件，负责处理数据选填do-nothing-processor对传入的数据不做任何处理
connectorPipe Connector 插件，负责发送数据--

示例中，使用了 iotdb-extractor、do-nothing-processor 和 iotdb-thrift-connector 插件构建数据流处理任务。IoTDB 还内置了其他的流处理插件，请查看“系统预置流处理插件”一节。

一个最简的 CREATE PIPE 语句示例如下：

  1. CREATE PIPE <PipeId> -- PipeId 是能够唯一标定流处理任务的名字
  2. WITH CONNECTOR (
  3.   -- IoTDB 数据发送插件，目标端为 IoTDB
  4.   'connector'      = 'iotdb-thrift-connector',
  5.   -- 目标端 IoTDB 其中一个 DataNode 节点的数据服务 ip
  6.   'connector.ip'   = '127.0.0.1',
  7.   -- 目标端 IoTDB 其中一个 DataNode 节点的数据服务 port
  8.   'connector.port' = '6667',
  9. )

其表达的语义是：将本数据库实例中的全量历史数据和后续到达的实时数据，同步到目标为 127.0.0.1:6667 的 IoTDB 实例上。

注意：

  • EXTRACTOR 和 PROCESSOR 为选填配置，若不填写配置参数，系统则会采用相应的默认实现

  • CONNECTOR 为必填配置，需要在 CREATE PIPE 语句中声明式配置

  • CONNECTOR 具备自复用能力。对于不同的流处理任务，如果他们的 CONNECTOR 具备完全相同 KV 属性的（所有属性的 key 对应的 value 都相同），那么系统最终只会创建一个 CONNECTOR 实例，以实现对连接资源的复用。

    • 例如，有下面 pipe1, pipe2 两个流处理任务的声明：
    1. CREATE PIPE pipe1
    2. WITH CONNECTOR (
    3.   'connector' = 'iotdb-thrift-connector',
    4.   'connector.thrift.host' = 'localhost',
    5.   'connector.thrift.port' = '9999',
    6. )
    8. CREATE PIPE pipe2
    9. WITH CONNECTOR (
    10.   'connector' = 'iotdb-thrift-connector',
    11.   'connector.thrift.port' = '9999',
    12.   'connector.thrift.host' = 'localhost',
    13. )
    • 因为它们对 CONNECTOR 的声明完全相同（即使某些属性声明时的顺序不同），所以框架会自动对它们声明的 CONNECTOR 进行复用，最终 pipe1, pipe2 的CONNECTOR 将会是同一个实例。

  • 请不要构建出包含数据循环同步的应用场景（会导致无限循环）：

    • IoTDB A -> IoTDB B -> IoTDB A
    • IoTDB A -> IoTDB A

启动流处理任务

CREATE PIPE 语句成功执行后，流处理任务相关实例会被创建，但整个流处理任务的运行状态会被置为 STOPPED，即流处理任务不会立刻处理数据。

可以使用 START PIPE 语句使流处理任务开始处理数据：

  1. START PIPE <PipeId>

停止流处理任务

使用 STOP PIPE 语句使流处理任务停止处理数据：

  1. STOP PIPE <PipeId>

删除流处理任务

使用 DROP PIPE 语句使流处理任务停止处理数据（当流处理任务状态为 RUNNING 时），然后删除整个流处理任务流处理任务：

  1. DROP PIPE <PipeId>

用户在删除流处理任务前，不需要执行 STOP 操作。

展示流处理任务

使用 SHOW PIPES 语句查看所有流处理任务：

  1. SHOW PIPES

查询结果如下：

  1. +-----------+-----------------------+-------+-------------+-------------+-------------+----------------+
  2. |         ID|          CreationTime |  State|PipeExtractor|PipeProcessor|PipeConnector|ExceptionMessage|
  3. +-----------+-----------------------+-------+-------------+-------------+-------------+----------------+
  4. |iotdb-kafka|2022-03-30T20:58:30.689|RUNNING|          ...|          ...|          ...|            None|
  5. +-----------+-----------------------+-------+-------------+-------------+-------------+----------------+
  6. |iotdb-iotdb|2022-03-31T12:55:28.129|STOPPED|          ...|          ...|          ...| TException: ...|
  7. +-----------+-----------------------+-------+-------------+-------------+-------------+----------------+

可以使用 <PipeId> 指定想看的某个流处理任务状态：

  1. SHOW PIPE <PipeId>

您也可以通过 where 子句，判断某个 <PipeId> 使用的 Pipe Connector 被复用的情况。

  1. SHOW PIPES
  2. WHERE CONNECTOR USED BY <PipeId>

流处理任务运行状态迁移

一个流处理 pipe 在其被管理的生命周期中会经过多种状态：

  • STOPPED： pipe 处于停止运行状态。当管道处于该状态时，有如下几种可能：
    • 当一个 pipe 被成功创建之后，其初始状态为暂停状态
    • 用户手动将一个处于正常运行状态的 pipe 暂停，其状态会被动从 RUNNING 变为 STOPPED
    • 当一个 pipe 运行过程中出现无法恢复的错误时，其状态会自动从 RUNNING 变为 STOPPED
  • RUNNING： pipe 正在正常工作
  • DROPPED： pipe 任务被永久删除

下图表明了所有状态以及状态的迁移：

状态迁移图

状态迁移图

权限管理

流处理任务

权限名称描述
CREATE_PIPE注册流处理任务。路径无关。
START_PIPE开启流处理任务。路径无关。
STOP_PIPE停止流处理任务。路径无关。
DROP_PIPE卸载流处理任务。路径无关。
SHOW_PIPES查询流处理任务。路径无关。

流处理任务插件

权限名称描述
CREATE_PIPEPLUGIN注册流处理任务插件。路径无关。
DROP_PIPEPLUGIN开启流处理任务插件。路径无关。
SHOW_PIPEPLUGINS查询流处理任务插件。路径无关。

配置参数

在 iotdb-common.properties 中：

  1. ####################
  2. ### Pipe Configuration
  3. ####################
  5. # Uncomment the following field to configure the pipe lib directory.
  6. # For Windows platform
  7. # If its prefix is a drive specifier followed by "\\", or if its prefix is "\\\\", then the path is
  8. # absolute. Otherwise, it is relative.
  9. # pipe_lib_dir=ext\\pipe
  10. # For Linux platform
  11. # If its prefix is "/", then the path is absolute. Otherwise, it is relative.
  12. # pipe_lib_dir=ext/pipe
  14. # The maximum number of threads that can be used to execute the pipe subtasks in PipeSubtaskExecutor.
  15. # The actual value will be min(pipe_subtask_executor_max_thread_num, max(1, CPU core number / 2)).
  16. # pipe_subtask_executor_max_thread_num=5
  18. # The connection timeout (in milliseconds) for the thrift client.
  19. # pipe_connector_timeout_ms=900000