SQL 客户端

Flink 的 Table & SQL API 可以处理 SQL 语言编写的查询语句,但是这些查询需要嵌入用 Java 或 Scala 编写的表程序中。此外,这些程序在提交到集群前需要用构建工具打包。这或多或少限制了 Java/Scala 程序员对 Flink 的使用。

SQL 客户端 的目的是提供一种简单的方式来编写、调试和提交表程序到 Flink 集群上,而无需写一行 Java 或 Scala 代码。SQL 客户端命令行界面(CLI) 能够在命令行中检索和可视化分布式应用中实时产生的结果。

Animated demo of the Flink SQL Client CLI running table programs on a cluster

入门

本节介绍如何在命令行里启动(setup)和运行你的第一个 Flink SQL 程序。

SQL 客户端捆绑在常规 Flink 发行版中,因此可以直接运行。它仅需要一个正在运行的 Flink 集群就可以在其中执行表程序。有关设置 Flink 群集的更多信息,请参见集群和部署部分。如果仅想试用 SQL 客户端,也可以使用以下命令启动本地集群:

  1. ./bin/start-cluster.sh

启动 SQL 客户端命令行界面

SQL Client 脚本也位于 Flink 的 bin 目录中。将来,用户可以通过启动嵌入式 standalone 进程或通过连接到远程 SQL 客户端网关来启动 SQL 客户端命令行界面。目前仅支持 embedded 模式。可以通过以下方式启动 CLI:

  1. ./bin/sql-client.sh embedded

默认情况下,SQL 客户端将从 ./conf/sql-client-defaults.yaml 中读取配置。有关环境配置文件结构的更多信息,请参见配置部分

执行 SQL 查询

命令行界面启动后,你可以使用 HELP 命令列出所有可用的 SQL 语句。输入第一条 SQL 查询语句并按 Enter 键执行,可以验证你的设置及集群连接是否正确:

  1. SELECT 'Hello World';

该查询不需要 table source,并且只产生一行结果。CLI 将从集群中检索结果并将其可视化。按 Q 键退出结果视图。

CLI 为维护和可视化结果提供三种模式

表格模式(table mode)在内存中实体化结果,并将结果用规则的分页表格可视化展示出来。执行如下命令启用:

  1. SET execution.result-mode=table;

变更日志模式(changelog mode)不会实体化和可视化结果,而是由插入(+)和撤销(-)组成的持续查询产生结果流。

  1. SET execution.result-mode=changelog;

Tableau模式(tableau mode)更接近传统的数据库,会将执行的结果以制表的形式直接打在屏幕之上。具体显示的内容会取决于作业 执行模式的不同(execution.type):

  1. SET execution.result-mode=tableau;

注意当你使用这个模式运行一个流式查询的时候,Flink 会将结果持续的打印在当前的屏幕之上。如果这个流式查询的输入是有限的数据集, 那么Flink在处理完所有的数据之后,会自动的停止作业,同时屏幕上的打印也会相应的停止。如果你想提前结束这个查询,那么可以直接使用 CTRL-C 按键,这个会停掉作业同时停止屏幕上的打印。

你可以用如下查询来查看三种结果模式的运行情况:

  1. SELECT name, COUNT(*) AS cnt FROM (VALUES ('Bob'), ('Alice'), ('Greg'), ('Bob')) AS NameTable(name) GROUP BY name;

此查询执行一个有限字数示例:

变更日志模式 下,看到的结果应该类似于:

  1. + Bob, 1
  2. + Alice, 1
  3. + Greg, 1
  4. - Bob, 1
  5. + Bob, 2

表格模式 下,可视化结果表将不断更新,直到表程序以如下内容结束:

  1. Bob, 2
  2. Alice, 1
  3. Greg, 1

Tableau模式 下,如果这个查询以流的方式执行,那么将显示以下内容:

  1. +-----+----------------------+----------------------+
  2. | +/- | name | cnt |
  3. +-----+----------------------+----------------------+
  4. | + | Bob | 1 |
  5. | + | Alice | 1 |
  6. | + | Greg | 1 |
  7. | - | Bob | 1 |
  8. | + | Bob | 2 |
  9. +-----+----------------------+----------------------+
  10. Received a total of 5 rows

如果这个查询以批的方式执行,显示的内容如下:

  1. +-------+-----+
  2. | name | cnt |
  3. +-------+-----+
  4. | Alice | 1 |
  5. | Bob | 2 |
  6. | Greg | 1 |
  7. +-------+-----+
  8. 3 rows in set

这几种结果模式在 SQL 查询的原型设计过程中都非常有用。这些模式的结果都存储在 SQL 客户端 的 Java 堆内存中。为了保持 CLI 界面及时响应,变更日志模式仅显示最近的 1000 个更改。表格模式支持浏览更大的结果,这些结果仅受可用主内存和配置的最大行数max-table-result-rows)的限制。

注意 在批处理环境下执行的查询只能用表格模式或者Tableau模式进行检索。

定义查询语句后,可以将其作为长时间运行的独立 Flink 作业提交给集群。为此,其目标系统需要使用 INSERT INTO 语句指定存储结果。配置部分解释如何声明读取数据的 table source,写入数据的 sink 以及配置其他表程序属性的方法。

配置

SQL 客户端启动时可以添加 CLI 选项,具体如下。

  1. ./bin/sql-client.sh embedded --help
  2. Mode "embedded" submits Flink jobs from the local machine.
  3. Syntax: embedded [OPTIONS]
  4. "embedded" mode options:
  5. -d,--defaults <environment file> The environment properties with which
  6. every new session is initialized.
  7. Properties might be overwritten by
  8. session properties.
  9. -e,--environment <environment file> The environment properties to be
  10. imported into the session. It might
  11. overwrite default environment
  12. properties.
  13. -h,--help Show the help message with
  14. descriptions of all options.
  15. -hist,--history <History file path> The file which you want to save the
  16. command history into. If not
  17. specified, we will auto-generate one
  18. under your user's home directory.
  19. -j,--jar <JAR file> A JAR file to be imported into the
  20. session. The file might contain
  21. user-defined classes needed for the
  22. execution of statements such as
  23. functions, table sources, or sinks.
  24. Can be used multiple times.
  25. -l,--library <JAR directory> A JAR file directory with which every
  26. new session is initialized. The files
  27. might contain user-defined classes
  28. needed for the execution of
  29. statements such as functions, table
  30. sources, or sinks. Can be used
  31. multiple times.
  32. -pyarch,--pyArchives <arg> Add python archive files for job. The
  33. archive files will be extracted to
  34. the working directory of python UDF
  35. worker. Currently only zip-format is
  36. supported. For each archive file, a
  37. target directory be specified. If the
  38. target directory name is specified,
  39. the archive file will be extracted to
  40. a name can directory with the
  41. specified name. Otherwise, the
  42. archive file will be extracted to a
  43. directory with the same name of the
  44. archive file. The files uploaded via
  45. this option are accessible via
  46. relative path. '#' could be used as
  47. the separator of the archive file
  48. path and the target directory name.
  49. Comma (',') could be used as the
  50. separator to specify multiple archive
  51. files. This option can be used to
  52. upload the virtual environment, the
  53. data files used in Python UDF (e.g.:
  54. --pyArchives
  55. file:///tmp/py37.zip,file:///tmp/data
  56. .zip#data --pyExecutable
  57. py37.zip/py37/bin/python). The data
  58. files could be accessed in Python
  59. UDF, e.g.: f = open('data/data.txt',
  60. 'r').
  61. -pyexec,--pyExecutable <arg> Specify the path of the python
  62. interpreter used to execute the
  63. python UDF worker (e.g.:
  64. --pyExecutable
  65. /usr/local/bin/python3). The python
  66. UDF worker depends on Python 3.5+,
  67. Apache Beam (version == 2.23.0), Pip
  68. (version >= 7.1.0) and SetupTools
  69. (version >= 37.0.0). Please ensure
  70. that the specified environment meets
  71. the above requirements.
  72. -pyfs,--pyFiles <pythonFiles> Attach custom python files for job.
  73. These files will be added to the
  74. PYTHONPATH of both the local client
  75. and the remote python UDF worker. The
  76. standard python resource file
  77. suffixes such as .py/.egg/.zip or
  78. directory are all supported. Comma
  79. (',') could be used as the separator
  80. to specify multiple files (e.g.:
  81. --pyFiles
  82. file:///tmp/myresource.zip,hdfs:///$n
  83. amenode_address/myresource2.zip).
  84. -pyreq,--pyRequirements <arg> Specify a requirements.txt file which
  85. defines the third-party dependencies.
  86. These dependencies will be installed
  87. and added to the PYTHONPATH of the
  88. python UDF worker. A directory which
  89. contains the installation packages of
  90. these dependencies could be specified
  91. optionally. Use '#' as the separator
  92. if the optional parameter exists
  93. (e.g.: --pyRequirements
  94. file:///tmp/requirements.txt#file:///
  95. tmp/cached_dir).
  96. -s,--session <session identifier> The identifier for a session.
  97. 'default' is the default identifier.
  98. -u,--update <SQL update statement> Experimental (for testing only!):
  99. Instructs the SQL Client to
  100. immediately execute the given update
  101. statement after starting up. The
  102. process is shut down after the
  103. statement has been submitted to the
  104. cluster and returns an appropriate
  105. return code. Currently, this feature
  106. is only supported for INSERT INTO
  107. statements that declare the target
  108. sink table.

环境配置文件

SQL 查询执行前需要配置相关环境变量。环境配置文件 定义了 catalog、table sources、table sinks、用户自定义函数和其他执行或部署所需属性。

每个环境配置文件是常规的 YAML 文件,例子如下。

  1. # 定义表,如 source、sink、视图或临时表。
  2. tables:
  3. - name: MyTableSource
  4. type: source-table
  5. update-mode: append
  6. connector:
  7. type: filesystem
  8. path: "/path/to/something.csv"
  9. format:
  10. type: csv
  11. fields:
  12. - name: MyField1
  13. data-type: INT
  14. - name: MyField2
  15. data-type: VARCHAR
  16. line-delimiter: "\n"
  17. comment-prefix: "#"
  18. schema:
  19. - name: MyField1
  20. data-type: INT
  21. - name: MyField2
  22. data-type: VARCHAR
  23. - name: MyCustomView
  24. type: view
  25. query: "SELECT MyField2 FROM MyTableSource"
  26. # 定义用户自定义函数
  27. functions:
  28. - name: myUDF
  29. from: class
  30. class: foo.bar.AggregateUDF
  31. constructor:
  32. - 7.6
  33. - false
  34. # 定义 catalogs
  35. catalogs:
  36. - name: catalog_1
  37. type: hive
  38. property-version: 1
  39. hive-conf-dir: ...
  40. - name: catalog_2
  41. type: hive
  42. property-version: 1
  43. default-database: mydb2
  44. hive-conf-dir: ...
  45. # 改变表程序基本的执行行为属性。
  46. execution:
  47. planner: blink # 可选: 'blink' (默认)或 'old'
  48. type: streaming # 必选:执行模式为 'batch' 或 'streaming'
  49. result-mode: table # 必选:'table' 或 'changelog'
  50. max-table-result-rows: 1000000 # 可选:'table' 模式下可维护的最大行数(默认为 1000000,小于 1 则表示无限制)
  51. time-characteristic: event-time # 可选: 'processing-time' 或 'event-time' (默认)
  52. parallelism: 1 # 可选:Flink 的并行数量(默认为 1)
  53. periodic-watermarks-interval: 200 # 可选:周期性 watermarks 的间隔时间(默认 200 ms)
  54. max-parallelism: 16 # 可选:Flink 的最大并行数量(默认 128)
  55. min-idle-state-retention: 0 # 可选:表程序的最小空闲状态时间
  56. max-idle-state-retention: 0 # 可选:表程序的最大空闲状态时间
  57. current-catalog: catalog_1 # 可选:当前会话 catalog 的名称(默认为 'default_catalog')
  58. current-database: mydb1 # 可选:当前 catalog 的当前数据库名称
  59. # (默认为当前 catalog 的默认数据库)
  60. restart-strategy: # 可选:重启策略(restart-strategy)
  61. type: fallback # 默认情况下“回退”到全局重启策略
  62. # 用于调整和调优表程序的配置选项。
  63. # 在专用的”配置”页面上可以找到完整的选项列表及其默认值。
  64. configuration:
  65. table.optimizer.join-reorder-enabled: true
  66. table.exec.spill-compression.enabled: true
  67. table.exec.spill-compression.block-size: 128kb
  68. # 描述表程序提交集群的属性。
  69. deployment:
  70. response-timeout: 5000

上述配置:

  • 定义一个从 CSV 文件中读取的 table source MyTableSource 所需的环境,
  • 定义了一个视图 MyCustomView ,该视图是用 SQL 查询声明的虚拟表,
  • 定义了一个用户自定义函数 myUDF,该函数可以使用类名和两个构造函数参数进行实例化,
  • 连接到两个 Hive catalogs 并用 catalog_1 来作为当前目录,用 mydb1 来作为该目录的当前数据库,
  • streaming 模式下用 blink planner 来运行时间特征为 event-time 和并行度为 1 的语句,
  • table 结果模式下运行试探性的(exploratory)的查询,
  • 并通过配置选项对联结(join)重排序和溢出进行一些计划调整。

根据使用情况,配置可以被拆分为多个文件。因此,一般情况下(用 --defaults 指定默认环境配置文件)以及基于每个会话(用 --environment 指定会话环境配置文件)来创建环境配置文件。每个 CLI 会话均会被属于 session 属性的默认属性初始化。例如,默认环境配置文件可以指定在每个会话中都可用于查询的所有 table source,而会话环境配置文件仅声明特定的状态保留时间和并行性。启动 CLI 应用程序时,默认环境配置文件和会话环境配置文件都可以被指定。如果未指定默认环境配置文件,则 SQL 客户端将在 Flink 的配置目录中搜索 ./conf/sql-client-defaults.yaml

注意 在 CLI 会话中设置的属性(如 SET 命令)优先级最高:

  1. CLI commands > session environment file > defaults environment file

重启策略(Restart Strategies)

重启策略控制 Flink 作业失败时的重启方式。与 Flink 集群的全局重启策略相似,更细精度的重启配置可以在环境配置文件中声明。

Flink 支持以下策略:

  1. execution:
  2. # 退回到 flink-conf.yaml 中定义的全局策略
  3. restart-strategy:
  4. type: fallback
  5. # 作业直接失败并且不尝试重启
  6. restart-strategy:
  7. type: none
  8. # 最多重启作业的给定次数
  9. restart-strategy:
  10. type: fixed-delay
  11. attempts: 3 # 作业被宣告失败前的重试次数(默认:Integer.MAX_VALUE)
  12. delay: 10000 # 重试之间的间隔时间,以毫秒为单位(默认:10 秒)
  13. # 只要不超过每个时间间隔的最大故障数就继续尝试
  14. restart-strategy:
  15. type: failure-rate
  16. max-failures-per-interval: 1 # 每个间隔重试的最大次数(默认:1)
  17. failure-rate-interval: 60000 # 监测失败率的间隔时间,以毫秒为单位
  18. delay: 10000 # 重试之间的间隔时间,以毫秒为单位(默认:10 秒)

依赖

SQL 客户端不要求用 Maven 或者 SBT 设置 Java 项目。相反,你可以以常规的 JAR 包给集群提交依赖项。你也可以分别(用 --jar)指定每一个 JAR 包或者(用 --library)定义整个 library 依赖库。为连接扩展系统(如 Apache Kafka)和相应的数据格式(如 JSON),Flink提供了开箱即用型 JAR 捆绑包(ready-to-use JAR bundles)。这些 JAR 包各个发行版都可以从 Maven 中央库中下载到。

提供的 SQL JARs 和使用文档的完整清单可以在连接扩展系统页面中找到。

如下例子展示了从 Apache Kafka 中读取 JSON 文件并作为 table source 的环境配置文件。

  1. tables:
  2. - name: TaxiRides
  3. type: source-table
  4. update-mode: append
  5. connector:
  6. property-version: 1
  7. type: kafka
  8. version: "0.11"
  9. topic: TaxiRides
  10. startup-mode: earliest-offset
  11. properties:
  12. bootstrap.servers: localhost:9092
  13. group.id: testGroup
  14. format:
  15. property-version: 1
  16. type: json
  17. schema: "ROW<rideId LONG, lon FLOAT, lat FLOAT, rideTime TIMESTAMP>"
  18. schema:
  19. - name: rideId
  20. data-type: BIGINT
  21. - name: lon
  22. data-type: FLOAT
  23. - name: lat
  24. data-type: FLOAT
  25. - name: rowTime
  26. data-type: TIMESTAMP(3)
  27. rowtime:
  28. timestamps:
  29. type: "from-field"
  30. from: "rideTime"
  31. watermarks:
  32. type: "periodic-bounded"
  33. delay: "60000"
  34. - name: procTime
  35. data-type: TIMESTAMP(3)
  36. proctime: true

TaxiRide 表的结果格式与绝大多数的 JSON 格式相似。此外,它还添加了 rowtime 属性 rowTime 和 processing-time 属性 procTime

connectorformat 都允许定义属性版本(当前版本为 1 )以便将来向后兼容。

自定义函数(User-defined Functions)

SQL 客户端允许用户创建用户自定义的函数来进行 SQL 查询。当前,这些自定义函数仅限于 Java/Scala 编写的类以及 Python 文件。

为提供 Java/Scala 的自定义函数,你首先需要实现和编译函数类,该函数继承自 ScalarFunctionAggregateFunctionTableFunction(见自定义函数)。一个或多个函数可以打包到 SQL 客户端的 JAR 依赖中。

为提供 Python 的自定义函数,你需要编写 Python 函数并且用装饰器 pyflink.table.udf.udfpyflink.table.udf.udtf 来装饰(见 Python UDFs))。Python 文件中可以放置一个或多个函数。其Python 文件和相关依赖需要通过在环境配置文件中或命令行选项(见 命令行用法)配置中特别指定(见 Python 配置)。

所有函数在被调用之前,必须在环境配置文件中提前声明。functions 列表中每个函数类都必须指定

  • 用来注册函数的 name
  • 函数的来源 from(目前仅限于 class(Java/Scala UDF)或 python(Python UDF)),

Java/Scala UDF 必须指定:

  • 声明了全限定名的函数类 class 以及用于实例化的 constructor 参数的可选列表。

Python UDF 必须指定:

  • 声明全程名称的 fully-qualified-name,即函数的 “[module name].[object name]”
  1. functions:
  2. - name: java_udf # required: name of the function
  3. from: class # required: source of the function
  4. class: ... # required: fully qualified class name of the function
  5. constructor: # optional: constructor parameters of the function class
  6. - ... # optional: a literal parameter with implicit type
  7. - class: ... # optional: full class name of the parameter
  8. constructor: # optional: constructor parameters of the parameter's class
  9. - type: ... # optional: type of the literal parameter
  10. value: ... # optional: value of the literal parameter
  11. - name: python_udf # required: name of the function
  12. from: python # required: source of the function
  13. fully-qualified-name: ... # required: fully qualified class name of the function

对于 Java/Scala UDF,要确保函数类指定的构造参数顺序和类型都要严格匹配。

构造函数参数

根据用户自定义函数可知,在用到 SQL 语句中之前,有必要将构造参数匹配对应的类型。

如上述示例所示,当声明一个用户自定义函数时,可以使用构造参数来配置相应的类,有以下三种方式:

隐式类型的文本值:SQL 客户端将自动根据文本推导对应的类型。目前,只支持 BOOLEANINTDOUBLEVARCHAR

如果自动推导的类型与期望不符(例如,你需要 VARCHAR 类型的 false),可以改用显式类型。

  1. - true # -> BOOLEAN (case sensitive)
  2. - 42 # -> INT
  3. - 1234.222 # -> DOUBLE
  4. - foo # -> VARCHAR

显式类型的文本值:为保证类型安全,需明确声明 typevalue 属性的参数。

  1. - type: DECIMAL
  2. value: 11111111111111111

下表列出支持的 Java 参数类型和与之相对应的 SQL 类型。

Java 类型SQL 类型
java.math.BigDecimalDECIMAL
java.lang.BooleanBOOLEAN
java.lang.ByteTINYINT
java.lang.DoubleDOUBLE
java.lang.FloatREAL, FLOAT
java.lang.IntegerINTEGER, INT
java.lang.LongBIGINT
java.lang.ShortSMALLINT
java.lang.StringVARCHAR

其他类型 (例如 TIMESTAMPARRAY)、原始类型和 null 目前还不支持。

(嵌套)类实例:除了文本值外,还可以通过指定构造参数的 classconstructor 属性来创建(嵌套)类实例。这个过程可以递归执行,直到最后的构造参数是用文本值来描述的。

  1. - class: foo.bar.paramClass
  2. constructor:
  3. - StarryName
  4. - class: java.lang.Integer
  5. constructor:
  6. - class: java.lang.String
  7. constructor:
  8. - type: VARCHAR
  9. value: 3

Catalogs

Catalogs 可以由 YAML 属性集合定义,并且在 SQL 客户端启动之前自动注册到运行环境中。

用户可以指定在 SQL CLI 中哪些 catalog 要被作为当前的 catalog,以及哪个数据库的 catalog 可以用于当前数据库。

  1. catalogs:
  2. - name: catalog_1
  3. type: hive
  4. property-version: 1
  5. default-database: mydb2
  6. hive-conf-dir: <path of Hive conf directory>
  7. - name: catalog_2
  8. type: hive
  9. property-version: 1
  10. hive-conf-dir: <path of Hive conf directory>
  11. execution:
  12. ...
  13. current-catalog: catalog_1
  14. current-database: mydb1

更多关于 catalog 的内容,参考 Catalogs

分离的 SQL 查询

为定义端到端的 SQL 管道,SQL 的 INSERT INTO 语句可以向 Flink 集群提交长时间运行的分离查询。查询产生的结果输出到除 SQL 客户端外的扩展系统中。这样可以应对更高的并发和更多的数据。CLI 自身在提交后不对分离查询做任何控制。

  1. INSERT INTO MyTableSink SELECT * FROM MyTableSource

sink MyTableSink 必须在环境配置文件中声明。查看更多关于 Flink 支持的外部系统及其配置信息,参见 connection page。如下展示 Apache Kafka 的 sink 示例。

  1. tables:
  2. - name: MyTableSink
  3. type: sink-table
  4. update-mode: append
  5. connector:
  6. property-version: 1
  7. type: kafka
  8. version: "0.11"
  9. topic: OutputTopic
  10. properties:
  11. bootstrap.servers: localhost:9092
  12. group.id: testGroup
  13. format:
  14. property-version: 1
  15. type: json
  16. derive-schema: true
  17. schema:
  18. - name: rideId
  19. data-type: BIGINT
  20. - name: lon
  21. data-type: FLOAT
  22. - name: lat
  23. data-type: FLOAT
  24. - name: rideTime
  25. data-type: TIMESTAMP(3)

SQL 客户端要确保语句成功提交到集群上。一旦提交查询,CLI 将展示关于 Flink 作业的相关信息。

  1. [INFO] Table update statement has been successfully submitted to the cluster:
  2. Cluster ID: StandaloneClusterId
  3. Job ID: 6f922fe5cba87406ff23ae4a7bb79044
  4. Web interface: http://localhost:8081

注意 提交后,SQL 客户端不追踪正在运行的 Flink 作业状态。提交后可以关闭 CLI 进程,并且不会影响分离的查询。Flink 的重启策略负责容错。取消查询可以用 Flink 的 web 接口、命令行或 REST API 。

SQL 视图

视图是一张虚拟表,允许通过 SQL 查询来定义。视图的定义会被立即解析与验证。然而,提交常规 INSERT INTOSELECT 语句后不会立即执行,在访问视图时才会真正执行。

视图可以用环境配置文件或者 CLI 会话来定义。

下例展示如何在一个文件里定义多张视图。视图注册的顺序和定义它们的环境配置文件一致。支持诸如 视图 A 依赖视图 B ,视图 B 依赖视图 C 的引用链。

  1. tables:
  2. - name: MyTableSource
  3. # ...
  4. - name: MyRestrictedView
  5. type: view
  6. query: "SELECT MyField2 FROM MyTableSource"
  7. - name: MyComplexView
  8. type: view
  9. query: >
  10. SELECT MyField2 + 42, CAST(MyField1 AS VARCHAR)
  11. FROM MyTableSource
  12. WHERE MyField2 > 200

相较于 table soruce 和 sink,会话环境配置文件中定义的视图具有最高优先级。

视图还可以在 CLI 会话中用 CREATE VIEW 语句来创建:

  1. CREATE VIEW MyNewView AS SELECT MyField2 FROM MyTableSource;

视图能在 CLI 会话中创建,也能用 DROP VIEW 语句删除:

  1. DROP VIEW MyNewView;

注意 CLI 中视图的定义仅限于上述语法。将来版本会支持定义视图结构以及在表名中加入转义的空格。

临时表(Temporal Table)

临时表是在变化的历史记录表上的(参数化)视图,该视图在某个特定时间点返回表的内容。这对于在特定的时间戳将一张表的内容联结另一张表是非常有用的。更多信息见联结临时表页面。

下例展示如何定义一张临时表 SourceTemporalTable

  1. tables:
  2. # 定义包含对临时表的更新的 table source (或视图)
  3. - name: HistorySource
  4. type: source-table
  5. update-mode: append
  6. connector: # ...
  7. format: # ...
  8. schema:
  9. - name: integerField
  10. data-type: INT
  11. - name: stringField
  12. data-type: STRING
  13. - name: rowtimeField
  14. data-type: TIMESTAMP(3)
  15. rowtime:
  16. timestamps:
  17. type: from-field
  18. from: rowtimeField
  19. watermarks:
  20. type: from-source
  21. # 在具有时间属性和主键的变化历史记录表上定义临时表
  22. - name: SourceTemporalTable
  23. type: temporal-table
  24. history-table: HistorySource
  25. primary-key: integerField
  26. time-attribute: rowtimeField # could also be a proctime field

如例子中所示,table source,视图和临时表的定义可以相互混合。它们按照在环境配置文件中定义的顺序进行注册。例如,临时表可以引用一个视图,该视图依赖于另一个视图或 table source。

局限与未来

当前的 SQL 客户端仅支持嵌入式模式。在将来,社区计划提供基于 REST 的 SQL 客户端网关(Gateway) 的功能,详见 FLIP-24FLIP-91