TAOS SQL
TDengine提供类似SQL语法,用户可以在TDengine Shell中使用SQL语句操纵数据库,也可以通过C/C++, Java(JDBC), Python, Go等各种程序来执行SQL语句。
本章节SQL语法遵循如下约定:
支持的数据类型
使用TDengine,最重要的是时间戳。创建并插入记录、查询历史记录的时候,均需要指定时间戳。时间戳有如下规则:
- 时间格式为YYYY-MM-DD HH:mm:ss.MS, 默认时间分辨率为毫秒。比如:2017-08-12 18:25:58.128
- 内部函数now是服务器的当前时间
- 插入记录时,如果时间戳为0,插入数据时使用服务器当前时间
- Epoch Time: 时间戳也可以是一个长整数,表示从1970-01-01 08:00:00.000开始的毫秒数
- 时间可以加减,比如 now-2h,表明查询时刻向前推2个小时(最近2小时)。数字后面的时间单位:a(毫秒), s(秒), m(分), h(小时), d(天),w(周), n(月), y(年)。比如select * from t1 where ts > now-2w and ts <= now-1w, 表示查询两周前整整一周的数据TDengine缺省的时间戳是毫秒精度,但通过修改配置参数enableMicrosecond就可支持微秒。
在TDengine中,普通表的数据模型中可使用以下10种数据类型。
类型 | Bytes | 说明 | |
---|---|---|---|
1 | TIMESTAMP | 8 | 时间戳。最小精度毫秒。从格林威治时间1970-01-01 08:00:00.000开始,计时不能早于该时间。 |
2 | INT | 4 | 整型,范围 [-2^31+1, 2^31-1], -2^31被用作Null值 |
3 | BIGINT | 8 | 长整型,范围 [-2^59, 2^59] |
4 | FLOAT | 4 | 浮点型,有效位数6-7,范围 [-3.4E38, 3.4E38] |
5 | DOUBLE | 8 | 双精度浮点型,有效位数15-16,范围 [-1.7E308, 1.7E308] |
6 | BINARY | 自定义 | 用于记录字符串,最长不能超过504 bytes。binary仅支持字符串输入,字符串两端使用单引号引用,否则英文全部自动转化为小写。使用时须指定大小,如binary(20)定义了最长为20个字符的字符串,每个字符占1byte的存储空间。如果用户字符串超出20字节,将被自动截断。对于字符串内的单引号,可以用转义字符反斜线加单引号来表示, 即 \’。 |
7 | SMALLINT | 2 | 短整型, 范围 [-32767, 32767] |
8 | TINYINT | 1 | 单字节整型,范围 [-127, 127] |
9 | BOOL | 1 | 布尔型,{true, false} |
10 | NCHAR | 自定义 | 用于记录非ASCII字符串,如中文字符。每个nchar字符占用4bytes的存储空间。字符串两端使用单引号引用,字符串内的单引号需用转义字符 \’。nchar使用时须指定字符串大小,类型为nchar(10)的列表示此列的字符串最多存储10个nchar字符,会固定占用40bytes的空间。如用户字符串长度超出声明长度,则将被自动截断。 |
Tips: TDengine对SQL语句中的英文字符不区分大小写,自动转化为小写执行。因此用户大小写敏感的字符串及密码,需要使用单引号将字符串引起来。
数据库管理
- 创建数据库
CREATE DATABASE [IF NOT EXISTS] db_name [KEEP keep]
创建数据库。KEEP
是该数据库的数据保留多长天数,缺省是3650天(10年),数据库会自动删除超过时限的数据。数据库还有更多与存储相关的配置参数,请参见系统管理。
- 使用数据库
USE db_name
使用/切换数据库
- 删除数据库
DROP DATABASE [IF EXISTS] db_name
删除数据库。所包含的全部数据表将被删除,谨慎使用
- 显示系统所有数据库
SHOW DATABASES
表管理
- 创建数据表
CREATE TABLE [IF NOT EXISTS] tb_name (timestamp_field_name TIMESTAMP, field1_name data_type1 [, field2_name data_type2 ...])
说明:1)表的第一个字段必须是TIMESTAMP,并且系统自动将其设为主键;2)表的每行长度不能超过512字节;3)使用数据类型binary或nchar,需指定其最长的字节数,如binary(20),表示20字节。
- 删除数据表
DROP TABLE [IF EXISTS] tb_name
- 显示当前数据库下的所有数据表信息
SHOW TABLES [LIKE tb_name_wildcar]
显示当前数据库下的所有数据表信息。说明:可在like中使用通配符进行名称的匹配。 通配符匹配:1)’%’ (百分号)匹配0到任意个字符;2)’_’下划线匹配一个字符。
- 获取表的结构信息
DESCRIBE tb_name
- 表增加列
ALTER TABLE tb_name ADD COLUMN field_name data_type
- 表删除列
ALTER TABLE tb_name DROP COLUMN field_name
如果表是通过超级表创建,更改表结构的操作只能对超级表进行。同时针对超级表的结构更改对所有通过该结构创建的表生效。对于不是通过超级表创建的表,可以直接修改表结构
Tips:SQL语句中操作的当前数据库(通过use db_name的方式指定)中的表不需要指定表所属数据库。如果要操作非当前数据库中的表,需要采用“库名”.“表名”的方式。例如:demo.tb1,是指数据库demo中的表tb1。
数据写入
- 插入一条记录
INSERT INTO tb_name VALUES (field_value, ...);
向表tb_name中插入一条记录
- 插入一条记录,数据对应到指定的列
INSERT INTO tb_name (field1_name, ...) VALUES(field1_value, ...)
向表tb_name中插入一条记录,数据对应到指定的列。SQL语句中没有出现的列,数据库将自动填充为NULL。主键(时间戳)不能为NULL。
- 插入多条记录
INSERT INTO tb_name VALUES (field1_value1, ...) (field1_value2, ...)...;
向表tb_name中插入多条记录
- 按指定的列插入多条记录
INSERT INTO tb_name (field1_name, ...) VALUES(field1_value1, ...) (field1_value2, ...)
向表tb_name中按指定的列插入多条记录
- 向多个表插入多条记录
INSERT INTO tb1_name VALUES (field1_value1, ...)(field1_value2, ...)...
tb2_name VALUES (field1_value1, ...)(field1_value2, ...)...;
同时向表tb1_name和tb2_name中分别插入多条记录
- 同时向多个表按列插入多条记录
INSERT INTO tb1_name (tb1_field1_name, ...) VALUES (field1_value1, ...) (field1_value1, ...)
tb2_name (tb2_field1_name, ...) VALUES(field1_value1, ...) (field1_value2, ...)
同时向表tb1_name和tb2_name中按列分别插入多条记录
注意:对同一张表,插入的新记录的时间戳必须递增,否则会跳过插入该条记录。如果时间戳为0,系统将自动使用服务器当前时间作为该记录的时间戳。
IMPORT:如果需要将时间戳小于最后一条记录时间的记录写入到数据库中,可使用IMPORT替代INSERT命令,IMPORT的语法与INSERT完全一样。如果同时IMPORT多条记录,需要保证一批记录是按时间戳排序好的。
数据查询
查询语法是:
SELECT {* | expr_list} FROM tb_name
[WHERE where_condition]
[ORDER BY _c0 { DESC | ASC }]
[LIMIT limit [, OFFSET offset]]
[>> export_file]
SELECT function_list FROM tb_name
[WHERE where_condition]
[LIMIT limit [, OFFSET offset]]
[>> export_file]
- 可以使用* 返回所有列,或指定列名。可以对数字列进行四则运算,可以给输出的列取列名
- where语句可以使用各种逻辑判断来过滤数字值,或使用通配符来过滤字符串
- 输出结果缺省按首列时间戳升序排序,但可以指定按降序排序(_c0指首列时间戳)。使用ORDER BY对其他字段进行排序为非法操作。
- 参数LIMIT控制输出条数,OFFSET指定从第几条开始输出。LIMIT/OFFSET对结果集的执行顺序在ORDER BY之后。
- 通过”>>"输出结果可以导出到指定文件
支持的条件过滤操作
Operation | Note | Applicable Data Types |
---|---|---|
> | larger than | timestamp and all numeric types |
< | smaller than | timestamp and all numeric types |
>= | larger than or equal to | timestamp and all numeric types |
<= | smaller than or equal to | timestamp and all numeric types |
= | equal to | all types |
<> | not equal to | all types |
% | match with any char sequences | binary **nchar |
_ | match with a single char | binary **nchar |
- 同时进行多个字段的范围过滤需要使用关键词AND进行连接不同的查询条件,暂不支持OR连接的查询条件。
- 针对某一字段的过滤只支持单一区间的过滤条件。例如:value>20 and value<30是合法的过滤条件, 而Value<20 AND value<>5是非法的过滤条件。
Some Examples
- 对于下面的例子,表tb1用以下语句创建
CREATE TABLE tb1 (ts timestamp, col1 int, col2 float, col3 binary(50))
- 查询tb1刚过去的一个小时的所有记录
SELECT * FROM tb1 WHERE ts >= NOW - 1h
- 查询表tb1从2018-06-01 08:00:00.000 到2018-06-02 08:00:00.000时间范围,并且clo3的字符串是'nny'结尾的记录,结果按照时间戳降序
SELECT * FROM tb1 WHERE ts > '2018-06-01 08:00:00.000' AND ts <= '2018-06-02 08:00:00.000' AND col3 LIKE '%nny' ORDER BY ts DESC
- 查询col1与col2的和,并取名complex, 时间大于2018-06-01 08:00:00.000, col2大于1.2,结果输出仅仅10条记录,从第5条开始
SELECT (col1 + col2) AS 'complex' FROM tb1 WHERE ts > '2018-06-01 08:00:00.000' and col2 > 1.2 LIMIT 10 OFFSET 5
- 查询过去10分钟的记录,col2的值大于3.14,并且将结果输出到文件
/home/testoutpu.csv
.
SELECT COUNT(*) FROM tb1 WHERE ts >= NOW - 10m AND col2 > 3.14 >> /home/testoutpu.csv
SQL函数
聚合函数
TDengine支持针对数据的聚合查询。提供支持的聚合和提取函数如下表:
- COUNT
SELECT COUNT([*|field_name]) FROM tb_name [WHERE clause]
功能说明:统计表/超级表中记录行数或某列的非空值个数。返回结果数据类型:长整型INT64。应用字段:应用全部字段。适用于:表、超级表。说明:1)可以使用星号()来替代具体的字段,使用星号()返回全部记录数量。2)针对同一表的(不包含NULL值)字段查询结果均相同。3)如果统计对象是具体的列,则返回该列中非NULL值的记录数量。
- AVG
SELECT AVG(field_name) FROM tb_name [WHERE clause]
功能说明:统计表/超级表中某列的平均值。返回结果数据类型:双精度浮点数Double。应用字段:不能应用在timestamp、binary、nchar、bool字段。适用于:表、超级表。
- WAVG
SELECT WAVG(field_name) FROM tb_name WHERE clause
功能说明:统计表/超级表中某列在一段时间内的时间加权平均。返回结果数据类型:双精度浮点数Double。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。适用于:表、超级表。
- SUM
SELECT SUM(field_name) FROM tb_name [WHERE clause]
功能说明:统计表/超级表中某列的和。返回结果数据类型:双精度浮点数Double和长整型INT64。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。适用于:表、超级表。
- STDDEV
SELECT STDDEV(field_name) FROM tb_name [WHERE clause]
功能说明:统计表中某列的均方差。返回结果数据类型:双精度浮点数Double。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。适用于:表。
- LEASTSQUARES
SELECT LEASTSQUARES(field_name) FROM tb_name [WHERE clause]
功能说明:统计表中某列的值是主键(时间戳)的拟合直线方程。返回结果数据类型:字符串表达式(斜率, 截距)。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:自变量是时间戳,因变量是该列的值。适用于:表。
选择函数
- MIN
SELECT MIN(field_name) FROM {tb_name | stb_name} [WHERE clause]
功能说明:统计表/超级表中某列的值最小值。返回结果数据类型:同应用的字段。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
- MAX
SELECT MAX(field_name) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列的值最大值。返回结果数据类型:同应用的字段。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。
- FIRST
SELECT FIRST(field_name) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列的值最先写入的非NULL值。返回结果数据类型:同应用的字段。应用字段:所有字段。说明:1)如果要返回各个列的首个(时间戳最小)非NULL值,可以使用FIRST(*);2) 如果结果集中的某列全部为NULL值,则该列的返回结果也是NULL;3) 如果结果集中所有列全部为NULL值,则不返回结果。
- LAST
SELECT LAST(field_name) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列的值最后写入的非NULL值。返回结果数据类型:同应用的字段。应用字段:所有字段。说明:1)如果要返回各个列的最后(时间戳最大)一个非NULL值,可以使用LAST(*);2)如果结果集中的某列全部为NULL值,则该列的返回结果也是NULL;如果结果集中所有列全部为NULL值,则不返回结果。
- TOP
SELECT TOP(field_name, K) FROM { tb_name | stb_name } [WHERE clause]
功能说明: 统计表/超级表中某列的值最大k个非NULL值。若多于k个列值并列最大,则返回时间戳小的。 返回结果数据类型:同应用的字段。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:1)k值取值范围1≤k≤100;2)系统同时返回该记录关联的时间戳列。
- BOTTOM
SELECT BOTTOM(field_name, K) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列的值最小k个非NULL值。若多于k个列值并列最小,则返回时间戳小的。返回结果数据类型:同应用的字段。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:1)k值取值范围1≤k≤100;2)系统同时返回该记录关联的时间戳列。
- PERCENTILE
SELECT PERCENTILE(field_name, P) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表中某列的值百分比分位数。返回结果数据类型: 双精度浮点数Double。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:k值取值范围0≤k≤100,为0的时候等同于MIN,为100的时候等同于MAX。
- LAST_ROW
SELECT LAST_ROW(field_name) FROM { tb_name | stb_name }
功能说明:返回表(超级表)的最后一条记录。返回结果数据类型:同应用的字段。应用字段:所有字段。说明:与last函数不同,last_row不支持时间范围限制,强制返回最后一条记录。
计算函数
- DIFF
SELECT DIFF(field_name) FROM tb_name [WHERE clause]
功能说明:统计表中某列的值与前一行对应值的差。返回结果数据类型: 同应用字段。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:输出结果行数是范围内总行数减一,第一行没有结果输出。
- SPREAD
SELECT SPREAD(field_name) FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列的最大值和最小值之差。返回结果数据类型: 双精度浮点数。应用字段:不能应用在binary、nchar、bool类型字段。说明:可用于TIMESTAMP字段,此时表示记录的时间覆盖范围。
- 四则运算
SELECT field_name [+|-|*|/|%][Value|field_name] FROM { tb_name | stb_name } [WHERE clause]
功能说明:统计表/超级表中某列或多列间的值加、减、乘、除、取余计算结果。返回结果数据类型:双精度浮点数。应用字段:不能应用在timestamp、binary、nchar、bool类型字段。说明:1)支持两列或多列之间进行计算,可使用括号控制计算优先级;2)NULL字段不参与计算,如果参与计算的某行中包含NULL,该行的计算结果为NULL。
时间维度聚合
TDengine支持按时间段进行聚合,可以将表中数据按照时间段进行切割后聚合生成结果,比如温度传感器每秒采集一次数据,但需查询每隔10分钟的温度平均值。这个聚合适合于降维(down sample)操作, 语法如下:
SELECT function_list FROM tb_name
[WHERE where_condition]
INTERVAL (interval)
[FILL ({NONE | VALUE | PREV | NULL | LINEAR})]
SELECT function_list FROM stb_name
[WHERE where_condition]
[GROUP BY tags]
INTERVAL (interval)
[FILL ({ VALUE | PREV | NULL | LINEAR})]
聚合时间段的长度由关键词INTERVAL指定,最短时间间隔10毫秒(10a)。聚合查询中,能够同时执行的聚合和选择函数仅限于单个输出的函数:count、avg、sum 、stddev、leastsquares、percentile、min、max、first、last,不能使用具有多行输出结果的函数(例如:top、bottom、diff以及四则运算)。
WHERE语句可以指定查询的起止时间和其他过滤条件
FILL语句指定某一时间区间数据缺失的情况下的填充模式。填充模式包括以下几种:
- 不进行填充:NONE(默认填充模式)。
- VALUE填充:固定值填充,此时需要指定填充的数值。例如:fill(value, 1.23)。
- NULL填充:使用NULL填充数据。例如:fill(null)。
- PREV填充:使用前一个非NULL值填充数据。例如:fill(prev)。说明:
使用FILL语句的时候可能生成大量的填充输出,务必指定查询的时间区间。针对每次查询,系统可返回不超过1千万条具有插值的结果。
- 在时间维度聚合中,返回的结果中时间序列严格单调递增。
- 如果查询对象是超级表,则聚合函数会作用于该超级表下满足值过滤条件的所有表的数据。如果查询中没有使用group by语句,则返回的结果按照时间序列严格单调递增;如果查询中使用了group by语句分组,则返回结果中每个group内不按照时间序列严格单调递增。示例:温度数据表的建表语句如下:
create table sensor(ts timestamp, degree double, pm25 smallint)
针对传感器采集的数据,以10分钟为一个阶段,计算过去24小时的温度数据的平均值、最大值、温度的中位数、以及随着时间变化的温度走势拟合直线。如果没有计算值,用前一个非NULL值填充。
SELECT AVG(degree),MAX(degree),LEASTSQUARES(degree), PERCENTILE(degree, 50) FROM sensor
WHERE TS>=NOW-1d
INTERVAL(10m)
FILL(PREV);