JSON函数

在Yandex.Metrica中，用户使用JSON作为访问参数。为了处理这些JSON，实现了一些函数。（尽管在大多数情况下，JSON是预先进行额外处理的，并将结果值放在单独的列中。）所有的这些函数都进行了尽可能的假设。以使函数能够尽快的完成工作。

我们对JSON格式做了如下假设：

  1. 字段名称（函数的参数）必须使常量。
  2. 字段名称必须使用规范的编码。例如：visitParamHas('{"abc":"def"}', 'abc') = 1，但是 visitParamHas('{"\\u0061\\u0062\\u0063":"def"}', 'abc') = 0
  3. 函数可以随意的在多层嵌套结构下查找字段。如果存在多个匹配字段，则返回第一个匹配字段。
  4. JSON除字符串文本外不存在空格字符。

visitParamHas(params, name)

检查是否存在“name”名称的字段

visitParamExtractUInt(params, name)

将名为“name”的字段的值解析成UInt64。如果这是一个字符串字段，函数将尝试从字符串的开头解析一个数字。如果该字段不存在，或无法从它中解析到数字，则返回0。

visitParamExtractInt(params, name)

与visitParamExtractUInt相同，但返回Int64。

visitParamExtractFloat(params, name)

与visitParamExtractUInt相同，但返回Float64。

visitParamExtractBool(params, name)

解析true/false值。其结果是UInt8类型的。

visitParamExtractRaw(params, name)

返回字段的值，包含空格符。

示例:

  1. visitParamExtractRaw('{"abc":"\\n\\u0000"}', 'abc') = '"\\n\\u0000"'
  2. visitParamExtractRaw('{"abc":{"def":[1,2,3]}}', 'abc') = '{"def":[1,2,3]}'

visitParamExtractString(params, name)

使用双引号解析字符串。这个值没有进行转义。如果转义失败，它将返回一个空白字符串。

示例:

  1. visitParamExtractString('{"abc":"\\n\\u0000"}', 'abc') = '\n\0'
  2. visitParamExtractString('{"abc":"\\u263a"}', 'abc') = '☺'
  3. visitParamExtractString('{"abc":"\\u263"}', 'abc') = ''
  4. visitParamExtractString('{"abc":"hello}', 'abc') = ''

目前不支持\uXXXX\uYYYY这些字符编码，这些编码不在基本多文种平面中（它们被转化为CESU-8而不是UTF-8）。

以下函数基于simdjson，专为更复杂的JSON解析要求而设计。但上述假设2仍然适用。

JSONHas(json[, indices_or_keys]…)

如果JSON中存在该值，则返回1。

如果该值不存在，则返回0。

示例：

  1. select JSONHas('{"a": "hello", "b": [-100, 200.0, 300]}', 'b') = 1
  2. select JSONHas('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', 4) = 0

indices_or_keys可以是零个或多个参数的列表，每个参数可以是字符串或整数。

  • String = 按成员名称访问JSON对象成员。
  • 正整数 = 从头开始访问第n个成员/成员名称。
  • 负整数 = 从末尾访问第n个成员/成员名称。

您可以使用整数来访问JSON数组和JSON对象。

例如：

  1. select JSONExtractKey('{"a": "hello", "b": [-100, 200.0, 300]}', 1) = 'a'
  2. select JSONExtractKey('{"a": "hello", "b": [-100, 200.0, 300]}', 2) = 'b'
  3. select JSONExtractKey('{"a": "hello", "b": [-100, 200.0, 300]}', -1) = 'b'
  4. select JSONExtractKey('{"a": "hello", "b": [-100, 200.0, 300]}', -2) = 'a'
  5. select JSONExtractString('{"a": "hello", "b": [-100, 200.0, 300]}', 1) = 'hello'

JSONLength(json[, indices_or_keys]…)

返回JSON数组或JSON对象的长度。

如果该值不存在或类型错误，将返回0。

示例：

  1. select JSONLength('{"a": "hello", "b": [-100, 200.0, 300]}', 'b') = 3
  2. select JSONLength('{"a": "hello", "b": [-100, 200.0, 300]}') = 2

JSONType(json[, indices_or_keys]…)

返回JSON值的类型。

如果该值不存在，将返回Null。

示例：

  1. select JSONType('{"a": "hello", "b": [-100, 200.0, 300]}') = 'Object'
  2. select JSONType('{"a": "hello", "b": [-100, 200.0, 300]}', 'a') = 'String'
  3. select JSONType('{"a": "hello", "b": [-100, 200.0, 300]}', 'b') = 'Array'

JSONExtractUInt(json[, indices_or_keys]…)

JSONExtractInt(json[, indices_or_keys]…)

JSONExtractFloat(json[, indices_or_keys]…)

JSONExtractBool(json[, indices_or_keys]…)

解析JSON并提取值。这些函数类似于visitParam*函数。

如果该值不存在或类型错误，将返回0。

示例:

  1. select JSONExtractInt('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', 1) = -100
  2. select JSONExtractFloat('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', 2) = 200.0
  3. select JSONExtractUInt('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', -1) = 300

JSONExtractString(json[, indices_or_keys]…)

解析JSON并提取字符串。此函数类似于visitParamExtractString函数。

如果该值不存在或类型错误，则返回空字符串。

该值未转义。如果unescaping失败，则返回一个空字符串。

示例:

  1. select JSONExtractString('{"a": "hello", "b": [-100, 200.0, 300]}', 'a') = 'hello'
  2. select JSONExtractString('{"abc":"\\n\\u0000"}', 'abc') = '\n\0'
  3. select JSONExtractString('{"abc":"\\u263a"}', 'abc') = '☺'
  4. select JSONExtractString('{"abc":"\\u263"}', 'abc') = ''
  5. select JSONExtractString('{"abc":"hello}', 'abc') = ''

JSONExtract(json[, indices_or_keys…], return_type)

解析JSON并提取给定ClickHouse数据类型的值。

这是以前的JSONExtract<type>函数的变体。 这意味着JSONExtract(…, ‘String’)返回与JSONExtractString()返回完全相同。JSONExtract(…, ‘Float64’)返回于JSONExtractFloat()`返回完全相同。

示例:

  1. SELECT JSONExtract('{"a": "hello", "b": [-100, 200.0, 300]}', 'Tuple(String, Array(Float64))') = ('hello',[-100,200,300])
  2. SELECT JSONExtract('{"a": "hello", "b": [-100, 200.0, 300]}', 'Tuple(b Array(Float64), a String)') = ([-100,200,300],'hello')
  3. SELECT JSONExtract('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', 'Array(Nullable(Int8))') = [-100, NULL, NULL]
  4. SELECT JSONExtract('{"a": "hello", "b": [-100, 200.0, 300]}', 'b', 4, 'Nullable(Int64)') = NULL
  5. SELECT JSONExtract('{"passed": true}', 'passed', 'UInt8') = 1
  6. SELECT JSONExtract('{"day": "Thursday"}', 'day', 'Enum8(\'Sunday\' = 0, \'Monday\' = 1, \'Tuesday\' = 2, \'Wednesday\' = 3, \'Thursday\' = 4, \'Friday\' = 5, \'Saturday\' = 6)') = 'Thursday'
  7. SELECT JSONExtract('{"day": 5}', 'day', 'Enum8(\'Sunday\' = 0, \'Monday\' = 1, \'Tuesday\' = 2, \'Wednesday\' = 3, \'Thursday\' = 4, \'Friday\' = 5, \'Saturday\' = 6)') = 'Friday'

JSONExtractKeysAndValues(json[, indices_or_keys…], value_type)

从JSON中解析键值对，其中值是给定的ClickHouse数据类型。

示例：

  1. SELECT JSONExtractKeysAndValues('{"x": {"a": 5, "b": 7, "c": 11}}', 'x', 'Int8') = [('a',5),('b',7),('c',11)];

JSONExtractRaw(json[, indices_or_keys]…)

返回JSON的部分。

如果部件不存在或类型错误，将返回空字符串。

示例:

  1. select JSONExtractRaw('{"a": "hello", "b": [-100, 200.0, 300]}', 'b') = '[-100, 200.0, 300]'

来源文章