BigQuery Catalog 通过 Trino Connector 兼容框架,使用 BigQuery Connector 来访问 BigQuery 表。

该功能自 Doris 3.0.1 版本开始支持。

BigQuery Catalog - 图1备注

这是一个实验功能。

使用须知

  1. 在使用 Trino Catalog 访问 BigQuery 表之前,必须先编译 Trino 的 BigQuery 插件,并将其放在指定目录下,具体操作步骤参考下文
  2. 当前 Doris 适配 Trino 435 版本的插件,如果使用低于或高于 435 版本的 Trino 插件,可能会出现兼容性问题。

编译 BigQuery Connector 插件

需要 JDK 17 版本。

  1. $ git clone https://github.com/apache/Doris-thirdparty.git
  2. $ cd Doris-thirdparty
  3. $ git checkout trino-435
  4. $ cd plugin/trino-bigquery
  5. $ mvn clean install -DskipTest

完成编译后,会在 trino/plugin/trino-bigquery/target/ 下得到 trino-bigquery-435/ 目录。

也可以直接下载我们预编译的 trino-bigquery-435-20240724.tar.gz 并解压。

部署 BigQuery Connector

trino-bigquery-435/ 目录放到所有 FE 和 BE 部署路径的 connectors/ 目录下。(如果没有,可以手动创建)。

  1. ├── bin
  2. ├── conf
  3. ├── connectors
  4. ├── trino-bigquery-435
  5. ...

部署完成后,建议重启 FE、BE 节点以确保 Connector 可以被正确加载。

准备 Google Cloud ADC 认证

  1. 安装 gcloud CLI:https://cloud.google.com/sdk/docs/install
  2. 执行 gcloud init --console-only --skip-diagnostics
  3. 执行 gcloud auth login
  4. 执行 gcloud auth application-default login

这一步是生成 ADC 认证文件,生成后的 json 默认放在 ~/.config/gcloud/application_default_credentials.json

创建 BigQuery Catalog

  1. create catalog bigquery_catalog properties (
  2. "type"="trino-connector",
  3. "trino.connector.name"="bigquery",
  4. "trino.bigquery.project-id"="your-bigquery-project-id",
  5. "trino.bigquery.credentials-file"="/path/to/application_default_credentials.json",
  6. );

其中:以 trino. 为前缀的属性都是 trino 原生的属性,更多有关 BigQuery 的属性可以参考 Trino 文档

列类型映射

BigQueryTrinoDoris
BOOLEANBOOLEANBOOLEAN
INT64BIGINTBIGINT
FLOAT64DOUBLEDOUBLE
NUMERICDECIMAL(p,s)DECIMAL(p,s)
BIGNUMERICDECIMAL(P,S)DECIMAL(p,s)
STRINGVARCHARSTRING
BYTESVARBINARYSTRING
DATEDATEDATE
DATETIMETIMESTAMP(6)DATETIME
TIMETIME(6)STRING
TIMESTAMPTIMESTAMP(6) WITH TIME ZONEDATETIME
GEOGRAPHYVARCHARSTRING
ARRAYARRAYARRAY
MAPMAPMAP
RECORDROWSTRUCT