OpenLooKeng 引擎

本文主要介绍openLooKeng(>=1.1.1版本支持)引擎的配置、部署和使用。

1 环境要求

如果您希望部署使用openLooKeng引擎，您需要准备一套可用的openLooKeng环境。

2 配置和部署

2.1 版本的选择和编译

注意: 编译openLooKeng引擎之前需要进行linkis项目全量编译
目前openLooKeng引擎，客户端默认使用的版本为 io.hetu.core:presto-client:1.5.0

发布的安装部署包中默认不包含此引擎插件， 你可以按此指引部署安装 https://linkis.apache.org/zh-CN/blog/2022/04/15/how-to-download-engineconn-plugin ，或者按以下流程，手动编译部署

单独编译openLooKeng

  1. ${linkis_code_dir}/linkis-enginepconn-pugins/engineconn-plugins/openlookeng/
  2. mvn clean install

2.2 物料的部署和加载

将 2.1 步编译出来的引擎包,位于

  1. ${linkis_code_dir}/linkis-engineconn-plugins/openlookeng/target/out/openlookeng

上传到服务器的引擎目录下

  1. ${LINKIS_HOME}/lib/linkis-engineplugins

并重启linkis-engineplugin（或则通过引擎接口进行刷新）

  1. cd ${LINKIS_HOME}/sbin
  2. sh linkis-daemon.sh restart cg-engineplugin

2.3 引擎的标签

Linkis1.X是通过标签来进行的，所以需要在我们数据库中插入数据，插入的方式如下文所示。

EngineConnPlugin引擎插件安装

3 引擎的使用

准备操作

如果默认参数不满足时，可以通过管理台的参数配置页面，进行一些基础参数配置 openlookeng的服务连接信息，默认使用地址是http://127.0.0.1:8080

OpenLooKeng 引擎 - 图1

图3-1 openlookeng配置信息

您也可以在提交任务接口，通过参数params.configuration.runtime进行配置

  1. http 请求参数示例 
  2. {
  3.     "executionContent": {"code": "show databases;", "runType":  "sql"},
  4.     "params": {
  5.                     "variable": {},
  6.                     "configuration": {
  7.                             "runtime": {
  8.                                 "linkis.openlookeng.url":"http://127.0.0.1:9090"
  9.                                 }
  10.                             }
  11.                     },
  12.     "source":  {"scriptPath": "file:///mnt/bdp/hadoop/1.sql"},
  13.     "labels": {
  14.         "engineType": "openlookeng-1.5.0",
  15.         "userCreator": "hadoop-IDE"
  16.     }
  17. }

3.1 通过Linkis SDK进行使用

Linkis提供了Java和Scala 的SDK向Linkis服务端提交任务. 具体可以参考 JAVA SDK Manual. 对于openlookeng任务您只需要修改Demo中的EngineConnType和CodeType参数即可:

  1.         Map<String, Object> labels = new HashMap<String, Object>();
  2.         labels.put(LabelKeyConstant.ENGINE_TYPE_KEY, "openlookeng-1.5.0"); // required engineType Label
  3.         labels.put(LabelKeyConstant.USER_CREATOR_TYPE_KEY, "hadoop-IDE");// required execute user and creator
  4.         labels.put(LabelKeyConstant.CODE_TYPE_KEY, "sql"); // required codeType

3.2 通过Linkis-cli进行任务提交

Linkis 1.0后提供了cli的方式提交任务，我们只需要指定对应的EngineConn和CodeType标签类型即可，openlookeng的使用如下：

  1. sh ./bin/linkis-cli   -engineType openlookeng-1.5.0 -codeType sql -code 'show databases;' -submitUser hadoop -proxyUser hadoop

具体使用可以参考： Linkis CLI Manual.