在 Cube 级别重写默认的 kylin.properties

conf/kylin.properties 里有许多的参数，控制/影响着 Kylin 的行为；大多数参数是全局配置的，例如 security 或 job 相关的参数；有一些是 Cube 相关的；这些 Cube 相关的参数可以在任意 Cube 级别进行自定义。对应的 GUI 页面是 Cube 创建的 “重写配置” 步骤所示的页面，如下图所示.

高级设置 - 图1

在 Cube 级别重写默认的 Spark conf 值

Spark 的配置是在 conf/kylin.properties 中管理，前缀为 kylin.engine.spark-conf.。例如，如果您想要使用 job queue “myQueue” 运行 Spark，设置 “kylin.engine.spark-conf.spark.yarn.queue=myQueue” 会让 Spark 在提交应用时获取 “spark.yarn.queue=myQueue”。参数可以在 Cube 级别进行配置，将会覆盖 conf/kylin.properties 中的默认值。

分配更多内存给 Kylin 实例

打开 bin/setenv.sh，这里有两个 KYLIN_JVM_SETTINGS 环境变量的样例设置；默认设置较小 (最大为 4GB)，您可以注释它然后取消下一行的注释来给其分配 16GB:

  1. export KYLIN_JVM_SETTINGS="-Xms1024M -Xmx4096M -Xss1024K -XX:MaxPermSize=128M -verbose:gc -XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:$KYLIN_HOME/logs/kylin.gc.$$ -XX:+UseGCLogFileRotation -XX:NumberOfGCLogFiles=10 -XX:GCLogFileSize=64M"
  2. # export KYLIN_JVM_SETTINGS="-Xms16g -Xmx16g -XX:MaxPermSize=512m -XX:NewSize=3g -XX:MaxNewSize=3g -XX:SurvivorRatio=4 -XX:+CMSClassUnloadingEnabled -XX:+CMSParallelRemarkEnabled -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=70 -XX:+DisableExplicitGC -XX:+HeapDumpOnOutOfMemoryError"

启用多个任务引擎

从 2.0 开始, Kylin 支持多个任务引擎一起运行，相比于默认单任务引擎的配置，多引擎可以保证任务构建的高可用。

使用多任务引擎，你可以在多个 Kylin 节点上配置它的角色为 job 或 all。为了避免它们之间产生竞争，需要启用分布式任务锁，请在 kylin.properties 里配置：

  1. kylin.job.scheduler.default=2
  2. kylin.job.lock=org.apache.kylin.storage.hbase.util.ZookeeperJobLock

并记得将所有任务和查询节点的地址注册到 kylin.server.cluster-servers.

支持 LDAP 或 SSO authentication

查看 How to Enable Security with LDAP and SSO

支持邮件通知

Kylin 可以在 job 完成/失败的时候发送邮件通知；编辑 conf/kylin.properties，设置如下参数使其生效:

  1. mail.enabled=true
  2. mail.host=your-smtp-server
  3. mail.username=your-smtp-account
  4. mail.password=your-smtp-pwd
  5. mail.sender=your-sender-address
  6. kylin.job.admin.dls=adminstrator-address

重启 Kylin 服务器使其生效。设置 mail.enabled 为 false 令其失效。

所有的 jobs 管理员都会收到通知。建模者和分析师需要将邮箱填写在 cube 创建的第一页的 “Notification List” 中，然后即可收到关于该 cube 的通知。

支持 MySQL 作为 Kylin metadata 的存储

Kylin 支持 MySQL 作为 metadata 的存储；为了使该功能生效，您需要执行以下步骤：

  • 安装 MySQL 服务，例如 v5.1.17；
  • 下载并拷贝 MySQL JDBC connector “mysql-connector-java-.jar” 到 $KYLIN_HOME/ext 目录（如没有该目录请自行创建）
  • 在 MySQL 中新建一个专为 Kylin 元数据的数据库，例如 kylin_metadata;
  • 编辑 conf/kylin.properties，配置以下参数:
  1. kylin.metadata.url={your_metadata_tablename}@jdbc,url=jdbc:mysql://localhost:3306/kylin,username={your_username},password={your_password}
  2. kylin.metadata.jdbc.dialect=mysql
  3. kylin.metadata.jdbc.json-always-small-cell=true
  4. kylin.metadata.jdbc.small-cell-meta-size-warning-threshold=100mb
  5. kylin.metadata.jdbc.small-cell-meta-size-error-threshold=1gb
  6. kylin.metadata.jdbc.max-cell-size=1mb

kylin.metadata.url 配置项中可以添加更多JDBC 连接的配置项；其中 url, username，和 password 为必须配置项。其余项若不配置将使用默认配置项：

  1. url: JDBC connection URL
  2. username: JDBC 的用户名
  3. password: JDBC 的密码，如果选择了加密，那这里请写加密后的密码
  4. driverClassName: JDBC 的 driver 类名，默认值为 com.mysql.jdbc.Driver
  5. maxActive: 最大数据库连接数，默认值为 5
  6. maxIdle: 最大等待中的连接数量，默认值为 5
  7. maxWait: 最大等待连接毫秒数，默认值为 1000
  8. removeAbandoned: 是否自动回收超时连接，默认值为 true
  9. removeAbandonedTimeout: 超时时间秒数，默认为 300
  10. passwordEncrypted: 是否对 JDBC 密码进行加密，默认为 false

你可以加密JDBC 连接密码：

  1. cd $KYLIN_HOME/tomcat/webapps/kylin/WEB-INF/lib
  2. java -classpath kylin-server-base-\<version\>.jar:kylin-core-common-\<version\>.jar:spring-beans-4.3.10.RELEASE.jar:spring-core-4.3.10.RELEASE.jar:commons-codec-1.7.jar org.apache.kylin.rest.security.PasswordPlaceholderConfigurer AES <your_password>

*启动 Kylin