配置文件简介

EMQX 支持通过修改配置文件或使用环境变量来设置 EMQX,本章节将介绍 EMQX 配置文件基本信息,配置项以及详细的介绍请参考 配置手册

配置文件介绍

EMQX 主配置文件为 emqx.conf,根据安装方式其所在位置有所不同:

安装方式配置文件所在位置
DEB 或 RPM 包安装/etc/emqx/emqx.conf
Docker 容器/opt/emqx/etc/emqx.conf
解压缩包安装./etc/emqx.conf

主配置文件包含了大部分常用的配置项,如果您没有在配置文件中明确指定某个配置项,EMQX 将使用默认配置。 所有可用的配置项及其说明可参考主配置同路径下的 emqx.conf.example 文件。

从 5.1 开始, 当集群配置发生变化时,EMQX 在写入 cluster.hocon 文件前会对老的文件进行备份。 备份文件名称会带上节点本地的一个时间戳作为后缀。 系统最多保留10个历史备份文件。

配置重写

主配置文件隐式地嵌套了一个重写配置文件:

cluster.hocon

包含集群共有的配置项,通过 REST API、CLI 与 Dashboard 提交的配置将写入其中,并覆盖 emqx.conf 中的同名配置项。

当 EMQX 运行在集群中时,重启或后启动的节点会从集群中其他节点复制该文件内容到本地,因此通常不建议手动管理。

重写配置位于 $data/configs/ 目录中,根据安装方式 data 目录默认所在位置有所不同:

安装方式data 目录所在位置
DEB 或 RPM 包安装/var/lib/emqx
Docker 容器/opt/emqx/data
解压缩包安装./data

提示

您也可以通过 node.data_dir 配置或 EMQX_NODE__DATA_DIR 环境变量指定 data 目录位置。 但是在集群环境下,所有节点的 data_dir 必须保持一致。

通常情况下大多数配置项都在主配置文件中定义,需要通过 REST API、CLI 与 Dashboard 配置的内容(热配置)将写入到 cluster.hocon 中,一经配置将覆盖主配置文件的内容。覆盖规则参考 [配置覆盖规则(#配置覆盖规则)。

提示

有些配置项是不能被覆盖的(例如 node.name)。

HOCON 配置格式

从 5.0 版本开始,EMQX 采用 HOCON配置文件参数 - 图1 (opens new window) 作为配置文件格式。

HOCON(Human-Optimized Config Object Notation)是一种可扩展的配置语言,它支持类似 JSON 的语法,易于阅读和编写。同时 HOCON 具有继承、合并、引用等功能,使得配置文件更加灵活可控。

基本语法:

HOCON 值可以被记为类似 JSON 的对象,例如:

  1. node {
  2. name = "emqx@127.0.0.1"
  3. cookie = "mysecret"
  4. cluster_call {
  5. retry_interval = 1m
  6. }
  7. }

也可以使用扁平化的方式:

  1. node.name = "127.0.0.1"
  2. node.cookie = "mysecret"
  3. node.cluster_call.retry_interval = "1m"

这种类似 cuttlefish 的扁平格式一定程度向后兼容了之前版本的 EMQX,但使用时又有所不同:

HOCON 建议字符串两端加上引号,没有特殊字符的字符串也可以不加引号如 foofoo_bar,而 cuttlefish 把 = 右边的所有字符都视为值。

更多有关 HOCON 的语法请参考 HOCON 文档配置文件参数 - 图2 (opens new window)

环境变量

除了配置文件外,EMQX 还可以通过环境变量设置配置。

比如 EMQX_NODE__NAME=emqx2@127.0.0.1 环境变量将覆盖以下配置:

  1. # emqx.conf
  2. node {
  3. name = "emqx@127.0.0.1"
  4. }

配置项与环境变量之前可以通过以下规则转换:

  1. 由于配置文件中的 . 分隔符不能使用于环境变量,因此 EMQX 选用双下划线 __ 作为配置分割;
  2. 为了与其他的环境变量有所区分,EMQX 还增加了一个前缀 EMQX_ 来用作环境变量命名空间;
  3. 环境变量的值是按 HOCON 值解析的,这也使得环境变量可以用来传递复杂数据类型的值,但要注意特殊字符如:= 需要用双引号 " 包裹。

转换示例:

  1. # 环境变量
  2. ## localhost:1883 会被解析成一个结构体 `{"localhost": 1883}`,因此需要使用双引号包裹
  3. export EMQX_LISTENERS__SSL__DEFAULT__BIND='"127.0.0.1:8883"'
  4. ## 通过字符直接传递 HOCON 数组
  5. export EMQX_LISTENERS__SSL__DEFAULT__SSL_OPTIONS__CIPHERS='["TLS_AES_256_GCM_SHA384"]'
  6. # 配置文件
  7. listeners.ssl.default {
  8. ...
  9. bind = "127.0.0.1:8883"
  10. ssl_options {
  11. ciphers = ["TLS_AES_256_GCM_SHA384"]
  12. }
  13. }
  14. }

提示

未定义的根路径会被 EMQX 忽略,例如 EMQX_UNKNOWN_ROOT__FOOBAR 这个环境变量会被 EMQX 忽略,因为 UNKNOWN_ROOT 不是预先定义好的根路径。

已知的根路径设置了未知的字段名时,将在启动时输出 warning 日志,例如将 enable 错误的配置为 enabled 时将输出:

  1. [warning] unknown_env_vars: ["EMQX_AUTHENTICATION__ENABLED"]

配置覆盖规则

HOCON 的值是分层覆盖的,最简单的规则如下:

  • 在同一个文件中,后(在文件底部)定义的值,覆盖前(在文件顶部)到值。
  • 当按层级覆盖时,高层级的值覆盖低层级的值。 EMQX 配置按以下顺序进行优先级排序:环境变量 > emqx.conf > API(cluster.hocon)。

以“EMQX_”开头的环境变量设置具有最高优先级,并将覆盖 etc/emqx.conf 文件中的任何设置。

通过 Dashboard、HTTP API 或 CLI 进行的更改将在运行时写入 data/configs/cluster.hocon 文件并立即生效。

但是,如果相同的配置项在 etc/emqx.conf 文件中设置不同值,则在重新启动后,最终生效的是 etc/emqx.conf 中的配置。 为避免混淆,强烈建议不要在 cluster.hoconemqx.conf 中具有相同的配置键。

提示

  1. 如果您正在使用较旧的 EMQX 版本,特别是 e5.0.2/v5.0.22 或更早的版本(即 cluster-override.conf 文件仍存在于 EMQX 的数据目录中),
  2. 那么配置设置的优先顺序如下:emqx.conf < ENV < HTTP API(cluster-override.conf)
  3. 如果您正在从 e5.0.2/v5.0.22 或更早的版本升级到最新版本的 EMQX,配置的优先级将与以前的版本保持一致,以保持兼容性。
  4. cluster-override.conf 机制计划在 5.1 版本中删除。

合并覆盖

在如下配置中,最后一行的 debug 值会覆盖原先 level 字段的 error 值,但是 enable 字段保持不变:

  1. log {
  2. console_handler{
  3. enable = true
  4. level = error
  5. }
  6. }
  7. ## 将 console 日志打印级别设置为 debug,其他配置保持不变
  8. log.console_handler.level = debug

报文大小限制最先被设置成 1MB,后被覆写为 10MB:

  1. zone {
  2. zone1 {
  3. mqtt.max_packet_size = 1M
  4. }
  5. }
  6. zone.zone1.mqtt.max_packet_size = 10M

列表元素覆盖

EMQX 配置中的数组有两种表达方式:

  • 列表格式,例如: [1, 2, 3]
  • 带下标的 Map 格式,例如: {"1"=1, "2"=2, "3"=3}

以下 3 种格式是等价的:

  1. authentication.1 = {...}
  2. authentication = {"1": {...}}
  3. authentication = [{...}]

基于这个特性,我们就可以轻松覆写数组某个元素的值,例如:

  1. authentication = [
  2. {
  3. enable = true,
  4. backend = "built_in_database",
  5. mechanism = "password_based"
  6. }
  7. ]
  8. # 可以用下面的方式将第一个元素的 `enable` 字段覆写
  9. authentication.1.enable = false

提示

列表格式是的数组将全量覆写而不是合并覆盖原有值,例如:

  1. authentication = [
  2. {
  3. enable = true
  4. backend = "built_in_database"
  5. mechanism="password_based"
  6. }
  7. ]
  8. ## 下面这种方式会导致数组第一个元素的除了 `enable` 以外的其他字段全部丢失。
  9. authentication = [{ enable = true }]

Schema 手册

为了确保配置正确,EMQX 引入了 schema。schema 定义了数据类型,以及数据字段的名称和元数据,用于配置值的类型检查等。

基本数据类型

配置支持的基本数据类型如下:

  • 原子:atom()
  • 布尔:boolean()
  • 字符串:string()
  • 整形:integer()
  • 浮点数:float()
  • 数值:number()
  • 二进制编码的字符串 binary()string() 的另一种格式。
  • 时间间隔 emqx_schema:duration()integer() 的另一种格式。

复杂数据类型

EMQX 配置文件有 4 种复杂数据结构类型:

  1. Struct:结构体都是有类型名称的,结构体中可以有任意多个字段。 结构体和字段的名称由不带特殊字符的全小些字母组成,名称中可以带数字,但不得以数字开头,多个单词可用下划线分隔。
  2. Map: Map 与 Struct(结构体)类似,但是内部的字段不是预先定义好的。
  3. Union: 联合 MemberType1 | MemberType2 | ...,可以理解为:“不是这个,就是那个”
  4. Array: 数组 [ElementType]

提示

如果 Map 的字段名称是纯数字,它会被解析成一个数组。

例如:

  1. myarray.1 = 74
  2. myarray.2 = 75

会被解析成 myarray = [74, 75],这个用法在重载数组元素的值时候非常有用。

配置路径

如果我们把 EMQX 的配置值理解成一个类似目录树的结构,如果文件系统中使用斜杠或反斜杠进行层级分割,则 EMQX 的层级分割符是 .

下面有几个例子:

  1. node.name = "emqx.127.0.0.1"
  2. zone.zone1.max_packet_size = "10M"
  3. authentication.1.enable = true