离线消息保存到 ClickHouse

搭建 ClickHouse 数据库,并设置用户名密码为 default/public,以 CentOS 为例:

  1. ## 安装依赖
  2. sudo yum install -y epel-release
  3. ## 下载并运行packagecloud.io提供的安装shell脚本
  4. curl -s https://packagecloud.io/install/repositories/altinity/clickhouse/script.rpm.sh | sudo bash
  5. ## 安装ClickHouse服务器和客户端
  6. sudo yum install -y clickhouse-server clickhouse-client
  7. ## 启动ClickHouse服务器
  8. clickhouse-server
  9. ## 启动ClickHouse客户端程序
  10. clickhouse-client

创建 “mqtt” 数据库:

  1. create database mqtt;

创建 mqtt_msg 表:

  1. use mqtt;
  2. create table mqtt_msg (
  3. msgid String,
  4. sender String,
  5. topic String,
  6. qos Nullable(Int8) DEFAULT 0,
  7. retain Nullable(Int8) DEFAULT 0,
  8. payload String,
  9. arrived Int64) engine = MergeTree() ORDER BY msgid;

提示

消息表结构不能修改,请使用上面SQL语句创建

创建规则:

打开 EMQX Dashboard离线消息保存到 ClickHouse - 图1 (opens new window),选择左侧的“规则”选项卡。

然后填写规则 SQL:

FROM说明

t/#: 发布者发布消息触发保存离线消息到 ClickHouse

$events/session_subscribed: 订阅者订阅主题触发获取离线消息

$events/message_acked: 订阅者回复消息ACK后触发删除已经被接收的离线消息

  1. SELECT * FROM "t/#", "$events/session_subscribed", "$events/message_acked" WHERE topic =~ 't/#'

离线消息保存到 ClickHouse - 图2

关联动作:

在“响应动作”界面选择“添加动作”,然后在“动作”下拉框里选择“离线消息保存到 ClickHouse ”。

离线消息保存到 ClickHouse - 图3

现在资源下拉框为空,可以点击右上角的 “新建” 来创建一个 ClickHouse 资源:

离线消息保存到 ClickHouse - 图4

弹出一个“创建资源”对话框

离线消息保存到 ClickHouse - 图5

填写资源配置:

填写真实的 ClickHouse 服务器地址,其他配置填写相应的值,然后点击 “测试连接” 按钮,确保连接测试成功。

最后点击 “确定” 按钮。

离线消息保存到 ClickHouse - 图6

返回响应动作界面,点击 “确认”。

离线消息保存到 ClickHouse - 图7

返回规则创建界面,点击 “创建”。

离线消息保存到 ClickHouse - 图8

规则已经创建完成,通过 Dashboard 的 WebSocket 客户端发一条数据**(发布消息的QoS必须大于0)**:

离线消息保存到 ClickHouse - 图9

消息发送后,通过 cqlsh 查看到消息被保存到 ClickHouse 里面:

离线消息保存到 ClickHouse - 图10

使用另外一个客户端,订阅主题 “t/1” (订阅主题的QoS必须大于0,否则消息会被重复接收):

离线消息保存到 ClickHouse - 图11

订阅后马上接收到了保存到 ClickHouse 里面的离线消息:

离线消息保存到 ClickHouse - 图12

离线消息被接收后会在 ClickHouse 中删除:

离线消息保存到 ClickHouse - 图13