开始使用 (Get Started)
EMQ 2.0 消息服务器简介
EMQ (Erlang/Enterprise/Elastic MQTT Broker) 是基于 Erlang/OTP 平台开发的开源物联网 MQTT 消息服务器。Erlang/OTP 是出色的软实时(Soft-Realtime)、低延时(Low-Latency)、分布式(Distributed) 的语言平台。MQTT 是轻量的(Lightweight)、发布订阅模式(PubSub) 的物联网消息协议。
EMQ 项目设计目标是承载移动终端或物联网终端海量 MQTT 连接,并实现在海量物联网设备间快速低延时消息路由:
稳定承载大规模的 MQTT 客户端连接,单服务器节点支持50万到100万连接。
分布式节点集群,快速低延时的消息路由,单集群支持1000万规模的路由。
消息服务器内扩展,支持定制多种认证方式、高效存储消息到后端数据库。
完整物联网协议支持,MQTT、MQTT-SN、CoAP、WebSocket 或私有协议支持。
MQTT 发布订阅模式简述
MQTT 是发布订阅(Publish/Subscribe) 模式的消息协议,与 HTTP 协议请求响应(Request/Response) 模式不同。
MQTT 发布者与订阅者之间通过”主题”(Topic) 进行消息路由,主题(Topic) 格式类似 Unix 文件路径,例如:
sensor/1/temperature
chat/room/subject
presence/user/feng
sensor/1/#
sensor/+/temperature
uber/drivers/joe/inbox
MQTT 主题(Topic) 支持’+’, ‘#’的通配符,’+’通配一个层级,’#’通配多个层级(必须在末尾)。
MQTT 消息发布者(Publisher) 只能向特定’名称主题’(不支持通配符)发布消息,订阅者(Subscriber)通过订阅’过滤主题’(支持通配符)来匹配消息。
注解
初接触MQTT协议的用户,通常会向通配符的’过滤主题’发布广播消息,MQTT 协议不支持这种模式,需从订阅侧设计广播主题(Topic)。 例如 Android 推送,向所有广州用户,推送某类本地消息,客户端获得 GIS 位置后,可订阅 ‘news/city/guangzhou’ 主题。
五分钟下载启动 EMQ
EMQ 2.0 消息服务器每个版本,会发布 Ubuntu、CentOS、FreeBSD、Mac OS X、Windows 平台程序包与 Docker 镜像。
下载地址: https://www.emqx.io/downloads
程序包下载后,可直接解压启动运行,例如 Mac 平台:
unzip emqttd-macosx-v2.0.zip && cd emqttd
# 启动emqttd
./bin/emqttd start
# 检查运行状态
./bin/emqttd_ctl status
# 停止emqttd
./bin/emqttd stop
EMQ 消息服务默认允许匿名认证,启动后 MQTT 客户端可连接1883端口,启动运行日志输出在 log/ 目录。
源码编译EMQ 2.0
git clone https://github.com/emqtt/emq-relx.git
cd emq-relx && make
cd _rel/emqttd && ./bin/emqttd console
Web 管理控制台(Dashboard)
EMQ 消息服务器启动后,会默认加载 Dashboard 插件,启动 Web 管理控制台。用户可通过 Web 控制台,查看服务器运行状态、统计数据、客户端(Client)、会话(Session)、主题(Topic)、订阅(Subscription)、插件(Plugin)。
控制台地址: http://127.0.0.1:18083,默认用户: admin,密码:public
EMQ 2.0 消息服务器功能列表
完整的 MQTT V3.1/V3.1.1 协议规范支持
QoS0, QoS1, QoS2 消息支持
持久会话与离线消息支持
Retained 消息支持
Last Will 消息支持
TCP/SSL 连接支持
MQTT/WebSocket/SSL 支持
HTTP消息发布接口支持
$SYS/# 系统主题支持
客户端在线状态查询与订阅支持
客户端 ID 或 IP 地址认证支持
用户名密码认证支持
LDAP 认证
Redis、MySQL、PostgreSQL、MongoDB、HTTP 认证集成
浏览器 Cookie 认证
基于客户端 ID、IP 地址、用户名的访问控制(ACL)
多服务器节点集群(Cluster)
多服务器节点桥接(Bridge)
mosquitto 桥接支持
Stomp 协议支持
MQTT-SN 协议支持
CoAP 协议支持
Stomp/SockJS 支持
通过 Paho 兼容性测试
2.0新功能: 本地订阅($local/topic)
2.0新功能: 共享订阅($share/<group>/topic)
2.0新功能: sysctl 类似 k = v 格式配置文件
EMQ 2.0 扩展插件列表
EMQ 2.0 支持丰富的扩展插件,包括控制台、扩展模块、多种认证方式、多种接入协议等:
插件模版与演示代码 | |
Retain 消息存储插件 | |
Presence, Subscription 扩展模块插件 | |
Web 管理控制台,默认加载 | |
ClientId、密码认证插件 | |
用户名、密码认证插件 | |
LDAP 认证插件 | |
HTTP 认证插件 | |
MySQL 认证插件 | |
PostgreSQL 认证插件 | |
Redis 认证插件 | |
MongoDB 认证插件 | |
MQTT-SN 协议插件 | |
CoAP 协议插件 | |
Stomp 协议插件 | |
Recon 优化调测插件 | |
热升级插件(开发调试) | |
SockJS 插件(废弃) |
扩展插件通过 ‘bin/emqttd_ctl’ 管理命令行,或 Dashboard 控制台加载启用。例如启用 PostgreSQL 认证插件:
./bin/emqttd_ctl plugins load emq_auth_pgsql
100万线连接测试说明
注解
EMQ 2.0 消息服务器默认设置,允许最大客户端连接是512,因为大部分操作系统 ‘ulimit -n’ 限制为1024。
EMQ 消息服务器1.1.3版本,连接压力测试到130万线,8核心/32G内存的 CentOS 云服务器。
操作系统内核参数、TCP 协议栈参数、Erlang 虚拟机参数、EMQ 最大允许连接数设置简述如下:
Linux 操作系统参数
# 2M - 系统所有进程可打开的文件数量:
sysctl -w fs.file-max=2097152
sysctl -w fs.nr_open=2097152
# 1M - 系统允许当前进程打开的文件数量:
ulimit -n 1048576
TCP 协议栈参数
# backlog - Socket 监听队列长度:
sysctl -w net.core.somaxconn=65536
Erlang 虚拟机参数
emqttd/etc/emq.conf:
## Erlang Process Limit
node.process_limit = 2097152
## Sets the maximum number of simultaneously existing ports for this system
node.max_ports = 1048576
EMQ 最大允许连接数
emqttd/etc/emq.conf ‘listeners’段落:
## Size of acceptor pool
listener.tcp.external.acceptors = 64
## Maximum number of concurrent clients
listener.tcp.external.max_clients = 1000000
测试客户端设置
测试客户端在一个接口上,最多只能创建65000连接:
sysctl -w net.ipv4.ip_local_port_range="500 65535"
echo 1000000 > /proc/sys/fs/nr_open
按应用场景测试
MQTT 是一个设计得非常出色的传输层协议,在移动消息、物联网、车联网、智能硬件甚至能源勘探等领域有着广泛的应用。1个字节报头、2个字节心跳、消息 QoS 支持等设计,非常适合在低带宽、不可靠网络、嵌入式设备上应用。
不同的应用有不同的系统要求,用户使用emqttd消息服务器前,可以按自己的应用场景进行测试,而不是简单的连接压力测试:
Android 消息推送: 推送消息广播测试。
移动即时消息应用: 消息收发确认测试。
智能硬件应用: 消息的往返时延测试。
物联网数据采集: 并发连接与吞吐测试。
开源 MQTT 客户端项目
GitHub: https://github.com/emqtt
Erlang MQTT客户端库 | |
MQTT连接测试工具 | |
Swift语言MQTT客户端库 | |
QT框架MQTT客户端库 |
Eclipse Paho: https://www.eclipse.org/paho/
MQTT.org: https://github.com/mqtt/mqtt.github.io/wiki/libraries