EMQ实现物联网数据采集下沉到kafka
软件要求：
需要使用EMQ的企业版
场景需求：
物联网平台需要接入智能变压器采集装置采集的数据，基于MQTT协议将数据传输到服务器的MQ(EMQ)，EMQ将数据转发到kafka集群，sparkStreaming对接kafka实时分析处理。
准备工作：
- 上传数据准备：
{
"id": "NXP-058659730253-963945118132721-22", // 客户端识别码
"speed": 32.12, // 车辆速度
"direction": 198.33212, // 行驶方向
"tachometer": 3211, // 发动机转速，数值大于 8000 时才需存储
"dynamical": 8.93, // 瞬时油耗
"location": {
// GPS 经纬度数据
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202 // 上报时间
}
- 创建kafka的topic
./kafka-topics.sh --create --partitions 3 --replication-factor 2 --topic emqtopic --zookeeper node01:2181,node02:2181,node03:2181
配置说明：
-
创建资源
打开 EMQ X Dashboard，进入左侧菜单的 资源 页面，点击 新建 按钮，键入 Kafka 服务器信息进行资源创建。
EMQ X 集群中节点所在网络环境可能互不相同，资源创建成功后点击列表中 状态按钮，查看各个节点资源连接状况，如果节点上资源不可用，请检查配置是否正确、网络连通性，并点击 重连 按钮手动重连。
-
创建规则
进入左侧菜单的 规则 页面，点击 新建 按钮，进行规则创建。这里选择触发事件 消息发布，在消息发布时触发该规则进行数据处理。
选定触发事件后，我们可在界面上看到可选字段及示例 SQL：
-
筛选所需字段
规则引擎使用 SQL 语句进行 处理/整型 终端消息或连接事件等。该业务中我们只需将 payload 中关键字段筛选出来进行使用。为此可使用 payload. 格式来选择 payload 中的字段。此外，除 payload 中的内容外，还需要保存消息的 id 信息。则 SQL 可配置为如下格式：
SELECT
payload.id as client_id, payload.speed as speed,
payload.tachometer as tachometer,
payload.ts as ts, id
FROM
"message.publish"
WHERE
topic =~ 't/#'
- 使用 SQL 测试功能进行输出测试
借助 SQL 测试功能，我们可以实时查看当前 SQL 处理后的数据输出，该功能需要我们指定 payload 等模拟原始数据。
payload 数据如下，注意更改 tachometer 数值大小，以满足 SQL 条件：
{
"id": "NXP-058659730253-963945118132721-22",
"speed": 32.12,
"direction": 198.33212,
"tachometer": 9001,
"dynamical": 8.93,
"location": {
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202
}
点击 SQL 测试 切换按钮，更改 topic 与 payload 为场景中的信息，点击 测试 按钮查看数据输出：
测试输出数据为：
{
"client_id": "NXP-058659730253-963945118132721-22",
"id": "589A429E9572FB44B0000057C0001",
"speed": 32.12,
"tachometer": 9001,
"ts": 1563268202
}
- 添加响应动作，桥接消息到 Kafka
SQL 条件输入输出无误后，我们继续添加相应动作，配置写入 SQL 语句，将筛选结果桥接到 Kafka。
点击响应动作中的 添加 按钮，选择 桥接数据到Kafka 动作，选取刚刚选定的资源，Kafka 主题填写上文创建的emqtopic
测试
使用 Dashboard 中的 Websocket 工具测试
切换到 工具 --> Websocket 页面，使用任意信息客户端连接到 EMQ X，连接成功后在 消息 卡片发送如下信息：
{
"id": "NXP-058659730253-963945118132721-22",
"speed": 32.12,
"direction": 198.33212,
"tachometer": 8081,
"dynamical": 8.93,
"location": {
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202
}
点击 发送 按钮，然后通过 Kafka 命令去查看消息是否生产成功:
至此，我们通过规则引擎实现了使用规则引擎桥接消息到 Kafka 的业务开发。