Cassandra 介紹與安裝

Cassandra 是來自 Apache 的開源分散式資料庫系統，它能在支援線性擴充套件 、 高可用的特性下，不損失原有的讀寫效能。目前廣泛運用於各個大企業的後端服務中，例如 Netflix、Apple 等已部署上千個節點。

Cassandra 的安裝參考：http://cassandra.apache.org/doc/latest/getting_started/installing.html

原理概覽

通過配置規則引擎，EMQ X 可將指定主題下滿足某條件的訊息儲存到 Cassandra 資料庫。其訊息流向簡圖如下：

其中：

• PUB/SUB：為 EMQ X 中的釋出訂閱處理邏輯。
• Rule：IoT 訊息規則，提取、篩選、轉換訊息報文中的資料。
• Action: 為具體執行的動作。例如存資料庫、寫 Kafka 等。

場景介紹

為說明規則引擎在 Cassandra 資料庫下的使用方式，我們以 將發動機轉速超過 8000 的車輛狀態存入 Cassandra 中 為例。

假設車輛上報狀態資訊如下：

• 上報主題：cmd/state/:id，主題中 id 代表車輛客戶端識別碼

• 訊息體：

  {
    "id": "NXP-058659730253-963945118132721-22", // 客戶端識別碼
    "speed": 32.12, // 車輛速度
    "direction": 198.33212, // 行駛方向
    "tachometer": 3211, // 發動機轉速，數值大於 8000 時才需儲存
    "dynamical": 8.93, // 瞬時油耗
    "location": { // GPS 經緯度資料
      "lng": 116.296011,
      "lat": 40.005091
    },
    "ts": 1563268202 // 上報時間
  }
   
  

準備工作

建立資料庫

建立 emqx_rule_engine_output 表空間以儲存訊息資料：

CREATE KEYSPACE emqx_rule_engine_output WITH replication = {'class': 'SimpleStrategy', 'replication_factor': '1'}  AND durable_writes = true;

建立資料表

根據場景需求，建立資料表 use_statistics 結構及欄位註釋如下：

USE emqx_rule_engine_output;

CREATE TABLE use_statistics (
  msgid text,
  client_id text,
  speed double,
  tachometer int,
  ts int,
  PRIMARY KEY (msgid)
);
 

建立成功後確認資料表是否存在：

root@cqlsh:emqx_rule_engine_output> use emqx_rule_engine_output ;
root@cqlsh:emqx_rule_engine_output> desc use_statistics ;

CREATE TABLE emqx_rule_engine_output.use_statistics (
    msgid text PRIMARY KEY,
    client_id text,
    speed double,
    tachometer int,
    ts int
) WITH bloom_filter_fp_chance = 0.01
    AND caching = {'keys': 'ALL', 'rows_per_partition': 'NONE'}
    AND comment = ''
    AND compaction = {'class': 'org.apache.cassandra.db.compaction.SizeTieredCompactionStrategy', 'max_threshold': '32', 'min_threshold': '4'}
    AND compression = {'chunk_length_in_kb': '64', 'class': 'org.apache.cassandra.io.compress.LZ4Compressor'}
    AND crc_check_chance = 1.0
    AND dclocal_read_repair_chance = 0.1
    AND default_time_to_live = 0
    AND gc_grace_seconds = 864000
    AND max_index_interval = 2048
    AND memtable_flush_period_in_ms = 0
    AND min_index_interval = 128
    AND read_repair_chance = 0.0
    AND speculative_retry = '99PERCENTILE';

配置規則引擎

建立資源

開啟 EMQ X Dashboard，進入左側選單的 資源 頁面，點選 新建 按鈕，選擇 Cassandra 資源型別進行建立：

EMQ X 叢集中節點所在網路環境可能互不相同，資源建立成功後點擊列表中 狀態按鈕，檢視各個節點資源連線狀況，如果節點上資源不可用，請檢查配置是否正確、網路連通性，並點選 重連 按鈕手動重連。

建立規則

進入左側選單的 規則 頁面，點選 新建 按鈕，進行規則建立。這裡選擇觸發事件 訊息釋出，在訊息釋出時觸發該規則進行資料處理。

選定觸發事件後，我們可在介面上看到可選欄位及示例 SQL：

篩選所需欄位

規則引擎使用 SQL 語句處理規則條件，該業務中我們需要將 payload 中所有欄位單獨選擇出來，使用 payload.<fieldName> 格式進行選擇，還需要訊息上下文的 topic、qos、id 資訊，當前 SQL 如下：

SELECT
  payload.id as client_id, payload.speed as speed, 
  payload.tachometer as tachometer,
  payload.ts as ts, id
FROM
  "message.publish"
WHERE
  topic =~ 't/#'

確立篩選條件

使用 SQL 語句 WHERE 字句進行條件篩選，該業務中我們需要定義兩個條件：

• 僅處理 cmd/state/:id 主題，使用主題萬用字元 =~ 對 topic 進行篩選：topic =~ 'cmd/state/+'
• 僅處理 tachometer > 8000 的訊息，使用比較符對 tachometer 進行篩選：payload.tachometer > 8000

組合上一步驟得到 SQL 如下：

SELECT
  payload.id as client_id, payload.speed as speed, 
  payload.tachometer as tachometer,
  payload.ts as ts,
  id
FROM
  "message.publish"
WHERE
  topic =~ 'cmd/state/+'
  AND payload.tachometer > 8000

使用 SQL 測試功能進行輸出測試

藉助 SQL 測試功能，我們可以實時檢視當前 SQL 處理後的資料輸出，該功能需要我們指定 payload 等模擬原始資料。

payload 資料如下，注意更改 tachometer 數值大小，以滿足 SQL 條件：

{
  "id": "NXP-058659730253-963945118132721-22",
  "speed": 32.12,
  "direction": 198.33212,
  "tachometer": 9001,
  "dynamical": 8.93,
  "location": {
    "lng": 116.296011,
    "lat": 40.005091
  },
  "ts": 1563268202
}

點選 SQL 測試 切換按鈕，更改 topic 與 payload 為場景中的資訊，點選 測試 按鈕檢視資料輸出：

測試輸出資料為：

{
  "client_id": "NXP-058659730253-963945118132721-22",
  "id": "589A429E9572FB44B0000057C0001",
  "speed": 32.12,
  "tachometer": 9001,
  "ts": 1563268202
}

測試輸出與預期相符，我們可以進行後續步驟。

新增響應動作，儲存訊息到 Cassandra

SQL 條件輸入輸出無誤後，我們繼續新增相應動作，配置寫入 SQL 語句，將篩選結果儲存到 Cassandra。

點選響應動作中的 新增 按鈕，選擇 儲存資料到 Cassandra 動作，選取剛剛選定的資源，我們使用 ${fieldName} 語法填充 SQL 語句，將資料插入到資料庫，最後點選 新建 按鈕完成規則建立。

動作的 SQL 配置如下：

INSERT INTO use_statistics (msgid, client_id, speed, tachometer, ts) VALUES (${id}, ${client_id}, ${speed}, ${tachometer}, ${ts});

測試

預期結果

我們成功建立了一條規則，包含一個處理動作，動作期望效果如下：

1. 裝置向 cmd/state/:id 主題上報訊息，當訊息中的 tachometer 數值超過 8000 時將命中 SQL，規則列表中 已命中 數字增加 1；
2. Cassandra emqx_rule_engine_output 資料庫的 use_statistics 表中將增加一條資料，數值與當前訊息一致。

使用 Dashboard 中的 Websocket 工具測試

切換到 工具 => Websocket 頁面，使用任意資訊客戶端連線到 EMQ X，連線成功後在 訊息 卡片傳送如下資訊：

• 主題：cmd/state/NXP-058659730253-963945118132721-22

• 訊息體：

  {
    "id": "NXP-058659730253-963945118132721-22",
    "speed": 32.12,
    "direction": 198.33212,
    "tachometer": 8081,
    "dynamical": 8.93,
    "location": {
      "lng": 116.296011,
      "lat": 40.005091
    },
    "ts": 1563268202
  }
  

點選 傳送 按鈕，此時訊息體中的 tachometer 數值，滿足上面設定的 tachometer > 8000 的條件，當前規則已命中統計值為加 1。

Cassandra 命令列中檢視資料表記錄得到資料如下：

至此，我們通過規則引擎實現了使用規則引擎儲存訊息到 Cassandra 資料庫的業務開發。

---

更多資訊請訪問我們的官網 emqx.io，或關注我們的開源專案 github.com/emqx/emqx ，詳細文件請訪問

相關推薦