1. 程式人生 > >storm項目架構分析

storm項目架構分析

比較 裏的 輕量級 park bsp style eat span 架構

storm是一條一條數據處理,spark是一批數據處理的,storm才是真正意義的實時數據處理。

技術分享

技術分享

技術分享

技術分享

技術分享

1、fileBeat類似flume用來采集日誌的,fileBeat是輕量級的,對性能消化不大,而flume比較消化性能。

2、fileBeat會實時監控前端機,然後把數據實時寫到Kafka集群裏面。

3、storm對kafka裏的數據進行實時處理,在處理的時候與redis進行交互,因為有些關聯的數據日誌裏是不全的。

4、處理完之後最終把數據寫人mysql裏,再到web圖像進行展現。

技術分享

技術分享

為了方便演示

技術分享

實時處理這條線需要用到的一些組件

技術分享

離線處理需要用到的一些組件

技術分享

storm項目架構分析