Elasticsearch常用最全最常用工具清單
1、題記
工欲善其事必先利其器,ELK Stack的學習和實戰更是如此,特將工作中用到的“高效”工具分享給大家。
希望能借助“工具”提高開發、運維效率!
2、工具分類概覽
2.1 基礎類工具
1、Head外掛
1)功能概述:
2、Kibana工具
除了支援各種資料的視覺化之外,最重要的是:支援Dev Tool進行RESTFUL API增刪改查操作。 ——比Postman工具和curl都方便很多。
3、ElasticHD工具
強勢功能——支援sql轉DSL,不要完全依賴,可以借鑑用。
2.2 叢集監控工具
4、cerebro工具
5、Elaticsearch-HQ工具
2.3 叢集遷移工具
6、Elasticsearch-migration工具
支援多個版本間的資料遷移,使用scroll+bulk
7、Elasticsearch-Exporter
將ES中的資料向其他匯出的簡單指令碼實現。
8、Elasticsearch-dump
移動和儲存索引的工具。
2.4 叢集資料處理工具
9、elasticsearch-curator
elasticsearch官方工具,能實現諸如資料只保留前七天的資料的功能。
另外 ES6.3(還未上線) 有一個 Index LifeCycle Management 可以很方便的管理索引的儲存期限。
2.5 安全類工具
11、search-guard 第三方工具
Search Guard 是 Elasticsearch 的安全外掛。它為後端系統(如LDAP或Kerberos)提供身份驗證和授權,並向Elasticsearch新增稽核日誌記錄和文件/欄位級安全性。
Search Guard所有基本安全功能(非全部)都是免費的,並且內建在Search Guard中。 Search Guard支援OpenSSL並與Kibana和logstash配合使用。
2.6 視覺化類工具
12、grafana工具
grafana工具與kibana視覺化的區別:
- 如果你的業務線資料較少且單一,可以用kibana做出很棒很直觀的資料分析。
2.7 自動化運維工具
elasticsearch免費的自動化運維工具
13、Ansible
14、Puppet
15、Cookbook
以上三個工具來自medcl大神社群問題的回覆,我沒有實踐過三個工具。
2.8 類SQl查詢工具
16、Elasticsearch-sql 工具
sql 一款國人NLP-china團隊寫的通過類似sql語法進行查詢的工具
ES6.3+以後的新版本會整合sql。
2.9 增強類工具
17、Conveyor 工具
kibna外掛——圖形化資料匯入工具
18、kibana_markdown_doc_view 工具
Kibana文件檢視強化外掛,以markdown格式展示文件
19、 indices_view工具
indices_view 是新蛋網開源的一個 kibana APP 外掛專案,可以安裝在 kibana 中,快速、高效、便捷的檢視elasticsearch 中 indices 相關資訊
20、dremio 工具
- 支援sql轉DSL, - 支援elasticsearch、mysql、oracle、mongo、csv等多種格式視覺化處理; - 支援ES多表的Join操作
2.10 報警類
1、elastalert ElastAlert 是 Yelp 公司開源的一套用 Python2.6 寫的報警框架。屬於後來 Elastic.co 公司出品的 Watcher 同類產品。官網地址見:http://elastalert.readthedocs.org/。
使用舉例:當我們把ELK搭建好、病順利的收集到日誌,但是日誌裡發生了什麼事,我們並不能第一時間知道日誌裡到底發生了什麼,運維需要第一時間知道日誌發生了什麼事,所以就有了ElastAlert的郵件報警。
2、sentinl SENTINL 6擴充套件了Siren Investigate和Kibana的警報和報告功能,使用標準查詢,可程式設計驗證器和各種可配置操作來監控,通知和報告資料系列更改 - 將其視為一個獨立的“Watcher” “報告”功能(支援PNG / PDF快照)。
SENTINL還旨在簡化在Siren Investigate / Kibana 6.x中通過其本地應用程式介面建立和管理警報和報告的過程,或通過在Kibana 6.x +中使用本地監視工具來建立和管理警報和報告的過程。
3、小結
基礎必備知識:
01
Elasticsearch基礎認知
02
Elasticsearch進階認知
03
Elasticsearch實踐認知