5分鐘瞭解Prometheus
Prometheus(譯:普羅米修斯)用領先的開源監控解決方案為你的指標和警報提供動力(賦能)。
1. 概述
1.1. Prometheus是什麼?
Prometheus是一個開源的系統監控和警報工具包。自2012年啟動以來,許多公司和組織都採用了Prometheus,該專案擁有非常活躍的開發人員和使用者社群。它現在是一個獨立的開源專案,獨立於任何公司進行維護。Prometheus於2016年加入雲原生計算基金會,成為繼Kubernetes之後的第二個託管專案。
1.1.1. Prometheus的主要特性:
- 一個多維資料模型,包含由指標名稱和鍵/值對(Tag)標識的時間序列資料
- PromQL是一種靈活的查詢語音,用於查詢並利用這些維度資料
- 不依賴分散式儲存,單個伺服器節點是自治的
- 時間序列收集是通過HTTP上的pull模型進行的(支援Pull)
- 推送時間序列是通過一箇中間閘道器來支援的(也支援Push)
- 目標是通過服務發現或靜態配置發現的
- 多種模式的圖形和儀表盤支援
總結一下,就是多維資料模型、PromQL查詢語言、節點自治、HTTP主動拉取或者閘道器主動推送的方式獲取時間序列資料、自動發現目標、多種儀表盤支援
1.1.2. 元件:
- Prometheus server,它負責抓取和儲存時間序列資料,是最主要的元件
- client libraries,用於檢測應用程式程式碼的客戶端庫
- push gateway,用於支援短期的jobs
- exporters,用於支援HAProxy等第三方
- alertmanager,用於處理告警
- 各種支援工具
大多數Prometheus元件都是用Go編寫的,這使得它們易於作為靜態二進位制檔案構建和部署
1.1.3. 架構:
這張圖展示了架構及其生態系統的一些組成部分:
Prometheus從工具化的作業中獲取指標,要麼直接獲取,要麼通過中介推送閘道器獲取短期作業。它在本地儲存所有抓取的樣本,並對這些資料應用規則將這些資料進行聚合,並記錄新的時間序列,或者生成警報。可以用Grafana或其他API來視覺化收集的資料。
1.2. 什麼時候用它合適
Prometheus可以很好地記錄任何純數字時間序列。它既適合以機器為中心的監視,也適合高度動態的面向服務的體系結構的監視。在微服務的世界中,它對多維資料收集和查詢的支援是一個特別的優勢。
Prometheus是為可靠性而設計的,在你的服務宕機的時候,你可以快速診斷問題。每臺Prometheus伺服器都是獨立的,不依賴於網路儲存或其他遠端服務。
1.3. 什麼時候用它不合適
Prometheus的值的可靠性。你總是可以檢視有關係統的統計資訊,即使在出現故障的情況下也是如此。如果你需要100%的準確性,例如按請求計費,Prometheus不是一個好的選擇,因為收集的資料可能不夠詳細和完整。在這種情況下,最好使用其他系統來收集和分析用於計費的資料,並使用Prometheus來完成剩下的監視工作。
1.4. Prometheus VS InfluxDB
InfluxDB是一個開源的時間序列資料庫,具有擴充套件和叢集的商業選項。InfluxDB專案是在Prometheus開發開始將近一年後釋出的,所以當時無法考慮將其作為替代方案。儘管如此,Prometheus和fluxdb之間仍然存在顯著的差異。二者有許多相似之處。兩者都有標籤(在InfluxDB中稱為tags)來有效地支援多維度度量。它們基本上使用相同的資料壓縮演算法。兩者都具有廣泛的整合,包括彼此之間的整合。兩者都有掛鉤,允許進一步擴充套件它們,例如在統計工具中分析資料或執行自動化操作。
下列情況,用InfluxDB更好:
- 如果你正在進行事件日誌記錄
- 商業選項為InfluxDB提供叢集,這對於長期資料儲存也更好
- 最終實現副本之間資料的一致性
下列情況,用Prometheus更好:
- 如果你主要做的是度量
- 如果你需要更強大的查詢語言、警報和通知功能
- 更高的可用性和正常執行時間,用於繪圖和報警
InfluxDB由一家遵循開放核心模型的商業公司維護,提供高階特性,如閉源叢集、託管和支援。
Prometheus是一個完全開源和獨立的專案,由許多公司和個人維護,其中一些還提供商業服務和支援。
2. 基本概念
2.1. 資料模型
Prometheus基本上將所有資料儲存為時間序列:屬於同一指標和同一組標記維度的時間戳值流。除了儲存時間序列外,Prometheus還可以根據查詢結果生成臨時派生的時間序列。
(PS:這裡對時間序列的解釋是這樣的,
time series: streams of timestamped values belonging to the same metric and the same set of labeled dimensions
)
2.1.1. Metric names and labels
Every time series is uniquely identified by its metric name and optional key-value pairs called labels.
(每個時間序列都由其指標名稱和稱為標籤的可選鍵值對唯一標識)
指標名稱指定要度量的系統的一般特性(例如,http_requests_total表示接收的HTTP請求的總數)。它可能包含ASCII字母和數字,以及下劃線和冒號。它必須匹配正則表示式[a-zA-Z_:][a-zA-Z0-9_:]*
標籤名稱可以包含ASCII字母、數字和下劃線。它們必須匹配正則表示式[a-zA-Z_][a-zA-Z0-9_]*。以__開頭的標籤名稱保留內部使用。
標籤值可以包含任何Unicode字元。
2.1.2. Sample(樣本)
樣本構成實際的時間序列資料。每個樣本包括:
- a float64 value
- a millisecond-precision timestamp
2.1.3. notation(記法)
給定一個度量名稱和一組標籤,時間序列通常使用以下符號標識:
<metric name>{<label name>=<label value>,...}
例如,有這樣一個時間序列,指標名稱是api_http_requests_total,有兩個標籤method="POST"和handler="/messages",那麼這個時間序列可以這樣寫:
api_http_requests_total{method="POST", handler="/messages"}
2.2. metric types(指標型別)
2.2.1. Counter(計數器)
計數器是一個累積指標,它表示一個單調遞增的計數器,其值只能在重啟時遞增或重置為零。例如,可以使用計數器來表示已服務的請求數、已完成的任務數或錯誤數。不要使用計數器來反映一個可能會減小的值。例如,不要使用計數器表示當前正在執行的程序的數量,這種情況下,你應該用gauge。
2.2.2. Gauge(計量器)
計量器表示一個可以任意上下移動的數值。
計量器通常用於測量溫度或當前記憶體使用量等,也用於“計數”,比如併發請求的數量。
2.2.3. Histogram(直方圖、柱狀圖)
直方圖對觀察結果(通常是請求持續時間或響應大小之類的東西)進行取樣,並在可配置的桶中計數。它還提供了所有觀測值的和。
直方圖用一個基本的指標名<basename>暴露在一個抓取期間的多個時間序列:
- 觀察桶的累積計數器,格式為<basename>_bucket{le="<upper inclusive bound>"}
- 所有觀測值的總和,格式為<basename>_sum
- 已觀察到的事件的計數,格式為<basename>_count
2.2.4. Summary(摘要)
與柱狀圖類似,摘要樣例觀察結果(通常是請求持續時間和響應大小之類的內容)。雖然它還提供了觀測值的總數和所有觀測值的總和,但它計算了一個滑動時間視窗上的可配置分位數。
2.3. Jobs AND Instances(作業與例項)
在Prometheus的術語中,可以抓取的端點稱為例項,通常對應於單個程序。具有相同目的的例項集合稱為作業。
例如,一個API Server job 有4個副本instances:
job: api-server
- instance 1: 1.2.3.4:5670
- instance 2: 1.2.3.4:5671
- instance 3: 5.6.7.8:5670
- instance 4: 5.6.7.8:5671
2.3.1. 自動生成標籤和時間序列
當Prometheus抓取目標時,它會自動在抓取的時間序列上附加一些標籤,用來識別被抓取的目標:
- job:目標所屬的已配置作業名稱
- instance:<host>:<port>是被抓取的目標URL的一部分
3. 快速開始
Prometheus是一個開源的系統監控和警報工具包,具有活躍的生態系統。
3.1. 下載與安裝
Prometheus是一個監控平臺,它通過抓取這些目標上的HTTP端點來收集被監控目標的指標。
需要下載、安裝並執行Prometheus。還需要下載並安裝一個exporter,它是將主機和服務上的時間序列資料匯出的工具。
https://prometheus.io/download/
在執行Prometheus之前,我們先配置一下
3.1.1. 配置Prometheus監視它自己
Prometheus通過抓取目標上的HTTP端點資料來從被監控的目標收集資料。由於Prometheus也以同樣的方式公開自己的資料,因此它還可以抓取和監測自己的健康狀況。
雖然Prometheus伺服器在實踐中只收集關於自己的資料不是很有用,但是它是一個很好的開始示例。將以下基本的Prometheus配置儲存為一個名為Prometheus.yml的檔案:
1 global: 2 scrape_interval: 15s # By default, scrape targets every 15 seconds. 3 4 # Attach these labels to any time series or alerts when communicating with 5 # external systems (federation, remote storage, Alertmanager). 6 external_labels: 7 monitor: 'codelab-monitor' 8 9 # A scrape configuration containing exactly one endpoint to scrape: 10 # Here it's Prometheus itself. 11 scrape_configs: 12 # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config. 13 - job_name: 'prometheus' 14 15 # Override the global default and scrape targets from this job every 5 seconds. 16 scrape_interval: 5s 17 18 static_configs: 19 - targets: ['localhost:9090']
3.1.2. 啟動Prometheus
1 # Start Prometheus. 2 # By default, Prometheus stores its database in ./data (flag --storage.tsdb.path). 3 ./prometheus --config.file=prometheus.yml
3.2. 配置
Prometheus可以通過命令列和配置檔案進行配置。配置檔案定義了與抓取作業及其例項相關的所有內容,以及要載入哪些規則檔案。
執行./prometheus -h可以檢視所有支援的命令
為了指定要載入哪個配置檔案,請使用--config選項
配置檔案是YAML格式的
配置項太多,不一一列舉,自行檢視
https://prometheus.io/docs/prometheus/latest/configuration/configuration/
global: # How frequently to scrape targets by default. [ scrape_interval: <duration> | default = 1m ] # How long until a scrape request times out. [ scrape_timeout: <duration> | default = 10s ] # How frequently to evaluate rules. [ evaluation_interval: <duration> | default = 1m ] # The labels to add to any time series or alerts when communicating with # external systems (federation, remote storage, Alertmanager). external_labels: [ <labelname>: <labelvalue> ... ] # Rule files specifies a list of globs. Rules and alerts are read from # all matching files. rule_files: [ - <filepath_glob> ... ] # A list of scrape configurations. scrape_configs: [ - <scrape_config> ... ] # Alerting specifies settings related to the Alertmanager. alerting: alert_relabel_configs: [ - <relabel_config> ... ] alertmanagers: [ - <alertmanager_config> ... ] # Settings related to the remote write feature. remote_write: [ - <remote_write> ... ] # Settings related to the remote read feature. remote_read: [ - <remote_read> ... ]
這裡有一個有效的示例配置檔案
3.3. 查詢
Prometheus提供了一種名為PromQL(Prometheus查詢語言)的函式式查詢語言,允許使用者實時選擇和聚合時間序列資料。表示式的結果既可以顯示為圖形,也可以在Prometheus的表示式瀏覽器中作為表格資料檢視,或者通過HTTP API由外部系統使用。
3.3.1. 表示式資料型別
在Prometheus的表示式語言中,表示式或子表示式可以計算為以下四種類型之一:
- Instant vector(瞬時向量):一組時間序列,每個時間序列包含一個樣本,所有樣本共享相同的時間戳
- Range vector(範圍向量):一組時間序列,其中包含每個時間序列隨時間變化的資料點範圍
- Scalar(標量):一個簡單的數值浮點值
- String(字串):一個簡單的字串值,目前未使用
3.3.2. 字面值
字串字面值
字串可以指定為單引號、雙引號或反引號中的文字。例如:
1 "this is a string" 2 'these are unescaped: \n \\ \t' 3 `these are not unescaped: \n ' " \t`
浮點數字面值
例如:-2.34
3.3.3. 時間序列選擇器
瞬時向量選擇器
瞬時向量選擇器允許在給定的時間戳(瞬時)上為每個時間序列選擇一組時間序列和一個樣本值:在最簡單的形式中,只指定一個度量名稱。這樣一個向量就會包含這個度量名稱的所有時間序列元素。
下面的例子,選擇指標名稱是http_requests_total的所有時間序列:
http_requests_total
通過在花括號({ })中新增一組匹配的標籤,可以進一步過濾這些時間序列。
下面的例子,選擇指標名稱是http_requests_total,並且有job標籤值是prometheus,並且group標籤值是canary的時間序列:
http_requests_total{job="prometheus",group="canary"}
標籤匹配操作符:
- = : 選擇與提供的字串完全相同的標籤(等於)
- != :選擇不等於提供的字串的標籤(不等於)
- =~ :正則匹配
- !~ : 非正則匹配
下面的例子,選擇所有staging, testing, development環境,並且HTTP請求方式不是GET的http_requests_total時間序列
http_requests_total{environment=~"staging|testing|development",method!="GET"}
不要匹配空標籤
{job=~".+"} # Good! {job=~".*",method="get"} # Good!
3.3.4. 範圍向量選擇器
範圍向量字面量的工作原理與瞬時向量字面量類似,只是它們從當前瞬時量中選擇一個樣本範圍。從語法上講,範圍持續時間被新增到向量選擇器末尾的方括號([ ])中,以指定應該為每個結果範圍向量元素獲取多少時間值。
時間期限指定為一個數字,緊接其後的是下列單位之一:s(秒)、m(分鐘)、h(小時)、d(天) 、w(周)、y(年)
下面的例子,選擇指標名是http_requests_total,且job標籤值是prometheus的已經記錄的最近5分鐘內的時間序列:
http_requests_total{job="prometheus"}[5m]
Offset修飾符
下面的表示式返回http_requests_total在過去5分鐘相對於當前查詢計算時間的值:
http_requests_total offset 5m
注意,offset總是緊跟在選擇器後面的
sum(http_requests_total{method="GET"} offset 5m)
下面的例子,返回一週前的最近5分鐘http_requests_total的時間序列
rate(http_requests_total[5m] offset 1w)
3.3.5. 子查詢
Syntax: <instant_query> '[' <range> ':' [<resolution>] ']' [ offset <duration> ]
3.3.5. 運算子
Prometheus的查詢語言支援基本的邏輯運算子和算術運算子。
算術二元運算子
+(加)、-(減)、*(乘)、/(除)、%(餘數)、^(指數)
二進位制算術運算子定義在標量/標量、向量/標量和向量/向量值對之間
比較二元運算子
== 、!= 、> 、< 、>= 、<=
邏輯運算子
and 、or 、unless
聚合運算子
sum(求和)、min(最小值)、max(最大值)、avg(求平均)、stddev(標準偏差)、stdvar(方差)、count(個數)、count_values(相同值的元素個數)、bottomk(樣本值的最小元素)、topk(樣本值的最大元素)、quantile(0 ≤ φ ≤ 1)
這些操作符既可以用於聚合所有標籤維度,也可以通過包含without子句或by子句來儲存不同的維度。
1 <aggr-op>([parameter,] <vector expression>) [without|by (<label list>)]
例如,假設http_requests_total有application 、 instance 、 group三個標籤,那麼下面兩個是等價的:
1 sum(http_requests_total) without (instance) 2 sum(http_requests_total) by (application, group)
3.3.6. 函式
https://prometheus.io/docs/prometheus/latest/querying/functions/
3.3.7. 示例
1 # 返回http_requests_total的所有時間序列 2 http_requests_total 3 4 # 返回http_requests_total的且限定了job和handler標籤的時間序列 5 http_requests_total{job="apiserver", handler="/api/comments"} 6 http_requests_total{job="apiserver", handler="/api/comments"}[5m] 7 8 # 正則表示式 9 http_requests_total{job=~".*server"} 10 http_requests_total{status!~"4.."} 11 12 # 過去的5分鐘內每秒HTTP請求速率 13 rate(http_requests_total{job="api-server"}[5m]) 14 # 過去的30分鐘內每5分鐘 15 rate(http_requests_total[5m])[30m:1m] 16 # 過去5分鐘的所有請求速率求和,保留job維度 17 sum(rate(http_requests_total[5m])) by (job) 18 # cpu使用率最高的前3個 19 topk(3, sum(rate(instance_cpu_time_ns[5m])) by (app, proc))
4. Grafana支援
Grafana支援查詢Prometheus
下面是Grafana dashboard查詢Prometheus資料的例子:
使用
預設情況下,Grafana監聽http://localhost:3000,預設用admin/admin登入
建立一個Prometheus資料來源,接著建立面板並定義查詢的指標
剛開始,如果不知道PromeQL怎麼寫,可以去Prometheus上去找 http://localhost:9090/graph
https://prometheus.io/docs/introduction/overview/
https://prometheus.io/docs/alerting/overview/
&n