1. 程式人生 > >5分鐘瞭解Prometheus

5分鐘瞭解Prometheus

Prometheus(譯:普羅米修斯)用領先的開源監控解決方案為你的指標和警報提供動力(賦能)。

 

1.  概述

1.1.  Prometheus是什麼?

Prometheus是一個開源的系統監控和警報工具包。自2012年啟動以來,許多公司和組織都採用了Prometheus,該專案擁有非常活躍的開發人員和使用者社群。它現在是一個獨立的開源專案,獨立於任何公司進行維護。Prometheus於2016年加入雲原生計算基金會,成為繼Kubernetes之後的第二個託管專案。

1.1.1.  Prometheus的主要特性:

  • 一個多維資料模型,包含由指標名稱和鍵/值對(Tag)標識的時間序列資料
  • PromQL是一種靈活的查詢語音,用於查詢並利用這些維度資料
  • 不依賴分散式儲存,單個伺服器節點是自治的
  • 時間序列收集是通過HTTP上的pull模型進行的(支援Pull)
  • 推送時間序列是通過一箇中間閘道器來支援的(也支援Push)
  • 目標是通過服務發現或靜態配置發現的
  • 多種模式的圖形和儀表盤支援

總結一下,就是多維資料模型、PromQL查詢語言、節點自治、HTTP主動拉取或者閘道器主動推送的方式獲取時間序列資料、自動發現目標、多種儀表盤支援

1.1.2.  元件:

  • Prometheus server,它負責抓取和儲存時間序列資料,是最主要的元件
  • client libraries,用於檢測應用程式程式碼的客戶端庫
  • push gateway,用於支援短期的jobs
  • exporters,用於支援HAProxy等第三方
  • alertmanager,用於處理告警
  • 各種支援工具

大多數Prometheus元件都是用Go編寫的,這使得它們易於作為靜態二進位制檔案構建和部署

1.1.3.  架構:

這張圖展示了架構及其生態系統的一些組成部分:

Prometheus從工具化的作業中獲取指標,要麼直接獲取,要麼通過中介推送閘道器獲取短期作業。它在本地儲存所有抓取的樣本,並對這些資料應用規則將這些資料進行聚合,並記錄新的時間序列,或者生成警報。可以用Grafana或其他API來視覺化收集的資料。

1.2.  什麼時候用它合適

Prometheus可以很好地記錄任何純數字時間序列。它既適合以機器為中心的監視,也適合高度動態的面向服務的體系結構的監視。在微服務的世界中,它對多維資料收集和查詢的支援是一個特別的優勢。

Prometheus是為可靠性而設計的,在你的服務宕機的時候,你可以快速診斷問題。每臺Prometheus伺服器都是獨立的,不依賴於網路儲存或其他遠端服務。

1.3.  什麼時候用它不合適

Prometheus的值的可靠性。你總是可以檢視有關係統的統計資訊,即使在出現故障的情況下也是如此。如果你需要100%的準確性,例如按請求計費,Prometheus不是一個好的選擇,因為收集的資料可能不夠詳細和完整。在這種情況下,最好使用其他系統來收集和分析用於計費的資料,並使用Prometheus來完成剩下的監視工作。

1.4.  Prometheus VS InfluxDB

InfluxDB是一個開源的時間序列資料庫,具有擴充套件和叢集的商業選項。InfluxDB專案是在Prometheus開發開始將近一年後釋出的,所以當時無法考慮將其作為替代方案。儘管如此,Prometheus和fluxdb之間仍然存在顯著的差異。二者有許多相似之處。兩者都有標籤(在InfluxDB中稱為tags)來有效地支援多維度度量。它們基本上使用相同的資料壓縮演算法。兩者都具有廣泛的整合,包括彼此之間的整合。兩者都有掛鉤,允許進一步擴充套件它們,例如在統計工具中分析資料或執行自動化操作。

下列情況,用InfluxDB更好:

  • 如果你正在進行事件日誌記錄
  • 商業選項為InfluxDB提供叢集,這對於長期資料儲存也更好
  • 最終實現副本之間資料的一致性

下列情況,用Prometheus更好:

  • 如果你主要做的是度量
  • 如果你需要更強大的查詢語言、警報和通知功能
  • 更高的可用性和正常執行時間,用於繪圖和報警

InfluxDB由一家遵循開放核心模型的商業公司維護,提供高階特性,如閉源叢集、託管和支援。

Prometheus是一個完全開源和獨立的專案,由許多公司和個人維護,其中一些還提供商業服務和支援。

2.  基本概念

2.1.  資料模型

Prometheus基本上將所有資料儲存為時間序列:屬於同一指標和同一組標記維度的時間戳值流。除了儲存時間序列外,Prometheus還可以根據查詢結果生成臨時派生的時間序列。

(PS:這裡對時間序列的解釋是這樣的,

time series: streams of timestamped values belonging to the same metric and the same set of labeled dimensions

2.1.1.  Metric names and labels

Every time series is uniquely identified by its metric name and optional key-value pairs called labels.

(每個時間序列都由其指標名稱和稱為標籤的可選鍵值對唯一標識)

指標名稱指定要度量的系統的一般特性(例如,http_requests_total表示接收的HTTP請求的總數)。它可能包含ASCII字母和數字,以及下劃線和冒號。它必須匹配正則表示式[a-zA-Z_:][a-zA-Z0-9_:]*

標籤名稱可以包含ASCII字母、數字和下劃線。它們必須匹配正則表示式[a-zA-Z_][a-zA-Z0-9_]*。以__開頭的標籤名稱保留內部使用。

標籤值可以包含任何Unicode字元。

2.1.2.  Sample(樣本)

樣本構成實際的時間序列資料。每個樣本包括:

  • a float64 value
  • a millisecond-precision timestamp

2.1.3.  notation(記法) 

給定一個度量名稱和一組標籤,時間序列通常使用以下符號標識:

<metric name>{<label name>=<label value>,...}

例如,有這樣一個時間序列,指標名稱是api_http_requests_total,有兩個標籤method="POST"和handler="/messages",那麼這個時間序列可以這樣寫:

api_http_requests_total{method="POST", handler="/messages"}

2.2.  metric types(指標型別)

2.2.1.  Counter(計數器)

計數器是一個累積指標,它表示一個單調遞增的計數器,其值只能在重啟時遞增或重置為零。例如,可以使用計數器來表示已服務的請求數、已完成的任務數或錯誤數。不要使用計數器來反映一個可能會減小的值。例如,不要使用計數器表示當前正在執行的程序的數量,這種情況下,你應該用gauge。 

2.2.2.  Gauge(計量器)

計量器表示一個可以任意上下移動的數值。 

計量器通常用於測量溫度或當前記憶體使用量等,也用於“計數”,比如併發請求的數量。

2.2.3.  Histogram(直方圖、柱狀圖)

直方圖對觀察結果(通常是請求持續時間或響應大小之類的東西)進行取樣,並在可配置的桶中計數。它還提供了所有觀測值的和。

直方圖用一個基本的指標名<basename>暴露在一個抓取期間的多個時間序列:

  • 觀察桶的累積計數器,格式為<basename>_bucket{le="<upper inclusive bound>"}
  • 所有觀測值的總和,格式為<basename>_sum
  • 已觀察到的事件的計數,格式為<basename>_count

2.2.4.  Summary(摘要)

與柱狀圖類似,摘要樣例觀察結果(通常是請求持續時間和響應大小之類的內容)。雖然它還提供了觀測值的總數和所有觀測值的總和,但它計算了一個滑動時間視窗上的可配置分位數。

2.3.  Jobs AND Instances(作業與例項)

在Prometheus的術語中,可以抓取的端點稱為例項,通常對應於單個程序。具有相同目的的例項集合稱為作業。

例如,一個API Server job 有4個副本instances:

job: api-server

  • instance 1: 1.2.3.4:5670
  • instance 2: 1.2.3.4:5671
  • instance 3: 5.6.7.8:5670
  • instance 4: 5.6.7.8:5671

2.3.1.  自動生成標籤和時間序列

當Prometheus抓取目標時,它會自動在抓取的時間序列上附加一些標籤,用來識別被抓取的目標:

  • job:目標所屬的已配置作業名稱
  • instance:<host>:<port>是被抓取的目標URL的一部分

3.  快速開始

Prometheus是一個開源的系統監控和警報工具包,具有活躍的生態系統。

3.1.  下載與安裝

Prometheus是一個監控平臺,它通過抓取這些目標上的HTTP端點來收集被監控目標的指標。

需要下載、安裝並執行Prometheus。還需要下載並安裝一個exporter,它是將主機和服務上的時間序列資料匯出的工具。

https://prometheus.io/download/

在執行Prometheus之前,我們先配置一下

3.1.1.  配置Prometheus監視它自己

Prometheus通過抓取目標上的HTTP端點資料來從被監控的目標收集資料。由於Prometheus也以同樣的方式公開自己的資料,因此它還可以抓取和監測自己的健康狀況。

雖然Prometheus伺服器在實踐中只收集關於自己的資料不是很有用,但是它是一個很好的開始示例。將以下基本的Prometheus配置儲存為一個名為Prometheus.yml的檔案:

 1 global:
 2   scrape_interval:     15s # By default, scrape targets every 15 seconds.
 3 
 4   # Attach these labels to any time series or alerts when communicating with
 5   # external systems (federation, remote storage, Alertmanager).
 6   external_labels:
 7     monitor: 'codelab-monitor'
 8 
 9 # A scrape configuration containing exactly one endpoint to scrape:
10 # Here it's Prometheus itself.
11 scrape_configs:
12   # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config.
13   - job_name: 'prometheus'
14 
15     # Override the global default and scrape targets from this job every 5 seconds.
16     scrape_interval: 5s
17 
18     static_configs:
19       - targets: ['localhost:9090']

3.1.2.  啟動Prometheus 

1 # Start Prometheus.
2 # By default, Prometheus stores its database in ./data (flag --storage.tsdb.path).
3 ./prometheus --config.file=prometheus.yml

3.2.  配置

Prometheus可以通過命令列和配置檔案進行配置。配置檔案定義了與抓取作業及其例項相關的所有內容,以及要載入哪些規則檔案。

執行./prometheus -h可以檢視所有支援的命令

為了指定要載入哪個配置檔案,請使用--config選項

配置檔案是YAML格式的

配置項太多,不一一列舉,自行檢視

https://prometheus.io/docs/prometheus/latest/configuration/configuration/

 global:
   # How frequently to scrape targets by default.
   [ scrape_interval: <duration> | default = 1m ]
 
   # How long until a scrape request times out.
   [ scrape_timeout: <duration> | default = 10s ]
 
   # How frequently to evaluate rules.
   [ evaluation_interval: <duration> | default = 1m ]
 
   # The labels to add to any time series or alerts when communicating with
   # external systems (federation, remote storage, Alertmanager).
   external_labels:
     [ <labelname>: <labelvalue> ... ]
 
 # Rule files specifies a list of globs. Rules and alerts are read from
 # all matching files.
 rule_files:
   [ - <filepath_glob> ... ]
 
 # A list of scrape configurations.
 scrape_configs:
   [ - <scrape_config> ... ]
 
 # Alerting specifies settings related to the Alertmanager.
 alerting:
   alert_relabel_configs:
     [ - <relabel_config> ... ]
   alertmanagers:
     [ - <alertmanager_config> ... ]
 
 # Settings related to the remote write feature.
 remote_write:
   [ - <remote_write> ... ]
 
 # Settings related to the remote read feature.
 remote_read:
   [ - <remote_read> ... ] 

這裡有一個有效的示例配置檔案 

3.3.  查詢 

Prometheus提供了一種名為PromQL(Prometheus查詢語言)的函式式查詢語言,允許使用者實時選擇和聚合時間序列資料。表示式的結果既可以顯示為圖形,也可以在Prometheus的表示式瀏覽器中作為表格資料檢視,或者通過HTTP API由外部系統使用。

3.3.1.  表示式資料型別

在Prometheus的表示式語言中,表示式或子表示式可以計算為以下四種類型之一:

  • Instant vector(瞬時向量):一組時間序列,每個時間序列包含一個樣本,所有樣本共享相同的時間戳
  • Range vector(範圍向量):一組時間序列,其中包含每個時間序列隨時間變化的資料點範圍
  • Scalar(標量):一個簡單的數值浮點值
  • String(字串):一個簡單的字串值,目前未使用 

3.3.2.  字面值

字串字面值

字串可以指定為單引號、雙引號或反引號中的文字。例如:

1 "this is a string"
2 'these are unescaped: \n \\ \t'
3 `these are not unescaped: \n ' " \t` 

浮點數字面值

例如:-2.34

3.3.3.  時間序列選擇器

瞬時向量選擇器

瞬時向量選擇器允許在給定的時間戳(瞬時)上為每個時間序列選擇一組時間序列和一個樣本值:在最簡單的形式中,只指定一個度量名稱。這樣一個向量就會包含這個度量名稱的所有時間序列元素。 

下面的例子,選擇指標名稱是http_requests_total的所有時間序列:

 http_requests_total

通過在花括號({ })中新增一組匹配的標籤,可以進一步過濾這些時間序列。 

下面的例子,選擇指標名稱是http_requests_total,並且有job標籤值是prometheus,並且group標籤值是canary的時間序列:

 http_requests_total{job="prometheus",group="canary"} 

標籤匹配操作符:

  • = : 選擇與提供的字串完全相同的標籤(等於)
  • != :選擇不等於提供的字串的標籤(不等於)
  • =~ :正則匹配
  • !~ : 非正則匹配 

下面的例子,選擇所有staging, testing, development環境,並且HTTP請求方式不是GET的http_requests_total時間序列 

 http_requests_total{environment=~"staging|testing|development",method!="GET"} 

不要匹配空標籤

 {job=~".+"}              # Good!
 {job=~".*",method="get"} # Good!

3.3.4.  範圍向量選擇器

範圍向量字面量的工作原理與瞬時向量字面量類似,只是它們從當前瞬時量中選擇一個樣本範圍。從語法上講,範圍持續時間被新增到向量選擇器末尾的方括號([ ])中,以指定應該為每個結果範圍向量元素獲取多少時間值。 

時間期限指定為一個數字,緊接其後的是下列單位之一:s(秒)、m(分鐘)、h(小時)、d(天) 、w(周)、y(年)

下面的例子,選擇指標名是http_requests_total,且job標籤值是prometheus的已經記錄的最近5分鐘內的時間序列:

 http_requests_total{job="prometheus"}[5m]

Offset修飾符

下面的表示式返回http_requests_total在過去5分鐘相對於當前查詢計算時間的值:

 http_requests_total offset 5m 

注意,offset總是緊跟在選擇器後面的

 sum(http_requests_total{method="GET"} offset 5m) 

下面的例子,返回一週前的最近5分鐘http_requests_total的時間序列

 rate(http_requests_total[5m] offset 1w)

3.3.5.  子查詢

 Syntax: <instant_query> '[' <range> ':' [<resolution>] ']' [ offset <duration> ]

3.3.5.  運算子 

Prometheus的查詢語言支援基本的邏輯運算子和算術運算子。

算術二元運算子

+(加)、-(減)、*(乘)、/(除)、%(餘數)、^(指數)

二進位制算術運算子定義在標量/標量、向量/標量和向量/向量值對之間

比較二元運算子

== 、!= 、> 、< 、>= 、<=

邏輯運算子

and 、or 、unless

聚合運算子

sum(求和)、min(最小值)、max(最大值)、avg(求平均)、stddev(標準偏差)、stdvar(方差)、count(個數)、count_values(相同值的元素個數)、bottomk(樣本值的最小元素)、topk(樣本值的最大元素)、quantile(0 ≤ φ ≤ 1)

這些操作符既可以用於聚合所有標籤維度,也可以通過包含without子句或by子句來儲存不同的維度。

1 <aggr-op>([parameter,] <vector expression>) [without|by (<label list>)]

例如,假設http_requests_total有application 、 instance 、 group三個標籤,那麼下面兩個是等價的:

1 sum(http_requests_total) without (instance)
2 sum(http_requests_total) by (application, group)

3.3.6.  函式

https://prometheus.io/docs/prometheus/latest/querying/functions/

3.3.7.  示例

 1 # 返回http_requests_total的所有時間序列
 2 http_requests_total
 3 
 4 # 返回http_requests_total的且限定了job和handler標籤的時間序列
 5 http_requests_total{job="apiserver", handler="/api/comments"}
 6 http_requests_total{job="apiserver", handler="/api/comments"}[5m]
 7 
 8 # 正則表示式
 9 http_requests_total{job=~".*server"}
10 http_requests_total{status!~"4.."}
11 
12 # 過去的5分鐘內每秒HTTP請求速率
13 rate(http_requests_total{job="api-server"}[5m])
14 # 過去的30分鐘內每5分鐘
15 rate(http_requests_total[5m])[30m:1m]
16 # 過去5分鐘的所有請求速率求和,保留job維度
17 sum(rate(http_requests_total[5m])) by (job)
18 # cpu使用率最高的前3個
19 topk(3, sum(rate(instance_cpu_time_ns[5m])) by (app, proc))

4.  Grafana支援 

Grafana支援查詢Prometheus

下面是Grafana dashboard查詢Prometheus資料的例子:

 

使用 

預設情況下,Grafana監聽http://localhost:3000,預設用admin/admin登入

建立一個Prometheus資料來源,接著建立面板並定義查詢的指標

剛開始,如果不知道PromeQL怎麼寫,可以去Prometheus上去找  http://localhost:9090/graph

 

 

https://prometheus.io/docs/introduction/overview/

https://prometheus.io/docs/alerting/overview/ 

&n