1. 程式人生 > 實用技巧 >效能壓測工具 wrk 使用

效能壓測工具 wrk 使用

名詞解釋:

  QPS(Query per second 每秒處理完的請求數)


什麼是wrk

看下他GitHub上的介紹:https://github.com/wg/wrk

wrk is a modern HTTP benchmarking tool capable of generating significant load when run on a single multi-core CPU. It combines a multithreaded design with scalable event notification systems such as epoll and kqueue.

wrk 是一款針對 Http 協議的基準測試工具,它能夠在單機多核 CPU 的條件下,使用系統自帶的高效能 I/O 機制,如 epoll,kqueue 等,通過多執行緒和事件模式,對目標機器產生大量的負載。

PS: 其實,wrk 是複用了 redis 的 ae 非同步事件驅動框架,準確來說 ae 事件驅動框架並不是 redis 發明的, 它來至於 Tcl 的直譯器 jim, 這個小巧高效的框架, 因為被 redis 採用而被大家所熟知。

wrk 的優勢:

  • 輕量級效能測試工具;

  • 安裝簡單(相對 Apache ab 來說);

  • 學習曲線基本為零,幾分鐘就能學會咋用了;

  • 基於系統自帶的高效能 I/O 機制,如 epoll, kqueue, 利用非同步的事件驅動框架,通過很少的執行緒就可以壓出很大的併發量;

劣勢:

wrk 目前僅支援單機壓測,後續也不太可能支援多機器對目標機壓測,因為它本身的定位,並不是用來取代 JMeter, LoadRunner 等專業的測試工具,wrk 提供的功能,對我們後端開發人員來說,應付日常介面效能驗證還是比較友好的。

wrk的安裝

mac:

brew install wrk

linux:

git clone https://github.com/wg/wrk.git wrk
cd wrk
make
# 將可執行檔案移動到 /usr/local/bin 位置
sudo cp wrk /usr/local/bin

  

簡單使用

wrk -t12 -c400 -d30s http://www.baidu.com

 這條命令表示,利用 wrk 對 www.baidu.com 發起壓力測試,執行緒數為 12,模擬 400 個併發請求,持續 30 秒。

wrk 命令引數說明

除了上面簡單示例中使用到的子命令引數,wrk還有其他更豐富的功能,命令列中輸入wrk --help, 可以看到支援以下子命令:

wrk --help
Usage: wrk <options> <url>                            
  Options:                                            
    -c, --connections <N>  Connections to keep open   跟伺服器建立並保持的TCP連線數量 
    -d, --duration    <T>  Duration of test           壓測時間   
    -t, --threads     <N>  Number of threads to use   使用多少個執行緒進行壓測
                                                      
    -s, --script      <S>  Load Lua script file       指定Lua指令碼路徑   
    -H, --header      <H>  Add header to request      為每一個HTTP請求新增HTTP頭
        --latency          Print latency statistics   在壓測結束後,列印延遲統計資訊
        --timeout     <T>  Socket/request timeout     超時時間
    -v, --version          Print version details      列印正在使用的wrk的詳細版本資訊
                                                      
  Numeric arguments may include a SI unit (1k, 1M, 1G)
  Time arguments may include a time unit (2s, 2m, 2h)
<N>代表數字引數,支援國際單位 (1k, 1M, 1G)
<T>代表時間引數,支援時間單位 (2s, 2m, 2h)

關於執行緒數,並不是設定的越大,壓測效果越好,執行緒設定過大,反而會導致執行緒切換過於頻繁,效果降低,一般來說,推薦設定成壓測機器 CPU 核心數的 2 倍到 4 倍就行了。

測試報告

執行壓測命令:

wrk -t12 -c400 -d30s --latency http://www.baidu.com

執行上面的壓測命令,30 秒壓測過後,生成如下壓測報告:

Running 30s test @ http://www.baidu.com   (壓測時間30s)
  12 threads and 400 connections  (共12個測試執行緒,400個連線)
(平均值) (標準差) (最大值)(正負一個標準差所佔比例)
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency   386.32ms  380.75ms   2.00s    86.66%   (延遲
    Req/Sec    17.06     13.91   252.00     87.89%  (每秒請求數
  Latency Distribution   (延遲分佈
     50%  218.31ms
     75%  520.60ms
     90%  955.08ms
     99%    1.93s 
  4922 requests in 30.06s, 73.86MB read   (30.06s內處理了4922個請求,耗費流量73.86MB)
  Socket errors: connect 0, read 0, write 0, timeout 311  (發生錯誤數
Requests/sec:    163.76  (QPS 163.76,即平均每秒處理請求數為163.76)
Transfer/sec:      2.46MB   (平均每秒流量2.46MB)

  標準差啥意思?標準差如果太大說明樣本本身離散程度比較高,有可能系統性能波動較大。標準差為0 就是一條直線

  

使用 Lua 指令碼進行復雜測試

您可能有疑問了,你這種進行 GET 請求還湊合,我想進行 POST 請求咋辦?而且我想每次的請求引數都不一樣,用來模擬使用者使用的實際場景,又要怎麼弄呢?

對於這種需求,我們可以通過編寫 Lua 指令碼的方式,在執行壓測命令時,通過引數--script來指定 Lua 指令碼,來滿足個性化需求。

4.4.1 wrk 對 Lua 指令碼的支援

wrk 支援在三個階段對壓測進行個性化,分別是啟動階段、執行階段和結束階段。每個測試執行緒,都擁有獨立的Lua 執行環境。

啟動階段:

function setup(thread)

  在指令碼檔案中實現 setup 方法,wrk 就會在測試執行緒已經初始化,但還沒有啟動的時候呼叫該方法。wrk會為每一個測試執行緒呼叫一次 setup 方法,並傳入代表測試執行緒的物件 thread 作為引數。setup 方法中可操作該 thread 物件,獲取資訊、儲存資訊、甚至關閉該執行緒。

thread.addr             - get or set the thread's server address
thread:get(name)        - get the value of a global in the thread's env
thread:set(name, value) - set the value of a global in the thread's env
thread:stop()           - stop the thread

執行階段:

function init(args)
function delay()
function request()
function response(status, headers, body)
  • init(args): 由測試執行緒呼叫,只會在進入執行階段時,呼叫一次。支援從啟動 wrk 的命令中,獲取命令列引數;
  • delay(): 在每次傳送請求之前呼叫,如果需要定製延遲時間,可以在這個方法中設定;
  • request(): 用來生成請求, 每一次請求都會呼叫該方法,所以注意不要在該方法中做耗時的操作;
  • response(status, headers, body): 在每次收到一個響應時被呼叫,為提升效能,如果沒有定義該方法,那麼wrk不會解析headersbody

結束階段:

function done(summary, latency, requests)
done() 方法在整個測試過程中只會被呼叫一次,我們可以從給定的引數中,獲取壓測結果,生成定製化的測試報告。

自定義 Lua 指令碼中可訪問的變數以及方法:

變數:wrk

wrk = {
    scheme  = "http",
    host    = "localhost",
    port    = 8080,
    method  = "GET",
    path    = "/",
    headers = {},
    body    = nil,
    thread  = <userdata>,
  }

以上定義了一個table型別的全域性變數,修改該wrk變數,會影響所有請求。

方法:

  1. wrk.fomat
  2. wrk.lookup
  3. wrk.connect

上面三個方法解釋如下

function wrk.format(method, path, headers, body)

    wrk.format returns a HTTP request string containing the passed parameters
    merged with values from the wrk table.
    # 根據引數和全域性變數 wrk,生成一個 HTTP rquest 字串。

function wrk.lookup(host, service)

    wrk.lookup returns a table containing all known addresses for the host
    and service pair. This corresponds to the POSIX getaddrinfo() function.
    # 給定 host 和 service(port/well known service name),返回所有可用的伺服器地址資訊。

function wrk.connect(addr)

    wrk.connect returns true if the address can be connected to, otherwise
    it returns false. The address must be one returned from wrk.lookup().
    # 測試給定的伺服器地址資訊是否可以成功建立連線

  

案例:通過 Lua 指令碼壓測示例

呼叫 POST 介面:

wrk.method = "POST"
wrk.body   = "foo=bar&baz=quux"
wrk.headers["Content-Type"] = "application/x-www-form-urlencoded"

  

注意: wrk 是個全域性變數,這裡對其做了修改,使得所有請求都使用 POST 的方式,並指定了 body 和 Content-Type頭。

自定義每次請求的引數:

request = function()
   uid = math.random(1, 10000000)
   path = "/test?uid=" .. uid
   return wrk.format(nil, path)
end

  

在 request 方法中,隨機生成 1~10000000 之間的 uid,並動態生成請求 URL.

每次請求前,延遲 10ms:

function delay()
   return 10
end

  

請求的介面需要先進行認證,獲取 token 後,才能發起請求,咋辦?

token = nil
path  = "/auth"

request = function()
   return wrk.format("GET", path)
end

response = function(status, headers, body)
   if not token and status == 200 then
      token = headers["X-Token"]
      path  = "/test"
      wrk.headers["X-Token"] = token
   end
end

  

上面的指令碼表示,在 token 為空的情況下,先請求/auth介面來認證,獲取 token, 拿到 token 以後,將 token 放置到請求頭中,再請求真正需要壓測的/test介面。

壓測支援 HTTP pipeline 的服務:

init = function(args)
   local r = {}
   r[1] = wrk.format(nil, "/?foo")
   r[2] = wrk.format(nil, "/?bar")
   r[3] = wrk.format(nil, "/?baz")

   req = table.concat(r)
end

request = function()
   return req
end

  

通過在 init 方法中將三個 HTTP請求拼接在一起,實現每次傳送三個請求,以使用 HTTP pipeline。