效能壓測工具 wrk 使用
名詞解釋:
QPS(Query per second 每秒處理完的請求數)
什麼是wrk
看下他GitHub上的介紹:https://github.com/wg/wrk
wrk is a modern HTTP benchmarking tool capable of generating significant load when run on a single multi-core CPU. It combines a multithreaded design with scalable event notification systems such as epoll and kqueue.
wrk 是一款針對 Http 協議的基準測試工具,它能夠在單機多核 CPU 的條件下,使用系統自帶的高效能 I/O 機制,如 epoll,kqueue 等,通過多執行緒和事件模式,對目標機器產生大量的負載。
PS: 其實,wrk 是複用了 redis 的 ae 非同步事件驅動框架,準確來說 ae 事件驅動框架並不是 redis 發明的, 它來至於 Tcl 的直譯器 jim, 這個小巧高效的框架, 因為被 redis 採用而被大家所熟知。
wrk 的優勢:
-
輕量級效能測試工具;
-
安裝簡單(相對 Apache ab 來說);
-
學習曲線基本為零,幾分鐘就能學會咋用了;
-
基於系統自帶的高效能 I/O 機制,如 epoll, kqueue, 利用非同步的事件驅動框架,通過很少的執行緒就可以壓出很大的併發量;
劣勢:
wrk 目前僅支援單機壓測,後續也不太可能支援多機器對目標機壓測,因為它本身的定位,並不是用來取代 JMeter, LoadRunner 等專業的測試工具,wrk 提供的功能,對我們後端開發人員來說,應付日常介面效能驗證還是比較友好的。
wrk的安裝
mac:
brew install wrk
linux:
git clone https://github.com/wg/wrk.git wrk cd wrk make # 將可執行檔案移動到 /usr/local/bin 位置 sudo cp wrk /usr/local/bin
簡單使用
wrk -t12 -c400 -d30s http://www.baidu.com
這條命令表示,利用 wrk 對 www.baidu.com 發起壓力測試,執行緒數為 12,模擬 400 個併發請求,持續 30 秒。
wrk 命令引數說明
除了上面簡單示例中使用到的子命令引數,wrk
還有其他更豐富的功能,命令列中輸入wrk --help
, 可以看到支援以下子命令:
wrk --help
Usage: wrk <options> <url>
Options:
-c, --connections <N> Connections to keep open 跟伺服器建立並保持的TCP連線數量
-d, --duration <T> Duration of test 壓測時間
-t, --threads <N> Number of threads to use 使用多少個執行緒進行壓測
-s, --script <S> Load Lua script file 指定Lua指令碼路徑
-H, --header <H> Add header to request 為每一個HTTP請求新增HTTP頭
--latency Print latency statistics 在壓測結束後,列印延遲統計資訊
--timeout <T> Socket/request timeout 超時時間
-v, --version Print version details 列印正在使用的wrk的詳細版本資訊
Numeric arguments may include a SI unit (1k, 1M, 1G)
Time arguments may include a time unit (2s, 2m, 2h)
<N>代表數字引數,支援國際單位 (1k, 1M, 1G)
<T>代表時間引數,支援時間單位 (2s, 2m, 2h)
關於執行緒數,並不是設定的越大,壓測效果越好,執行緒設定過大,反而會導致執行緒切換過於頻繁,效果降低,一般來說,推薦設定成壓測機器 CPU 核心數的 2 倍到 4 倍就行了。
測試報告
執行壓測命令:
wrk -t12 -c400 -d30s --latency http://www.baidu.com
執行上面的壓測命令,30 秒壓測過後,生成如下壓測報告:
Running 30s test @ http://www.baidu.com (壓測時間30s)
12 threads and 400 connections (共12個測試執行緒,400個連線)
(平均值) (標準差) (最大值)(正負一個標準差所佔比例)
Thread Stats Avg Stdev Max +/- Stdev
Latency 386.32ms 380.75ms 2.00s 86.66% (延遲
Req/Sec 17.06 13.91 252.00 87.89% (每秒請求數
Latency Distribution (延遲分佈
50% 218.31ms
75% 520.60ms
90% 955.08ms
99% 1.93s
4922 requests in 30.06s, 73.86MB read (30.06s內處理了4922個請求,耗費流量73.86MB)
Socket errors: connect 0, read 0, write 0, timeout 311 (發生錯誤數
Requests/sec: 163.76 (QPS 163.76,即平均每秒處理請求數為163.76)
Transfer/sec: 2.46MB (平均每秒流量2.46MB)
標準差啥意思?標準差如果太大說明樣本本身離散程度比較高,有可能系統性能波動較大。標準差為0 就是一條直線
使用 Lua 指令碼進行復雜測試
您可能有疑問了,你這種進行 GET 請求還湊合,我想進行 POST 請求咋辦?而且我想每次的請求引數都不一樣,用來模擬使用者使用的實際場景,又要怎麼弄呢?
對於這種需求,我們可以通過編寫 Lua 指令碼的方式,在執行壓測命令時,通過引數--script
來指定 Lua 指令碼,來滿足個性化需求。
4.4.1 wrk 對 Lua 指令碼的支援
wrk 支援在三個階段對壓測進行個性化,分別是啟動階段、執行階段和結束階段。每個測試執行緒,都擁有獨立的Lua 執行環境。
啟動階段:
function setup(thread)
在指令碼檔案中實現 setup 方法,wrk 就會在測試執行緒已經初始化,但還沒有啟動的時候呼叫該方法。wrk會為每一個測試執行緒呼叫一次 setup 方法,並傳入代表測試執行緒的物件 thread 作為引數。setup 方法中可操作該 thread 物件,獲取資訊、儲存資訊、甚至關閉該執行緒。
thread.addr - get or set the thread's server address thread:get(name) - get the value of a global in the thread's env thread:set(name, value) - set the value of a global in the thread's env thread:stop() - stop the thread
執行階段:
function init(args) function delay() function request() function response(status, headers, body)
init(args)
: 由測試執行緒呼叫,只會在進入執行階段時,呼叫一次。支援從啟動 wrk 的命令中,獲取命令列引數;delay()
: 在每次傳送請求之前呼叫,如果需要定製延遲時間,可以在這個方法中設定;request()
: 用來生成請求, 每一次請求都會呼叫該方法,所以注意不要在該方法中做耗時的操作;response(status, headers, body)
: 在每次收到一個響應時被呼叫,為提升效能,如果沒有定義該方法,那麼wrk不會解析headers
和body
;
結束階段:
function done(summary, latency, requests)
done() 方法在整個測試過程中只會被呼叫一次,我們可以從給定的引數中,獲取壓測結果,生成定製化的測試報告。
自定義 Lua 指令碼中可訪問的變數以及方法:
變數:wrk
wrk = { scheme = "http", host = "localhost", port = 8080, method = "GET", path = "/", headers = {}, body = nil, thread = <userdata>, }
以上定義了一個table
型別的全域性變數,修改該wrk
變數,會影響所有請求。
方法:
wrk.fomat
wrk.lookup
wrk.connect
上面三個方法解釋如下
function wrk.format(method, path, headers, body) wrk.format returns a HTTP request string containing the passed parameters merged with values from the wrk table. # 根據引數和全域性變數 wrk,生成一個 HTTP rquest 字串。 function wrk.lookup(host, service) wrk.lookup returns a table containing all known addresses for the host and service pair. This corresponds to the POSIX getaddrinfo() function. # 給定 host 和 service(port/well known service name),返回所有可用的伺服器地址資訊。 function wrk.connect(addr) wrk.connect returns true if the address can be connected to, otherwise it returns false. The address must be one returned from wrk.lookup(). # 測試給定的伺服器地址資訊是否可以成功建立連線
案例:通過 Lua 指令碼壓測示例
呼叫 POST 介面:
wrk.method = "POST" wrk.body = "foo=bar&baz=quux" wrk.headers["Content-Type"] = "application/x-www-form-urlencoded"
注意: wrk 是個全域性變數,這裡對其做了修改,使得所有請求都使用 POST 的方式,並指定了 body 和 Content-Type頭。
自定義每次請求的引數:
request = function() uid = math.random(1, 10000000) path = "/test?uid=" .. uid return wrk.format(nil, path) end
在 request 方法中,隨機生成 1~10000000 之間的 uid,並動態生成請求 URL.
每次請求前,延遲 10ms:
function delay() return 10 end
請求的介面需要先進行認證,獲取 token 後,才能發起請求,咋辦?
token = nil path = "/auth" request = function() return wrk.format("GET", path) end response = function(status, headers, body) if not token and status == 200 then token = headers["X-Token"] path = "/test" wrk.headers["X-Token"] = token end end
上面的指令碼表示,在 token 為空的情況下,先請求/auth
介面來認證,獲取 token, 拿到 token 以後,將 token 放置到請求頭中,再請求真正需要壓測的/test
介面。
壓測支援 HTTP pipeline 的服務:
init = function(args) local r = {} r[1] = wrk.format(nil, "/?foo") r[2] = wrk.format(nil, "/?bar") r[3] = wrk.format(nil, "/?baz") req = table.concat(r) end request = function() return req end
通過在 init 方法中將三個 HTTP請求拼接在一起,實現每次傳送三個請求,以使用 HTTP pipeline。