1. 程式人生 > >設置最佳線程數總結

設置最佳線程數總結

html space oss 能開 size pan pac 明顯 max

看到一篇關於最佳線程數相關的文章,內容比較經典,不敢私藏,分享一下!

最佳線程數:

性能壓測的情況下,起初隨著用戶數的增加,QPS會上升,當到了一定的閥值之後,用戶數量增加QPS並不會增加,或者增加不明顯,同時請求的響應時間卻大幅增加。這個閥值我們認為是最佳線程數。

為什麽要找最佳線程數

1.過多的線程只會造成,更多的內存開銷,更多的CPU開銷,但是對提升QPS確毫無幫助

2.找到最佳線程數後通過簡單的設置,可以讓web系統更加穩定,得到最高,最穩定的QPS輸出

最佳線程數的獲取:

1、通過用戶慢慢遞增來進行性能壓測,觀察QPS,響應時間

2、根據公式計算:服務器端最佳線程數量=((線程等待時間+線程cpu時間)/線程cpu時間) * cpu數量

3、單用戶壓測,查看CPU的消耗,然後直接乘以百分比,再進行壓測,一般這個值的附近應該就是最佳線程數量。

影響最佳線程數的主要因素:

1、IO

2、CPU

根據公式:服務器端最佳線程數量=((線程等待時間+線程cpu時間)/線程cpu時間) * cpu數量

一般來說是IO和CPU。IO開銷較多的應用其CPU線程等待時間會比較長,所以線程數量可以開的多一些,相反則線程數量要少一些,其實有兩種極端,純IO的應用,比如proxy,則線程數量可以開到非常大(實在太大了則需要考慮線程切換的開銷),這種應用基本上後端(比如這個proxy是代理搜索的)的QPS能有多少,proxy就有多少。

另一種是耗CPU的計算,這種情況一般來講只能開到CPU個數的線程數量。但是並不是說這種應用的QPS就不高,往往這種應用的QPS可以很高。

QPS和線程數的關系

1、在最佳線程數量之前,QPS和線程是互相遞增的關系,線程數量到了最佳線程之後,QPS持平,不在上升,甚至略有下降,同時相應時間持續上升。

2、同一個系統而言,支持的線程數越多(最佳線程數越多而不是配置的線程數越多),QPS越高

QPS和響應時間的關系

1、對於一般的web系統,響應時間一般有CPU執行時間+IO等待時間組成

2、CPU的執行時間減少,對QPS有實質的提升,IO時間的減少,對QPS提升不明顯。如果要想明顯提升QPS,優化系統的時候要著重優化CPU消耗大戶。

最佳線程數和jvm堆內存得關系:

以上都是依據性能瓶頸在CPU的情況,對於java應用還有一個因素是FULL GC,我們要保證在最佳線程數量下,不會發生頻繁FULL GC

根據公式::(小GC時間間隔/rt)*(並發線程數量 * thm) <=young 計算得到的並發線程數量如果<最佳線程數量 則可能導致FULL GC較頻繁,實際情況看來這種情況在web系統上非常少。不過可以模擬出來。

所以我們在設置jboss線程的時候,可以利用內存公式計算出來的線程數量來設置,通過壓測和計算得到最佳線程數,然後設置線程數。

設置線程數量:

壓測最佳線程數<真實設置的線程數量<內存極限線程數

比如,通過壓測得到某系統的最佳線程數量是10,然後通過內存計算的線程數量是20,則,設置jboss的線程數量為15是可行的,如果直接設置了10,由於系統本身會受到一些依賴系統的變化而產生一些變化,比如系統依賴一些IO的響應時間會突然延長,由於線程數量還是10,其實這個時候最佳線程數量已經變成了13了,由於我們設置死了10,其結果就是導致qps下降,但是如果超過20,則又會引起FULL gc非常頻繁,反過來影響QPS的下降。

jboss的線程數設置:

對於jboss而言,設置線程數量要看使用了那種線程連接,如http、ajp等

http和ajp的設置是完全一樣的,非常簡單:

以ajp為例,找到server.xml或者tomcat-server.xml:

默認線程數量是200個

<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="200" minSpareThreads="40" maxSpareThreads="75" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>

這裏將默認的線程數量改成了20,當然相應的其他最小空閑線程數和最大空閑線程數也做一下調整:

<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="20" minSpareThreads="20" maxSpareThreads="20" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>

原文地址:http://blog.sina.com.cn/s/blog_4080505a01016o3d.html

設置最佳線程數總結