Tomcat併發數優化的方法總結
2010-2-1 12:59:40 org.apache.coyote.http11.Http11Protocol init
資訊: Initializing Coyote HTTP/1.1 on http-8080
2010-2-1 12:59:40 org.apache.catalina.startup.Catalina load
修改成支援NIO的型別,配置如下:
Java程式碼
- <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
-
connectionTimeout="20000"
- redirectPort="8443" />
進行測試,被開啟nio配置,啟動時的資訊,如下:
2010-2-1 13:01:01 org.apache.tomcat.util.net.NioSelectorPool getSharedSelector
資訊: Using a shared selector for servlet write/read
2010-2-1 13:01:01 org.apache.coyote.http11.Http11NioProtocol init
資訊: Initializing Coyote HTTP/1.1 on http-8080
這樣才能讓你真正體驗到Tomcat6下NIO給你的系統帶來的快感。
2,修改Tomcat 6預設的maxThread
引用 開啟server.xml可以看到如下配置:
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
官方文件預設說支援200但似乎超過40就不行了
修改方法 :
Java程式碼
- <Connector port="8080" protocol="HTTP/1.1"
-
connectionTimeout="20000"
- redirectPort="8443" maxThreads="150"/>
引用
在tomcat配置檔案server.xml中的<Connector ... />配置中,和連線數相關的引數有:
minProcessors:最小空閒連線執行緒數,用於提高系統處理效能,預設值為10
maxProcessors:最大連線執行緒數,即:併發處理的最大請求數,預設值為75
acceptCount:允許的最大連線數,應大於等於maxProcessors,預設值為100
enableLookups:是否反查域名,取值為:true或false。為了提高處理能力,應設定為false
connectionTimeout:網路連線超時,單位:毫秒。設定為0表示永不超時,這樣設定有隱患的。通常可設定為30000毫秒。
其中和最大連線數相關的引數為maxProcessors和acceptCount。如果要加大併發連線數,應同時加大這兩個引數。
3,大量的併發也意味著大量的伺服器資源,所以修改一下tomcat的JVM引數也是必要的
錯誤提示:java.lang.OutOfMemoryError: Java heap space
引用 Windows環境下修改“%TOMCAT_HOME%\bin\catalina.bat”檔案,在檔案開頭增加如下設定:set JAVA_OPTS=-Xms256m -Xmx512m
Linux環境下修改“%TOMCAT_HOME%\bin\catalina.sh”檔案,在檔案開頭增加如下設定:JAVA_OPTS=’-Xms256m -Xmx512m’
引用
JVM設定
堆的尺寸
-Xmssize in bytes
設定Java堆的初始尺寸,預設尺寸是2097152 (2MB)。這個值必須是1024個位元組(1KB)的倍數,且比它大。(-server選項把預設尺寸增加到32M。)
-Xmnsize in bytes
為Eden物件設定初始Java堆的大小,預設值為640K。(-server選項把預設尺寸增加到2M。)
-Xmxsize in bytes
設定Java堆的最大尺寸,預設值為64M,(-server選項把預設尺寸增加到128M。) 最大的堆尺寸達到將近2GB(2048MB)。
請注意:很多垃圾收集器的選項依賴於堆大小的設定。請在微調垃圾收集器使用記憶體空間的方式之前,確認是否已經正確設定了堆的尺寸。
垃圾收集:記憶體的使用
-XX:MinHeapFreeRatio=percentage as a whole number
修改垃圾回收之後堆中可用記憶體的最小百分比,預設值是40。如果垃圾回收後至少還有40%的堆記憶體沒有被釋放,則系統將增加堆的尺寸。
-XX:MaxHeapFreeRatio=percentage as a whole number
改變垃圾回收之後和堆記憶體縮小之前可用堆記憶體的最大百分比,預設值為70。這意味著如果在垃圾回收之後還有大於70%的堆記憶體,則系統就會減少堆的尺寸。
-XX:NewSize=size in bytes
為已分配記憶體的物件中的Eden代設定預設的記憶體尺寸。它的預設值是640K。(-server選項把預設尺寸增加到2M。)
-XX:MaxNewSize=size in bytes
允許您改變初期物件空間的上限,新建物件所需的記憶體就是從這個空間中分配來的,這個選項的預設值是640K。(-server選項把預設尺寸增加到2M。)
-XX:NewRatio=value
改變新舊空間的尺寸比例,這個比例的預設值是8,意思是新空間的尺寸是舊空間的1/8。
-XX:SurvivorRatio=number
改變Eden物件空間和殘存空間的尺寸比例,這個比例的預設值是10,意思是Eden物件空間的尺寸比殘存空間大survivorRatio+2倍。
-XX:TargetSurvivorRatio=percentage
設定您所期望的空間提取後被使用的殘存空間的百分比,預設值是50。
-XX:MaxPermSize=size in MB
長久代(permanent generation)的尺寸,預設值為32(32MB)。
有關JVM的引數設定可參考這個地址:http://daichangfu.iteye.com/blog/893844
web server允許的最大連線數還受制於作業系統的核心引數設定,通常Windows是2000個左右,Linux是1000個左右。Unix中如何設定這些引數,請參閱Unix常用監控和管理命令
tomcat的幾種connector方式簡介
Tomcat的四種基於HTTP協議的Connector效能比較
<Connector port="8081" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000" redirectPort="8443"/>
<Connector port="8081" protocol="HTTP/1.1" connectionTimeout="20000"
redirectPort="8443"/>
<Connector executor="tomcatThreadPool"
port="8081" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
<Connector executor="tomcatThreadPool"
port="8081" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000"
redirectPort="8443" />
我們姑且把上面四種Connector按照順序命名為 NIO, HTTP, POOL, NIOP
為了不讓其他因素影響測試結果,我們只對一個很簡單的jsp頁面進行測試,這個頁面僅僅是輸出一個Hello World。假設地址是 http://tomcat1/test.jsp
我們依次對四種Connector進行測試,測試的客戶端在另外一臺機器上用ab命令來完成,測試命令為: ab -c 900 -n 2000 http://tomcat1/test.jsp ,最終的測試結果如下表所示(單位:平均每秒處理的請求數):
NIO HTTP POOL NIOP
281 65 208 365
666 66 110 398
692 65 66 263
256 63 94 459
440 67 145 363
由這五組資料不難看出,HTTP的效能是很穩定,但是也是最差的,而這種方式就是Tomcat的預設配置。NIO方式波動很大,但沒有低於280 的,NIOP是在NIO的基礎上加入執行緒池,可能是程式處理更復雜了,因此效能不見得比NIO強;而POOL方式則波動很大,測試期間和HTTP方式一樣,不時有停滯。
由於linux的核心預設限制了最大開啟檔案數目是1024,因此此次併發數控制在900。
儘管這一個結果在實際的網站中因為各方面因素導致,可能差別沒這麼大,例如受限於資料庫的效能等等的問題。