1. 程式人生 > >Tomcat BIO 、NIO 、AIO(NIO.2) 比較

Tomcat BIO 、NIO 、AIO(NIO.2) 比較

由於Tomcat web 伺服器負載過大,導致部分頁面出現了不可訪問的狀態,針對tomcat bio、nio、apr模式進行測試。

Java對BIO、NIO、AIO的支援:

  • Java BIO : 同步並阻塞,伺服器實現模式為一個連線一個執行緒,即客戶端有連線請求時伺服器端就需要啟動一個執行緒進行處理,如果這個連線不做任何事情會造成不必要的執行緒開銷,當然可以通過執行緒池機制改善。
  • Java NIO : 同步非阻塞,伺服器實現模式為一個請求一個執行緒,即客戶端傳送的連線請求都會註冊到多路複用器上,多路複用器輪詢到連線有I/O請求時才啟動一個執行緒進行處理。
  • Java AIO(NIO.2) : 非同步非阻塞,伺服器實現模式為一個有效請求一個執行緒,客戶端的I/O請求都是由OS先完成了再通知伺服器應用去啟動執行緒進行處理

BIO、NIO、AIO適用場景分析:

  • BIO方式適用於連線數目比較小且固定的架構,這種方式對伺服器資源要求比較高,併發侷限於應用中,JDK1.4以前的唯一選擇,但程序直觀簡單易理解。
  • NIO方式適用於連線數目多且連線比較短(輕操作)的架構,比如聊天伺服器,併發侷限於應用中,程式設計比較複雜,JDK1.4開始支援。
  • AIO方式使用於連線數目多且連線比較長(重操作)的架構,比如相簿伺服器,充分呼叫OS參與併發操作,程式設計比較複雜,JDK7開始支援。

tomcat 的 bio、nio、apr 模式

bio
bio(blocking I/O),顧名思義,即阻塞式I/O操作,表示Tomcat使用的是傳統的Java I/O操作(即java.io包及其子包)。Tomcat在預設情況下,就是以bio模式執行的。遺憾的是,就一般而言,bio模式是三種執行模式中效能最低的一種。我們可以通過Tomcat Manager來檢視伺服器的當前狀態。

nio
是Java SE 1.4及後續版本提供的一種新的I/O操作方式(即java.nio包及其子包)。Java nio是一個基於緩衝區、並能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的縮寫。它擁有比傳統I/O操作(bio)更好的併發執行效能。

apr
(Apache Portable Runtime/Apache可移植執行庫),是Apache HTTP伺服器的支援庫。你可以簡單地理解為,Tomcat將以JNI的形式呼叫Apache HTTP伺服器的核心動態連結庫來處理文件讀取或網路傳輸操作,從而大大地提高Tomcat對靜態文件的處理效能。 Tomcat apr也是在Tomcat上執行高併發應用的首選模式。

tomcat管理介面配置起來,以便等下能更方便的觀察我們的bio、nio、apr 模式

新增manager/status使用者

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml
<role rolename="manager-gui"/>       
<user username="tomcat" password="15715746746" roles="manager-gui"/>

配置完重啟,通過ip:port/manager/status 就可以看tomcat狀態了,裡面有伺服器的資訊及tomcat資訊。

bio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="HTTP/1.1"
               connectionTimeout="20000"
               redirectPort="8443" />

nio server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

apr server.xml 配置 (重啟生效)

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
               connectionTimeout="20000"
               redirectPort="8443" />

當然,apr模式還需要安裝 apr 、 apr-utils 、tomcat-native包

apr 安裝
tar zxf apr-1.5.2.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-1.5.2/
./configure --prefix=/usr/local/apr && make && make install


apr-utils 安裝
tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-util-1.5.4/
./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install 


tomcat-native安裝
cd /usr/local/apache-tomcat-7.0.65/bin/
tar zxf tomcat-native.tar.gz 
cd tomcat-native-1.1.33-src/jni/native
./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安裝完後記得在 /etc/profile 的JAVA變數後面多加一條APR的環境變數

設定環境變數

JAVA_HOME=/usr/local/java
JAVA_BIN=$JAVA_HOME/bin
PATH=$PATH:$JAVA_BIN
CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib 

java的 bio 、nio 、aio特性,在web伺服器上阻塞IO(BIO)與NIO一個比較重要的不同是,客戶系統使用BIO的時候往往會為每一個web請求引入多執行緒,每個web請求一個單獨的執行緒,所以併發量一旦上去了,執行緒數就上去了,CPU就忙著執行緒切換,所以BIO不合適高吞吐量、高可伸縮的web伺服器;而NIO則是使用單執行緒(單個CPU)或者只使用少量的多執行緒(多CPU)來接受Socket,而由執行緒池來處理堵塞在pipe或者佇列裡的請求.這樣的話,只要OS可以接受TCP的連線,web伺服器就可以處理該請求。大大提高了web伺服器的可伸縮性。

下面是網友測試結果的效能測試表格,通過jmeter壓測軟體(jmeter軟體使用自行google)本地測試的,測試當中會涉及到很多因素,例如(磁碟io、頻寬、記憶體、cpu、以及內核配置中的tcp各種狀態,甚至是各種開啟文件限制,都會影響到測試結果)。

資料來源

隨著執行緒的不斷增多,bio 模式效能越來越差,就算是在本地,錯誤率和響應時間都在明顯的增加、而吞吐量、樣本數和每秒傳輸速率都在下降,建議使用nginx web 軟體進行proxy實作load balance,提供多個tomcat 節點來提供更穩定的服務。

而 bio 和 apr模式基本上沒有變化太多,都保持在一個穩定的狀態。

總結:

在 tomcat bio、nio、apr 模式中,每種都會有各自適用的場合,也不能説哪個好那個不好,就像 tomcat 記憶體方面的配置,如果記憶體設定的過大,gc 垃圾回收機制就會變慢;如果記憶體設定的過小,tomcat又會出現記憶體溢位的情況,所以設定在一個合適的範圍很重要,不僅不會出錯,並且gc回收頻繁使效能達到一個最優的結果。當然,這也需要根據不同的場合進行不同的測試才能產生最優的結果!