1. 程式人生 > >Reactor模式和NIO

Reactor模式和NIO

執行緒狀態轉換圖

就是非阻塞IO 採用多路分發方式
舉個例子吧,你伺服器做一個聊天室,按照以前的阻塞式IO,你必須為每個連線建立一個執行緒 因為當你呼叫如 in.read(buf)時,執行緒會阻塞在這裡。而採用nio,只要註冊了事件,它內部採用反應模式,當有IO事件發生時,再排程它,而不用等待在那裡.

當前分散式計算 Web Services盛行天下,這些網路服務的底層都離不開對socket的操作。他們都有一個共同的結構:
1. Read request
2. Decode request
3. Process service
4. Encode reply
5. Send reply

經典的網路服務的設計如下圖,在每個執行緒中完成對資料的處理:

但這種模式在使用者負載增加時,效能將下降非常的快。我們需要重新尋找一個新的方案,保持資料處理的流暢,很顯然,事件觸發機制是最好的解決辦法,當有事件發生時,會觸動handler,然後開始資料的處理。

Reactor模式類似於AWT中的Event處理:

Reactor模式參與者

1.Reactor 負責響應IO事件,一旦發生,廣播發送給相應的Handler去處理,這類似於AWT的thread
2.Handler 是負責非堵塞行為,類似於AWT ActionListeners;同時負責將handlers與event事件繫結,類似於AWT addActionListener

如圖:

Java的NIO為reactor模式提供了實現的基礎機制,它的Selector當發現某個channel有資料時,會通過SlectorKey來告知我們,在此我們實現事件和handler的繫結。

我們來看看Reactor模式程式碼:


public class Reactor implements Runnable{

  final Selector selector;
  final ServerSocketChannel serverSocket;

  Reactor(int port) throws IOException {
    selector = Selector.open();
    serverSocket = ServerSocketChannel.open();
    InetSocketAddress address = new InetSocketAddress(InetAddress.getLocalHost(),port);
    serverSocket.socket().bind(address);

    serverSocket.configureBlocking(false);
    //向selector註冊該channel
     SelectionKey sk =serverSocket.register(selector,SelectionKey.OP_ACCEPT);

    logger.debug("-->Start serverSocket.register!");

    //利用sk的attache功能繫結Acceptor 如果有事情,觸發Acceptor
    sk.attach(new Acceptor());
    logger.debug("-->attach(new Acceptor()!");
  }


  public void run() { // normally in a new Thread
    try {
    while (!Thread.interrupted())
    {
      selector.select();
      Set selected = selector.selectedKeys();
      Iterator it = selected.iterator();
      //Selector如果發現channel有OP_ACCEPT或READ事件發生,下列遍歷就會進行。
      while (it.hasNext())
        //來一個事件 第一次觸發一個accepter執行緒
        //以後觸發SocketReadHandler
        dispatch((SelectionKey)(it.next()));
        selected.clear();
      }
    }catch (IOException ex) {
        logger.debug("reactor stop!"+ex);
    }
  }

  //執行Acceptor或SocketReadHandler
  void dispatch(SelectionKey k) {
    Runnable r = (Runnable)(k.attachment());
    if (r != null){
      // r.run();

    }
  }

  class Acceptor implements Runnable { // inner
    public void run() {
    try {
      logger.debug("-->ready for accept!");
      SocketChannel c = serverSocket.accept();
      if (c != null)
        //呼叫Handler來處理channel
        new SocketReadHandler(selector, c);
      }
    catch(IOException ex) {
      logger.debug("accept stop!"+ex);
    }
    }
  }
}

以上程式碼中巧妙使用了SocketChannel的attach功能,將Hanlder和可能會發生事件的channel連結在一起,當發生事件時,可以立即觸發相應連結的Handler。

再看看Handler程式碼:

public class SocketReadHandler implements Runnable {

  public static Logger logger = Logger.getLogger(SocketReadHandler.class);

  private Test test=new Test();

  final SocketChannel socket;
  final SelectionKey sk;

   static final int READING = 0, SENDING = 1;
  int state = READING;

  public SocketReadHandler(Selector sel, SocketChannel c)
    throws IOException {

    socket = c;

    socket.configureBlocking(false);
     sk = socket.register(sel, 0);

    //將SelectionKey繫結為本Handler 下一步有事件觸發時,將呼叫本類的run方法。
    //參看dispatch(SelectionKey k)
    sk.attach(this);

    //同時將SelectionKey標記為可讀,以便讀取。
    sk.interestOps(SelectionKey.OP_READ);
    sel.wakeup();
  }

  public void run() {
    try{
    // test.read(socket,input);
      readRequest() ;
    }catch(Exception ex){
    logger.debug("readRequest error"+ex);
    }
  }


/**
* 處理讀取data
* @param key
* @throws Exception
*/
private void readRequest() throws Exception {

  ByteBuffer input = ByteBuffer.allocate(1024);
  input.clear();
  try{

    int bytesRead = socket.read(input);

    ......

    //啟用執行緒池 處理這些request
    requestHandle(new Request(socket,btt));

    .....


  }catch(Exception e) {
  }

}

注意在Handler裡面又執行了一次attach,這樣,覆蓋前面的Acceptor,下次該Handler又有READ事件發生時,將直接觸發Handler.從而開始了資料的讀 處理 寫 發出等流程處理。

將資料讀出後,可以將這些資料處理執行緒做成一個執行緒池,這樣,資料讀出後,立即扔到執行緒池中,這樣加速處理速度:

更進一步,我們可以使用多個Selector分別處理連線和讀事件。

一個高效能的Java網路服務機制就要形成,激動人心的叢集平行計算即將實現。

--------------

Java NIO非堵塞應用通常適用用在I/O讀寫等方面,我們知道,系統執行的效能瓶頸通常在I/O讀寫,包括對埠和檔案的操作上,過去,在開啟一個I/O通道後,read()將一直等待在埠一邊讀取位元組內容,如果沒有內容進來,read()也是傻傻的等,這會影響我們程式繼續做其他事情,那麼改進做法就是開設執行緒,讓執行緒去等待,但是這樣做也是相當耗費資源的。

Java NIO非堵塞技術實際是採取Reactor模式,或者說是Observer模式為我們監察I/O埠,如果有內容進來,會自動通知我們,這樣,我們就不必開啟多個執行緒死等,從外界看,實現了流暢的I/O讀寫,不堵塞了。

Java NIO出現不只是一個技術性能的提高,你會發現網路上到處在介紹它,因為它具有里程碑意義,從JDK1.4開始,Java開始提高效能相關的功能,從而使得Java在底層或者並行分散式計算等操作上已經可以和C或Perl等語言並駕齊驅。

如果你至今還是在懷疑Java的效能,說明你的思想和觀念已經完全落伍了,Java一兩年就應該用新的名詞來定義。從JDK1.5開始又要提供關於執行緒、併發等新效能的支援,Java應用在遊戲等適時領域方面的機會已經成熟,Java在穩定自己中介軟體地位後,開始蠶食傳統C的領域。

本文主要簡單介紹NIO的基本原理,在下一篇文章中,將結合Reactor模式和著名執行緒大師Doug Lea的一篇文章深入討論。

NIO主要原理和適用。

NIO 有一個主要的類Selector,這個類似一個觀察者,只要我們把需要探知的socketchannel告訴Selector,我們接著做別的事情,當有事件發生時,他會通知我們,傳回一組SelectionKey,我們讀取這些Key,就會獲得我們剛剛註冊過的socketchannel,然後,我們從這個Channel中讀取資料,放心,包準能夠讀到,接著我們可以處理這些資料。

Selector內部原理實際是在做一個對所註冊的channel的輪詢訪問,不斷的輪詢(目前就這一個演算法),一旦輪詢到一個channel有所註冊的事情發生,比如資料來了,他就會站起來報告,交出一把鑰匙,讓我們通過這把鑰匙來讀取這個channel的內容。

瞭解了這個基本原理,我們結合程式碼看看使用,在使用上,也在分兩個方向,一個是執行緒處理,一個是用非執行緒,後者比較簡單,看下面程式碼:


import java.io.*;
import java.nio.*;
import java.nio.channels.*;
import java.nio.channels.spi.*;
import java.net.*;
import java.util.*;

/**
*
* @author Administrator
* @version
*/

public class NBTest {


  /** Creates new NBTest */
  public NBTest()
  {
  }

  public void startServer() throws Exception
  {
  int channels = 0;
  int nKeys = 0;
  int currentSelector = 0;

  //使用Selector
  Selector selector = Selector.open();

  //建立Channel 並繫結到9000埠
  ServerSocketChannel ssc = ServerSocketChannel.open();
  InetSocketAddress address = new InetSocketAddress(InetAddress.getLocalHost(),9000);
  ssc.socket().bind(address);

  //使設定non-blocking的方式。
  ssc.configureBlocking(false);

  //向Selector註冊Channel及我們有興趣的事件
  SelectionKey s = ssc.register(selector, SelectionKey.OP_ACCEPT);
  printKeyInfo(s);

  while(true) //不斷的輪詢
  {
    debug("NBTest: Starting select");

    //Selector通過select方法通知我們我們感興趣的事件發生了。
    nKeys = selector.select();
    //如果有我們註冊的事情發生了,它的傳回值就會大於0
    if(nKeys > 0)
    {
      debug("NBTest: Number of keys after select operation: " +nKeys);

      //Selector傳回一組SelectionKeys
      //我們從這些key中的channel()方法中取得我們剛剛註冊的channel。
      Set selectedKeys = selector.selectedKeys();
      Iterator i = selectedKeys.iterator();
      while(i.hasNext())
      {
         s = (SelectionKey) i.next();
         printKeyInfo(s);
         debug("NBTest: Nr Keys in selector: " +selector.keys().size());

         //一個key被處理完成後,就都被從就緒關鍵字(ready keys)列表中除去
         i.remove();
         if(s.isAcceptable())
         {
           // 從channel()中取得我們剛剛註冊的channel。
           Socket socket = ((ServerSocketChannel)s.channel()).accept().socket();
           SocketChannel sc = socket.getChannel();

           sc.configureBlocking(false);
           sc.register(selector, SelectionKey.OP_READ |SelectionKey.OP_WRITE);
                      System.out.println(++channels);
         }
         else
         {
           debug("NBTest: Channel not acceptable");
         }
      }
   }
   else
   {
      debug("NBTest: Select finished without any keys.");
   }

  }

}


private static void debug(String s)
{
  System.out.println(s);
}


private static void printKeyInfo(SelectionKey sk)
{
  String s = new String();

  s = "Att: " + (sk.attachment() == null ? "no" : "yes");
  s += ", Read: " + sk.isReadable();
  s += ", Acpt: " + sk.isAcceptable();
  s += ", Cnct: " + sk.isConnectable();
  s += ", Wrt: " + sk.isWritable();
  s += ", Valid: " + sk.isValid();
  s += ", Ops: " + sk.interestOps();
  debug(s);
}


/**
* @param args the command line arguments
*/
public static void main (String args[])
{
  NBTest nbTest = new NBTest();
  try
  {
    nbTest.startServer();
  }
    catch(Exception e)
  {
    e.printStackTrace();
  }
}

}

這是一個守候在埠9000的noblock server例子,如果我們編制一個客戶端程式,就可以對它進行互動操作,或者使用telnet 主機名 90000 可以連結上。

通過仔細閱讀這個例程,相信你已經大致瞭解NIO的原理和使用方法,下一篇,我們將使用多執行緒來處理這些資料,再搭建一個自己的Reactor模式。