Selector BUG出現的原因

若Selector的輪詢結果為空，也沒有wakeup或新訊息處理，則發生空輪詢，CPU使用率100%，

Netty的解決辦法

• 對Selector的select操作週期進行統計，每完成一次空的select操作進行一次計數，

• 若在某個週期內連續發生N次空輪詢，則觸發了epoll死迴圈bug。

• 重建Selector，判斷是否是其他執行緒發起的重建請求，若不是則將原SocketChannel從舊的Selector上去除註冊，重新註冊到新的Selector上，並將原來的Selector關閉。

Netty的高效能之道

1.Netty心跳

（1）定義：心跳其實就是一個簡單的請求，

• 對於服務端：會定時清除閒置會話inactive(netty5)channelclose(netty3)

• 對於客戶端:用來檢測會話是否斷開，是否重來，檢測網路延遲！

（2）idleStateHandler類 用來檢測會話狀態

例：

public class IdleStateHandlerInitializer extends ChannelInitializer<Channel> {

    @Override
    protected void initChannel(Channel ch) throws Exception {
        ChannelPipeline pipeline = ch.pipeline();
        pipeline.addLast(new
 
 IdleStateHandler(0, 0, 60, TimeUnit.SECONDS));  //1
        pipeline.addLast(new HeartbeatHandler());
    }

    public static final class HeartbeatHandler extends ChannelInboundHandlerAdapter {
        private static final ByteBuf HEARTBEAT_SEQUENCE = Unpooled.unreleasableBuffer(
                Unpooled.copiedBuffer("HEARTBEAT"
 
, CharsetUtil.ISO_8859_1));  //2

    @Override
    public void userEventTriggered(ChannelHandlerContext ctx, Object evt) throws Exception {
        if (evt instanceof IdleStateEvent) {
             ctx.writeAndFlush(HEARTBEAT_SEQUENCE.duplicate())
                     .addListener(ChannelFutureListener.CLOSE_ON_FAILURE);  //3
        } else {
            super.userEventTriggered(ctx, evt);  //4
        }
    }
}

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13
• 14
• 15
• 16
• 17
• 18
• 19
• 20
• 21
• 22
• 23
• 24

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13
• 14
• 15
• 16
• 17
• 18
• 19
• 20
• 21
• 22
• 23
• 24

分析：

• IdleStateHandler 將通過 IdleStateEvent 呼叫 userEventTriggered

• 如果連線沒有接收或傳送資料超過60秒鐘，則心跳傳送到遠端

• 傳送的心跳並新增一個偵聽器，如果傳送操作失敗將關閉連線

• 若事件不是 IdleStateEvent ，就將它傳遞給下一個處理程式

2.無鎖化的序列設計理念

（1）通過序列化設計，即訊息的處理儘可能在同一個執行緒內完成，期間不進行執行緒切換，這樣就避免了多執行緒競爭和同步鎖。

（2）Netty的應用

Netty採用了序列無鎖化設計，在IO執行緒內部進行序列操作，避免多執行緒競爭導致的效能下降。表面上看，序列化設計似乎CPU利用率不高，併發程度不夠。但是，通過調整NIO執行緒池的執行緒引數，可以同時啟動多個序列化的執行緒並行執行，這種區域性無鎖化的序列執行緒設計相比一個佇列-多個工作執行緒模型效能更優。

圖解：

分析：NioEventLoop讀取到訊息之後，直接呼叫ChannelPipeline的fireChannelRead(Object msg)方法，只要使用者不主動切換執行緒，一直會由NioEventLoop呼叫到使用者的Handler，期間不進行執行緒切換。

3.Netty的可靠性

（1）鏈路有效性檢測：鏈路空閒檢測機制：讀/寫空閒超時機制

圖解：

（2）記憶體保護機制：通過記憶體池重用ByteBuf;ByteBuf的解碼保護

（3）優雅停機：

• 不再接收新訊息

• 退出前的預處理操作

• 資源的釋放操作

圖解：

4.Netty安全性

（1）Netty支援的安全協議：SSL V2和V3，TLS，SSL單向認證、雙向認證和第三方CA認證。

（2）SSL的三種認證方式

• 單向認證：客戶端只驗證服務端的合法性，服務端不驗證客戶端。

• 雙向認證：與單向認證不同的是服務端也需要對客戶端進行安全認證。這就意味著客戶端的自簽名證書也需要匯入到服務端的數字證書倉庫中。

• CA認證：基於自簽名的SSL雙向認證，只要客戶端或者服務端修改了金鑰和證書，就需要重新進行簽名和證書交換，這種除錯和維護工作量是非常大的。因此，在實際的商用系統中往往會使用第三方CA證書頒發機構進行簽名和驗證。我們的瀏覽器就儲存了幾個常用的CA_ROOT。每次連線到網站時只要這個網站的證書是經過這些CA_ROOT簽名過的。就可以通過驗證了。

5.Netty的高效併發程式設計的體現

（1）volatile的大量、正確使用;

（2）CAS和原子類的廣泛使用；

（3）執行緒安全容器的使用；

（4）通過讀寫鎖提升併發效能。

6.IO通訊效能三原則

（1）三原則：傳輸（AIO）、協議（Http）、執行緒

（2）傳統的RPC框架缺點

• 網路傳輸方式（一請求一應答），當併發量大時，會出現控制代碼溢位，執行緒堆溢位等問題。

• 序列化效能差：碼流大、無法跨語言、CPU佔用率高。

• 執行緒模型：同步阻塞I/O效能差

7.Netty的TCP引數配置

（1）定義：合理設定TCP引數在某些場景下對於效能的提升可以起到顯著的效果，

（2）主要的TCP引數含義

• SO_RCVBUF和SO_SNDBUF：通常建議值為128K或者256K；

• SO_TCPNODELAY：NAGLE演算法通過將緩衝區內的小封包自動相連，組成較大的封包，阻止大量小封包的傳送阻塞網路，從而提高網路應用效率。但是對於時延敏感的應用場景需要關閉該優化演算法；

• 軟中斷：如果Linux核心版本支援RPS（2.6.35以上版本），開啟RPS後可以實現軟中斷，提升網路吞吐量。RPS根據資料包的源地址，目的地址以及目的和源埠，計算出一個hash值，然後根據這個hash值來選擇軟中斷執行的cpu，從上層來看，也就是說將每個連線和cpu繫結，並通過這個hash值，來均衡軟中斷在多個cpu上，提升網路並行處理效能。

8.流量整型的作用（變壓器）

（1）防止由於上下游網元效能不均衡導致下游網元被壓垮，業務流中斷

（2）防止由於通訊模組接受訊息過快，後端業務執行緒處理不及時導致撐死問題

圖解：