1、引言
Netty 是一個(gè)廣受歡迎的異步事件驅(qū)動(dòng)的Java開源網(wǎng)絡(luò)應(yīng)用程序框架，用于快速開發(fā)可維護(hù)的高性能協(xié)議服務(wù)器和客戶端。
本文基于 Netty 4.1 展開介紹相關(guān)理論模型，使用場(chǎng)景，基本組件、整體架構(gòu)，知其然且知其所以然，希望給大家在實(shí)際開發(fā)實(shí)踐、學(xué)習(xí)開源項(xiàng)目方面提供參考。
本文作者的另兩篇《高性能網(wǎng)絡(luò)編程(五)：一文讀懂高性能網(wǎng)絡(luò)編程中的I/O模型》、《高性能網(wǎng)絡(luò)編程(六)：一文讀懂高性能網(wǎng)絡(luò)編程中的線程模型》也寫的很好，有興趣的讀者可以一并看看。
關(guān)于作者：
陳彩華(caison)，從事服務(wù)端開發(fā)，善于系統(tǒng)設(shè)計(jì)、優(yōu)化重構(gòu)、線上問題排查工作，主要開發(fā)語言是 Java，微信號(hào)：hua1881375。
（本文同步發(fā)布于：http://www.52im.net/thread-2043-1-1.html）
2、相關(guān)資料
Netty源碼在線閱讀：
Netty-4.1.x地址是：http://docs.52im.net/extend/docs/src/netty4_1/
Netty-4.0.x地址是：http://docs.52im.net/extend/docs/src/netty4/
Netty-3.x地址是：http://docs.52im.net/extend/docs/src/netty3/
Netty在線API文檔：
Netty-4.1.x API文檔(在線版)：http://docs.52im.net/extend/docs/api/netty4_1/
Netty-4.0.x API文檔(在線版)：http://docs.52im.net/extend/docs/api/netty4/
Netty-3.x API文檔(在線版)：http://docs.52im.net/extend/docs/api/netty3/
有關(guān)Netty的其它精華文章：
《有關(guān)“為何選擇Netty”的11個(gè)疑問及解答》
《開源NIO框架八卦——到底是先有MINA還是先有Netty?》
《選Netty還是Mina：深入研究與對(duì)比（一）》
《選Netty還是Mina：深入研究與對(duì)比（二）》
《Netty 4.x學(xué)習(xí)（一）：ByteBuf詳解》
《Netty 4.x學(xué)習(xí)（二）：Channel和Pipeline詳解》
《Netty 4.x學(xué)習(xí)（三）：線程模型詳解》
《實(shí)踐總結(jié)：Netty3.x升級(jí)Netty4.x遇到的那些坑（線程篇）》
《實(shí)踐總結(jié)：Netty3.x VS Netty4.x的線程模型》
《詳解Netty的安全性：原理介紹、代碼演示（上篇）》
《詳解Netty的安全性：原理介紹、代碼演示（下篇）》
《詳解Netty的優(yōu)雅退出機(jī)制和原理》
《NIO框架詳解：Netty的高性能之道》
《Twitter：如何使用Netty 4來減少JVM的GC開銷（譯文）》
《絕對(duì)干貨：基于Netty實(shí)現(xiàn)海量接入的推送服務(wù)技術(shù)要點(diǎn)》
《Netty干貨分享：京東京麥的生產(chǎn)級(jí)TCP網(wǎng)關(guān)技術(shù)實(shí)踐總結(jié)》
3、JDK 原生 NIO 程序的問題
JDK 原生也有一套網(wǎng)絡(luò)應(yīng)用程序 API，但是存在一系列問題，主要如下：
1）NIO 的類庫(kù)和 API 繁雜，使用麻煩：你需要熟練掌握 Selector、ServerSocketChannel、SocketChannel、ByteBuffer 等。
2）需要具備其他的額外技能做鋪墊：例如熟悉 Java 多線程編程，因?yàn)?NIO 編程涉及到 Reactor 模式，你必須對(duì)多線程和網(wǎng)路編程非常熟悉，才能編寫出高質(zhì)量的 NIO 程序。
3）可靠性能力補(bǔ)齊，開發(fā)工作量和難度都非常大：例如客戶端面臨斷連重連、網(wǎng)絡(luò)閃斷、半包讀寫、失敗緩存、網(wǎng)絡(luò)擁塞和異常碼流的處理等等。NIO 編程的特點(diǎn)是功能開發(fā)相對(duì)容易，但是可靠性能力補(bǔ)齊工作量和難度都非常大。
4）JDK NIO 的 Bug：例如臭名昭著的 Epoll Bug，它會(huì)導(dǎo)致 Selector 空輪詢，最終導(dǎo)致 CPU 100%。官方聲稱在 JDK 1.6 版本的 update 18 修復(fù)了該問題，但是直到 JDK 1.7 版本該問題仍舊存在，只不過該 Bug 發(fā)生概率降低了一些而已，它并沒有被根本解決。
4、Netty 的特點(diǎn)
Netty 對(duì) JDK 自帶的 NIO 的 API 進(jìn)行了封裝，解決了上述問題。
Netty的主要特點(diǎn)有：
1）設(shè)計(jì)優(yōu)雅：適用于各種傳輸類型的統(tǒng)一 API 阻塞和非阻塞 Socket；基于靈活且可擴(kuò)展的事件模型，可以清晰地分離關(guān)注點(diǎn)；高度可定制的線程模型 - 單線程，一個(gè)或多個(gè)線程池；真正的無連接數(shù)據(jù)報(bào)套接字支持（自 3.1 起）。
2）使用方便：詳細(xì)記錄的 Javadoc，用戶指南和示例；沒有其他依賴項(xiàng)，JDK 5（Netty 3.x）或 6（Netty 4.x）就足夠了。
3）高性能、吞吐量更高：延遲更低；減少資源消耗；最小化不必要的內(nèi)存復(fù)制。
4）安全：完整的 SSL/TLS 和 StartTLS 支持。
5）社區(qū)活躍、不斷更新：社區(qū)活躍，版本迭代周期短，發(fā)現(xiàn)的 Bug 可以被及時(shí)修復(fù)，同時(shí)，更多的新功能會(huì)被加入。
5、Netty 常見使用場(chǎng)景
Netty 常見的使用場(chǎng)景如下：
1）互聯(lián)網(wǎng)行業(yè)：在分布式系統(tǒng)中，各個(gè)節(jié)點(diǎn)之間需要遠(yuǎn)程服務(wù)調(diào)用，高性能的 RPC 框架必不可少，Netty 作為異步高性能的通信框架，往往作為基礎(chǔ)通信組件被這些 RPC 框架使用。典型的應(yīng)用有：阿里分布式服務(wù)框架 Dubbo 的 RPC 框架使用 Dubbo 協(xié)議進(jìn)行節(jié)點(diǎn)間通信，Dubbo 協(xié)議默認(rèn)使用 Netty 作為基礎(chǔ)通信組件，用于實(shí)現(xiàn)各進(jìn)程節(jié)點(diǎn)之間的內(nèi)部通信。
2）游戲行業(yè)：無論是手游服務(wù)端還是大型的網(wǎng)絡(luò)游戲，Java 語言得到了越來越廣泛的應(yīng)用。Netty 作為高性能的基礎(chǔ)通信組件，它本身提供了 TCP/UDP 和 HTTP 協(xié)議棧。
非常方便定制和開發(fā)私有協(xié)議棧，賬號(hào)登錄服務(wù)器，地圖服務(wù)器之間可以方便的通過 Netty 進(jìn)行高性能的通信。
3）大數(shù)據(jù)領(lǐng)域：經(jīng)典的 Hadoop 的高性能通信和序列化組件 Avro 的 RPC 框架，默認(rèn)采用 Netty 進(jìn)行跨界點(diǎn)通信，它的 Netty Service 基于 Netty 框架二次封裝實(shí)現(xiàn)。
有興趣的讀者可以了解一下目前有哪些開源項(xiàng)目使用了 Netty的Related Projects。
6、Netty 高性能設(shè)計(jì)
Netty 作為異步事件驅(qū)動(dòng)的網(wǎng)絡(luò)，高性能之處主要來自于其 I/O 模型和線程處理模型，前者決定如何收發(fā)數(shù)據(jù)，后者決定如何處理數(shù)據(jù)。
6.1 I/O 模型
用什么樣的通道將數(shù)據(jù)發(fā)送給對(duì)方，BIO、NIO 或者 AIO，I/O 模型在很大程度上決定了框架的性能。
【阻塞 I/O】：
傳統(tǒng)阻塞型 I/O(BIO)可以用下圖表示：
特點(diǎn)如下：
每個(gè)請(qǐng)求都需要獨(dú)立的線程完成數(shù)據(jù) Read，業(yè)務(wù)處理，數(shù)據(jù) Write 的完整操作問題。
當(dāng)并發(fā)數(shù)較大時(shí)，需要?jiǎng)?chuàng)建大量線程來處理連接，系統(tǒng)資源占用較大。
連接建立后，如果當(dāng)前線程暫時(shí)沒有數(shù)據(jù)可讀，則線程就阻塞在 Read 操作上，造成線程資源浪費(fèi)。
【I/O 復(fù)用模型】：
在 I/O 復(fù)用模型中，會(huì)用到 Select，這個(gè)函數(shù)也會(huì)使進(jìn)程阻塞，但是和阻塞 I/O 所不同的是這兩個(gè)函數(shù)可以同時(shí)阻塞多個(gè) I/O 操作。
而且可以同時(shí)對(duì)多個(gè)讀操作，多個(gè)寫操作的 I/O 函數(shù)進(jìn)行檢測(cè)，直到有數(shù)據(jù)可讀或可寫時(shí)，才真正調(diào)用 I/O 操作函數(shù)。
Netty 的非阻塞 I/O 的實(shí)現(xiàn)關(guān)鍵是基于 I/O 復(fù)用模型，這里用 Selector 對(duì)象表示：
Netty 的 IO 線程 NioEventLoop 由于聚合了多路復(fù)用器 Selector，可以同時(shí)并發(fā)處理成百上千個(gè)客戶端連接。
當(dāng)線程從某客戶端 Socket 通道進(jìn)行讀寫數(shù)據(jù)時(shí)，若沒有數(shù)據(jù)可用時(shí)，該線程可以進(jìn)行其他任務(wù)。
線程通常將非阻塞 IO 的空閑時(shí)間用于在其他通道上執(zhí)行 IO 操作，所以單獨(dú)的線程可以管理多個(gè)輸入和輸出通道。
由于讀寫操作都是非阻塞的，這就可以充分提升 IO 線程的運(yùn)行效率，避免由于頻繁 I/O 阻塞導(dǎo)致的線程掛起。
一個(gè) I/O 線程可以并發(fā)處理 N 個(gè)客戶端連接和讀寫操作，這從根本上解決了傳統(tǒng)同步阻塞 I/O 一連接一線程模型，架構(gòu)的性能、彈性伸縮能力和可靠性都得到了極大的提升。
【基于 Buffer】：
傳統(tǒng)的 I/O 是面向字節(jié)流或字符流的，以流式的方式順序地從一個(gè) Stream 中讀取一個(gè)或多個(gè)字節(jié), 因此也就不能隨意改變讀取指針的位置。
在 NIO 中，拋棄了傳統(tǒng)的 I/O 流，而是引入了 Channel 和 Buffer 的概念。在 NIO 中，只能從 Channel 中讀取數(shù)據(jù)到 Buffer 中或?qū)?shù)據(jù)從 Buffer 中寫入到 Channel。
基于 Buffer 操作不像傳統(tǒng) IO 的順序操作，NIO 中可以隨意地讀取任意位置的數(shù)據(jù)。
6.2 線程模型
數(shù)據(jù)報(bào)如何讀取？讀取之后的編解碼在哪個(gè)線程進(jìn)行，編解碼后的消息如何派發(fā)，線程模型的不同，對(duì)性能的影響也非常大。
【事件驅(qū)動(dòng)模型】：
通常，我們?cè)O(shè)計(jì)一個(gè)事件處理模型的程序有兩種思路：
1）輪詢方式：線程不斷輪詢?cè)L問相關(guān)事件發(fā)生源有沒有發(fā)生事件，有發(fā)生事件就調(diào)用事件處理邏輯；
2）事件驅(qū)動(dòng)方式：發(fā)生事件，主線程把事件放入事件隊(duì)列，在另外線程不斷循環(huán)消費(fèi)事件列表中的事件，調(diào)用事件對(duì)應(yīng)的處理邏輯處理事件。事件驅(qū)動(dòng)方式也被稱為消息通知方式，其實(shí)是設(shè)計(jì)模式中觀察者模式的思路。
以 GUI 的邏輯處理為例，說明兩種邏輯的不同：
1）輪詢方式：線程不斷輪詢是否發(fā)生按鈕點(diǎn)擊事件，如果發(fā)生，調(diào)用處理邏輯。
2）事件驅(qū)動(dòng)方式：發(fā)生點(diǎn)擊事件把事件放入事件隊(duì)列，在另外線程消費(fèi)的事件列表中的事件，根據(jù)事件類型調(diào)用相關(guān)事件處理邏輯。
這里借用 O'Reilly 大神關(guān)于事件驅(qū)動(dòng)模型解釋圖：
主要包括 4 個(gè)基本組件：
1）事件隊(duì)列（event queue）：接收事件的入口，存儲(chǔ)待處理事件；
2）分發(fā)器（event mediator）：將不同的事件分發(fā)到不同的業(yè)務(wù)邏輯單元；
3）事件通道（event channel）：分發(fā)器與處理器之間的聯(lián)系渠道；
4）事件處理器（event processor）：實(shí)現(xiàn)業(yè)務(wù)邏輯，處理完成后會(huì)發(fā)出事件，觸發(fā)下一步操作。
可以看出，相對(duì)傳統(tǒng)輪詢模式，事件驅(qū)動(dòng)有如下優(yōu)點(diǎn)：
1）可擴(kuò)展性好：分布式的異步架構(gòu)，事件處理器之間高度解耦，可以方便擴(kuò)展事件處理邏輯；
2）高性能：基于隊(duì)列暫存事件，能方便并行異步處理事件。
【Reactor 線程模型】：
Reactor 是反應(yīng)堆的意思，Reactor 模型是指通過一個(gè)或多個(gè)輸入同時(shí)傳遞給服務(wù)處理器的服務(wù)請(qǐng)求的事件驅(qū)動(dòng)處理模式。
服務(wù)端程序處理傳入多路請(qǐng)求，并將它們同步分派給請(qǐng)求對(duì)應(yīng)的處理線程，Reactor 模式也叫 Dispatcher 模式，即 I/O 多了復(fù)用統(tǒng)一監(jiān)聽事件，收到事件后分發(fā)(Dispatch 給某進(jìn)程)，是編寫高性能網(wǎng)絡(luò)服務(wù)器的必備技術(shù)之一。
Reactor 模型中有 2 個(gè)關(guān)鍵組成：
1）Reactor：Reactor 在一個(gè)單獨(dú)的線程中運(yùn)行，負(fù)責(zé)監(jiān)聽和分發(fā)事件，分發(fā)給適當(dāng)?shù)奶幚沓绦騺韺?duì) IO 事件做出反應(yīng)。它就像公司的電話接線員，它接聽來自客戶的電話并將線路轉(zhuǎn)移到適當(dāng)?shù)穆?lián)系人；
2）Handlers：處理程序執(zhí)行 I/O 事件要完成的實(shí)際事件，類似于客戶想要與之交談的公司中的實(shí)際官員。Reactor 通過調(diào)度適當(dāng)?shù)奶幚沓绦騺眄憫?yīng) I/O 事件，處理程序執(zhí)行非阻塞操作。
取決于 Reactor 的數(shù)量和 Hanndler 線程數(shù)量的不同，Reactor 模型有 3 個(gè)變種：
1）單 Reactor 單線程；
2）單 Reactor 多線程；
3）主從 Reactor 多線程。
可以這樣理解，Reactor 就是一個(gè)執(zhí)行 while (true) { selector.select(); …} 循環(huán)的線程，會(huì)源源不斷的產(chǎn)生新的事件，稱作反應(yīng)堆很貼切。
篇幅關(guān)系，這里不再具體展開 Reactor 特性、優(yōu)缺點(diǎn)比較，有興趣的讀者可以參考我之前另外一篇文章：《高性能網(wǎng)絡(luò)編程(五)：一文讀懂高性能網(wǎng)絡(luò)編程中的I/O模型》、《高性能網(wǎng)絡(luò)編程(六)：一文讀懂高性能網(wǎng)絡(luò)編程中的線程模型》。
【Netty 線程模型】：
Netty 主要基于主從 Reactors 多線程模型（如下圖）做了一定的修改，其中主從 Reactor 多線程模型有多個(gè) Reactor：
1）MainReactor 負(fù)責(zé)客戶端的連接請(qǐng)求，并將請(qǐng)求轉(zhuǎn)交給 SubReactor；
2）SubReactor 負(fù)責(zé)相應(yīng)通道的 IO 讀寫請(qǐng)求；
3）非 IO 請(qǐng)求（具體邏輯處理）的任務(wù)則會(huì)直接寫入隊(duì)列，等待 worker threads 進(jìn)行處理。
這里引用 Doug Lee 大神的 Reactor 介紹——Scalable IO in Java 里面關(guān)于主從 Reactor 多線程模型的圖：
特別說明的是：雖然 Netty 的線程模型基于主從 Reactor 多線程，借用了 MainReactor 和 SubReactor 的結(jié)構(gòu)。但是實(shí)際實(shí)現(xiàn)上 SubReactor 和 Worker 線程在同一個(gè)線程池中：
EventLoopGroup bossGroup = newNioEventLoopGroup();
EventLoopGroup workerGroup = newNioEventLoopGroup();
ServerBootstrap server = newServerBootstrap();
server.group(bossGroup, workerGroup)
.channel(NioServerSocketChannel.class)
上面代碼中的 bossGroup 和 workerGroup 是 Bootstrap 構(gòu)造方法中傳入的兩個(gè)對(duì)象，這兩個(gè) group 均是線程池：
1）bossGroup 線程池則只是在 Bind 某個(gè)端口后，獲得其中一個(gè)線程作為 MainReactor，專門處理端口的 Accept 事件，每個(gè)端口對(duì)應(yīng)一個(gè) Boss 線程；
2）workerGroup 線程池會(huì)被各個(gè) SubReactor 和 Worker 線程充分利用。
【異步處理】：
異步的概念和同步相對(duì)。當(dāng)一個(gè)異步過程調(diào)用發(fā)出后，調(diào)用者不能立刻得到結(jié)果。實(shí)際處理這個(gè)調(diào)用的部件在完成后，通過狀態(tài)、通知和回調(diào)來通知調(diào)用者。
Netty 中的 I/O 操作是異步的，包括 Bind、Write、Connect 等操作會(huì)簡(jiǎn)單的返回一個(gè) ChannelFuture。
調(diào)用者并不能立刻獲得結(jié)果，而是通過 Future-Listener 機(jī)制，用戶可以方便的主動(dòng)獲取或者通過通知機(jī)制獲得 IO 操作結(jié)果。
當(dāng) Future 對(duì)象剛剛創(chuàng)建時(shí)，處于非完成狀態(tài)，調(diào)用者可以通過返回的 ChannelFuture 來獲取操作執(zhí)行的狀態(tài)，注冊(cè)監(jiān)聽函數(shù)來執(zhí)行完成后的操作。
常見有如下操作：
1）通過 isDone 方法來判斷當(dāng)前操作是否完成；
2）通過 isSuccess 方法來判斷已完成的當(dāng)前操作是否成功；
3）通過 getCause 方法來獲取已完成的當(dāng)前操作失敗的原因；
4）通過 isCancelled 方法來判斷已完成的當(dāng)前操作是否被取消；
5）通過 addListener 方法來注冊(cè)監(jiān)聽器，當(dāng)操作已完成(isDone 方法返回完成)，將會(huì)通知指定的監(jiān)聽器；如果 Future 對(duì)象已完成，則理解通知指定的監(jiān)聽器。
例如下面的代碼中綁定端口是異步操作，當(dāng)綁定操作處理完，將會(huì)調(diào)用相應(yīng)的監(jiān)聽器處理邏輯：
serverBootstrap.bind(port).addListener(future -> {
if(future.isSuccess()) {
System.out.println(newDate() + ": 端口["+ port + "]綁定成功!");
} else{
System.err.println("端口["+ port + "]綁定失敗!");
}
});
相比傳統(tǒng)阻塞 I/O，執(zhí)行 I/O 操作后線程會(huì)被阻塞住, 直到操作完成；異步處理的好處是不會(huì)造成線程阻塞，線程在 I/O 操作期間可以執(zhí)行別的程序，在高并發(fā)情形下會(huì)更穩(wěn)定和更高的吞吐量。
7、Netty框架的架構(gòu)設(shè)計(jì)
前面介紹完 Netty 相關(guān)一些理論，下面從功能特性、模塊組件、運(yùn)作過程來介紹 Netty 的架構(gòu)設(shè)計(jì)。
7.1 功能特性
Netty 功能特性如下：
1）傳輸服務(wù)：支持 BIO 和 NIO；
2）容器集成：支持 OSGI、JBossMC、Spring、Guice 容器；
3）協(xié)議支持：HTTP、Protobuf、二進(jìn)制、文本、WebSocket 等一系列常見協(xié)議都支持。還支持通過實(shí)行編碼解碼邏輯來實(shí)現(xiàn)自定義協(xié)議；
4）Core 核心：可擴(kuò)展事件模型、通用通信 API、支持零拷貝的 ByteBuf 緩沖對(duì)象。
7.2 模塊組件
【Bootstrap、ServerBootstrap】：
Bootstrap 意思是引導(dǎo)，一個(gè) Netty 應(yīng)用通常由一個(gè) Bootstrap 開始，主要作用是配置整個(gè) Netty 程序，串聯(lián)各個(gè)組件，Netty 中 Bootstrap 類是客戶端程序的啟動(dòng)引導(dǎo)類，ServerBootstrap 是服務(wù)端啟動(dòng)引導(dǎo)類。
【Future、ChannelFuture】：
正如前面介紹，在 Netty 中所有的 IO 操作都是異步的，不能立刻得知消息是否被正確處理。
但是可以過一會(huì)等它執(zhí)行完成或者直接注冊(cè)一個(gè)監(jiān)聽，具體的實(shí)現(xiàn)就是通過 Future 和 ChannelFutures，他們可以注冊(cè)一個(gè)監(jiān)聽，當(dāng)操作執(zhí)行成功或失敗時(shí)監(jiān)聽會(huì)自動(dòng)觸發(fā)注冊(cè)的監(jiān)聽事件。
【Channel】：
Netty 網(wǎng)絡(luò)通信的組件，能夠用于執(zhí)行網(wǎng)絡(luò) I/O 操作。Channel 為用戶提供：
1）當(dāng)前網(wǎng)絡(luò)連接的通道的狀態(tài)（例如是否打開？是否已連接？）
2）網(wǎng)絡(luò)連接的配置參數(shù) （例如接收緩沖區(qū)大小）
3）提供異步的網(wǎng)絡(luò) I/O 操作(如建立連接，讀寫，綁定端口)，異步調(diào)用意味著任何 I/O 調(diào)用都將立即返回，并且不保證在調(diào)用結(jié)束時(shí)所請(qǐng)求的 I/O 操作已完成。
4）調(diào)用立即返回一個(gè) ChannelFuture 實(shí)例，通過注冊(cè)監(jiān)聽器到 ChannelFuture 上，可以 I/O 操作成功、失敗或取消時(shí)回調(diào)通知調(diào)用方。
5）支持關(guān)聯(lián) I/O 操作與對(duì)應(yīng)的處理程序。
不同協(xié)議、不同的阻塞類型的連接都有不同的 Channel 類型與之對(duì)應(yīng)。
下面是一些常用的 Channel 類型：
NioSocketChannel，異步的客戶端 TCP Socket 連接。
NioServerSocketChannel，異步的服務(wù)器端 TCP Socket 連接。
NioDatagramChannel，異步的 UDP 連接。
NioSctpChannel，異步的客戶端 Sctp 連接。
NioSctpServerChannel，異步的 Sctp 服務(wù)器端連接，這些通道涵蓋了 UDP 和 TCP 網(wǎng)絡(luò) IO 以及文件 IO。
【Selector】：
Netty 基于 Selector 對(duì)象實(shí)現(xiàn) I/O 多路復(fù)用，通過 Selector 一個(gè)線程可以監(jiān)聽多個(gè)連接的 Channel 事件。
當(dāng)向一個(gè) Selector 中注冊(cè) Channel 后，Selector 內(nèi)部的機(jī)制就可以自動(dòng)不斷地查詢(Select) 這些注冊(cè)的 Channel 是否有已就緒的 I/O 事件（例如可讀，可寫，網(wǎng)絡(luò)連接完成等），這樣程序就可以很簡(jiǎn)單地使用一個(gè)線程高效地管理多個(gè) Channel 。
【NioEventLoop】：
NioEventLoop 中維護(hù)了一個(gè)線程和任務(wù)隊(duì)列，支持異步提交執(zhí)行任務(wù)，線程啟動(dòng)時(shí)會(huì)調(diào)用 NioEventLoop 的 run 方法，執(zhí)行 I/O 任務(wù)和非 I/O 任務(wù)：
I/O 任務(wù)，即 selectionKey 中 ready 的事件，如 accept、connect、read、write 等，由 processSelectedKeys 方法觸發(fā)。
非 IO 任務(wù)，添加到 taskQueue 中的任務(wù)，如 register0、bind0 等任務(wù)，由 runAllTasks 方法觸發(fā)。
兩種任務(wù)的執(zhí)行時(shí)間比由變量 ioRatio 控制，默認(rèn)為 50，則表示允許非 IO 任務(wù)執(zhí)行的時(shí)間與 IO 任務(wù)的執(zhí)行時(shí)間相等。
【NioEventLoopGroup】：
NioEventLoopGroup，主要管理 eventLoop 的生命周期，可以理解為一個(gè)線程池，內(nèi)部維護(hù)了一組線程，每個(gè)線程(NioEventLoop)負(fù)責(zé)處理多個(gè) Channel 上的事件，而一個(gè) Channel 只對(duì)應(yīng)于一個(gè)線程。
【ChannelHandler】：
ChannelHandler 是一個(gè)接口，處理 I/O 事件或攔截 I/O 操作，并將其轉(zhuǎn)發(fā)到其 ChannelPipeline(業(yè)務(wù)處理鏈)中的下一個(gè)處理程序。
ChannelHandler 本身并沒有提供很多方法，因?yàn)檫@個(gè)接口有許多的方法需要實(shí)現(xiàn)，方便使用期間，可以繼承它的子類：
ChannelInboundHandler 用于處理入站 I/O 事件。
ChannelOutboundHandler 用于處理出站 I/O 操作。
或者使用以下適配器類：
ChannelInboundHandlerAdapter 用于處理入站 I/O 事件。
ChannelOutboundHandlerAdapter 用于處理出站 I/O 操作。
ChannelDuplexHandler 用于處理入站和出站事件。
【ChannelHandlerContext】：
保存 Channel 相關(guān)的所有上下文信息，同時(shí)關(guān)聯(lián)一個(gè) ChannelHandler 對(duì)象。
【ChannelPipline】：
保存 ChannelHandler 的 List，用于處理或攔截 Channel 的入站事件和出站操作。
ChannelPipeline 實(shí)現(xiàn)了一種高級(jí)形式的攔截過濾器模式，使用戶可以完全控制事件的處理方式，以及 Channel 中各個(gè)的 ChannelHandler 如何相互交互。
下圖引用 Netty 的 Javadoc 4.1 中 ChannelPipeline 的說明，描述了 ChannelPipeline 中 ChannelHandler 通常如何處理 I/O 事件。
I/O 事件由 ChannelInboundHandler 或 ChannelOutboundHandler 處理，并通過調(diào)用 ChannelHandlerContext 中定義的事件傳播方法。
例如：ChannelHandlerContext.fireChannelRead（Object）和 ChannelOutboundInvoker.write（Object）轉(zhuǎn)發(fā)到其最近的處理程序。
入站事件由自下而上方向的入站處理程序處理，如圖左側(cè)所示。入站 Handler 處理程序通常處理由圖底部的 I/O 線程生成的入站數(shù)據(jù)。
通常通過實(shí)際輸入操作（例如 SocketChannel.read（ByteBuffer））從遠(yuǎn)程讀取入站數(shù)據(jù)。
出站事件由上下方向處理，如圖右側(cè)所示。出站 Handler 處理程序通常會(huì)生成或轉(zhuǎn)換出站傳輸，例如 write 請(qǐng)求。
I/O 線程通常執(zhí)行實(shí)際的輸出操作，例如 SocketChannel.write（ByteBuffer）。
在 Netty 中每個(gè) Channel 都有且僅有一個(gè) ChannelPipeline 與之對(duì)應(yīng)，它們的組成關(guān)系如下：
一個(gè) Channel 包含了一個(gè) ChannelPipeline，而 ChannelPipeline 中又維護(hù)了一個(gè)由 ChannelHandlerContext 組成的雙向鏈表，并且每個(gè) ChannelHandlerContext 中又關(guān)聯(lián)著一個(gè) ChannelHandler。
入站事件和出站事件在一個(gè)雙向鏈表中，入站事件會(huì)從鏈表 head 往后傳遞到最后一個(gè)入站的 handler，出站事件會(huì)從鏈表 tail 往前傳遞到最前一個(gè)出站的 handler，兩種類型的 handler 互不干擾。
8、Netty框架的工作原理
典型的初始化并啟動(dòng) Netty 服務(wù)端的過程代碼如下：
publicstaticvoidmain(String[] args) {
// 創(chuàng)建mainReactor
NioEventLoopGroup boosGroup = newNioEventLoopGroup();
// 創(chuàng)建工作線程組
NioEventLoopGroup workerGroup = newNioEventLoopGroup();
finalServerBootstrap serverBootstrap = newServerBootstrap();
serverBootstrap
// 組裝NioEventLoopGroup
.group(boosGroup, workerGroup)
// 設(shè)置channel類型為NIO類型
.channel(NioServerSocketChannel.class)
// 設(shè)置連接配置參數(shù)
.option(ChannelOption.SO_BACKLOG, 1024)
.childOption(ChannelOption.SO_KEEPALIVE, true)
.childOption(ChannelOption.TCP_NODELAY, true)
// 配置入站、出站事件handler
.childHandler(newChannelInitializer<NioSocketChannel>() {
@Override
protectedvoidinitChannel(NioSocketChannel ch) {
// 配置入站、出站事件channel
ch.pipeline().addLast(...);
ch.pipeline().addLast(...);
}
});
// 綁定端口
intport = 8080;
serverBootstrap.bind(port).addListener(future -> {
if(future.isSuccess()) {
System.out.println(newDate() + ": 端口["+ port + "]綁定成功!");
} else{
System.err.println("端口["+ port + "]綁定失敗!");
}
});
}
基本過程描述如下：
1）初始化創(chuàng)建 2 個(gè) NioEventLoopGroup：其中 boosGroup 用于 Accetpt 連接建立事件并分發(fā)請(qǐng)求，workerGroup 用于處理 I/O 讀寫事件和業(yè)務(wù)邏輯。
2）基于 ServerBootstrap(服務(wù)端啟動(dòng)引導(dǎo)類)：配置 EventLoopGroup、Channel 類型，連接參數(shù)、配置入站、出站事件 handler。
3）綁定端口：開始工作。
結(jié)合上面介紹的 Netty Reactor 模型，介紹服務(wù)端 Netty 的工作架構(gòu)圖：
Server 端包含 1 個(gè) Boss NioEventLoopGroup 和 1 個(gè) Worker NioEventLoopGroup。
NioEventLoopGroup 相當(dāng)于 1 個(gè)事件循環(huán)組，這個(gè)組里包含多個(gè)事件循環(huán) NioEventLoop，每個(gè) NioEventLoop 包含 1 個(gè) Selector 和 1 個(gè)事件循環(huán)線程。
每個(gè) Boss NioEventLoop 循環(huán)執(zhí)行的任務(wù)包含 3 步：
1）輪詢 Accept 事件；
2）處理 Accept I/O 事件，與 Client 建立連接，生成 NioSocketChannel，并將 NioSocketChannel 注冊(cè)到某個(gè) Worker NioEventLoop 的 Selector 上；
3）處理任務(wù)隊(duì)列中的任務(wù)，runAllTasks。任務(wù)隊(duì)列中的任務(wù)包括用戶調(diào)用 eventloop.execute 或 schedule 執(zhí)行的任務(wù)，或者其他線程提交到該 eventloop 的任務(wù)。
每個(gè) Worker NioEventLoop 循環(huán)執(zhí)行的任務(wù)包含 3 步：
1）輪詢 Read、Write 事件；
2）處理 I/O 事件，即 Read、Write 事件，在 NioSocketChannel 可讀、可寫事件發(fā)生時(shí)進(jìn)行處理；
3）處理任務(wù)隊(duì)列中的任務(wù)，runAllTasks。
其中任務(wù)隊(duì)列中的 Task 有 3 種典型使用場(chǎng)景：
① 用戶程序自定義的普通任務(wù)：
ctx.channel().eventLoop().execute(newRunnable() {
@Override
publicvoidrun() {
//...
}
});
② 非當(dāng)前 Reactor 線程調(diào)用 Channel 的各種方法：
例如在推送系統(tǒng)的業(yè)務(wù)線程里面，根據(jù)用戶的標(biāo)識(shí)，找到對(duì)應(yīng)的 Channel 引用，然后調(diào)用 Write 類方法向該用戶推送消息，就會(huì)進(jìn)入到這種場(chǎng)景。最終的 Write 會(huì)提交到任務(wù)隊(duì)列中后被異步消費(fèi)。
③ 用戶自定義定時(shí)任務(wù)：
ctx.channel().eventLoop().schedule(newRunnable() {
@Override
publicvoidrun() {
}
}, 60, TimeUnit.SECONDS);
9、本文小結(jié)
現(xiàn)在推薦使用的主流穩(wěn)定版本還是 Netty4，Netty5 中使用了 ForkJoinPool，增加了代碼的復(fù)雜度，但是對(duì)性能的改善卻不明顯，所以這個(gè)版本不推薦使用，官網(wǎng)也沒有提供下載鏈接。
Netty 入門門檻相對(duì)較高，是因?yàn)檫@方面的資料較少，并不是因?yàn)樗卸嚯y，大家其實(shí)都可以像搞透 Spring 一樣搞透 Netty。
在學(xué)習(xí)之前，建議先理解透整個(gè)框架原理結(jié)構(gòu)，運(yùn)行過程，可以少走很多彎路。
附錄：更多網(wǎng)絡(luò)通信方面的文章
[1] 網(wǎng)絡(luò)編程基礎(chǔ)資料：
《TCP/IP詳解 - 第11章·UDP：用戶數(shù)據(jù)報(bào)協(xié)議》
《TCP/IP詳解 - 第17章·TCP：傳輸控制協(xié)議》
《TCP/IP詳解 - 第18章·TCP連接的建立與終止》
《TCP/IP詳解 - 第21章·TCP的超時(shí)與重傳》
《技術(shù)往事：改變世界的TCP/IP協(xié)議（珍貴多圖、手機(jī)慎點(diǎn)）》
《通俗易懂-深入理解TCP協(xié)議（上）：理論基礎(chǔ)》
《通俗易懂-深入理解TCP協(xié)議（下）：RTT、滑動(dòng)窗口、擁塞處理》
《理論經(jīng)典：TCP協(xié)議的3次握手與4次揮手過程詳解》
《理論聯(lián)系實(shí)際：Wireshark抓包分析TCP 3次握手、4次揮手過程》
《計(jì)算機(jī)網(wǎng)絡(luò)通訊協(xié)議關(guān)系圖（中文珍藏版）》
《UDP中一個(gè)包的大小最大能多大？》
《P2P技術(shù)詳解(一)：NAT詳解——詳細(xì)原理、P2P簡(jiǎn)介》
《P2P技術(shù)詳解(二)：P2P中的NAT穿越(打洞)方案詳解》
《P2P技術(shù)詳解(三)：P2P技術(shù)之STUN、TURN、ICE詳解》
《通俗易懂：快速理解P2P技術(shù)中的NAT穿透原理》
《高性能網(wǎng)絡(luò)編程(一)：?jiǎn)闻_(tái)服務(wù)器并發(fā)TCP連接數(shù)到底可以有多少》
《高性能網(wǎng)絡(luò)編程(二)：上一個(gè)10年，著名的C10K并發(fā)連接問題》
《高性能網(wǎng)絡(luò)編程(三)：下一個(gè)10年，是時(shí)候考慮C10M并發(fā)問題了》
《高性能網(wǎng)絡(luò)編程(四)：從C10K到C10M高性能網(wǎng)絡(luò)應(yīng)用的理論探索》
《高性能網(wǎng)絡(luò)編程(五)：一文讀懂高性能網(wǎng)絡(luò)編程中的I/O模型》
《高性能網(wǎng)絡(luò)編程(六)：一文讀懂高性能網(wǎng)絡(luò)編程中的線程模型》
《不為人知的網(wǎng)絡(luò)編程(一)：淺析TCP協(xié)議中的疑難雜癥(上篇)》
《不為人知的網(wǎng)絡(luò)編程(二)：淺析TCP協(xié)議中的疑難雜癥(下篇)》
《不為人知的網(wǎng)絡(luò)編程(三)：關(guān)閉TCP連接時(shí)為什么會(huì)TIME_WAIT、CLOSE_WAIT》
《不為人知的網(wǎng)絡(luò)編程(四)：深入研究分析TCP的異常關(guān)閉》
《不為人知的網(wǎng)絡(luò)編程(五)：UDP的連接性和負(fù)載均衡》
《不為人知的網(wǎng)絡(luò)編程(六)：深入地理解UDP協(xié)議并用好它》
《不為人知的網(wǎng)絡(luò)編程(七)：如何讓不可靠的UDP變的可靠？》
《網(wǎng)絡(luò)編程懶人入門(一)：快速理解網(wǎng)絡(luò)通信協(xié)議（上篇）》
《網(wǎng)絡(luò)編程懶人入門(二)：快速理解網(wǎng)絡(luò)通信協(xié)議（下篇）》
《網(wǎng)絡(luò)編程懶人入門(三)：快速理解TCP協(xié)議一篇就夠》
《網(wǎng)絡(luò)編程懶人入門(四)：快速理解TCP和UDP的差異》
《網(wǎng)絡(luò)編程懶人入門(五)：快速理解為什么說UDP有時(shí)比TCP更有優(yōu)勢(shì)》
《網(wǎng)絡(luò)編程懶人入門(六)：史上最通俗的集線器、交換機(jī)、路由器功能原理入門》
《網(wǎng)絡(luò)編程懶人入門(七)：深入淺出，全面理解HTTP協(xié)議》
《網(wǎng)絡(luò)編程懶人入門(八)：手把手教你寫基于TCP的Socket長(zhǎng)連接》
《技術(shù)掃盲：新一代基于UDP的低延時(shí)網(wǎng)絡(luò)傳輸層協(xié)議——QUIC詳解》
《讓互聯(lián)網(wǎng)更快：新一代QUIC協(xié)議在騰訊的技術(shù)實(shí)踐分享》
《現(xiàn)代移動(dòng)端網(wǎng)絡(luò)短連接的優(yōu)化手段總結(jié)：請(qǐng)求速度、弱網(wǎng)適應(yīng)、安全保障》
《聊聊iOS中網(wǎng)絡(luò)編程長(zhǎng)連接的那些事》
《移動(dòng)端IM開發(fā)者必讀(一)：通俗易懂，理解移動(dòng)網(wǎng)絡(luò)的“弱”和“慢”》
《移動(dòng)端IM開發(fā)者必讀(二)：史上最全移動(dòng)弱網(wǎng)絡(luò)優(yōu)化方法總結(jié)》
《IPv6技術(shù)詳解：基本概念、應(yīng)用現(xiàn)狀、技術(shù)實(shí)踐（上篇）》
《IPv6技術(shù)詳解：基本概念、應(yīng)用現(xiàn)狀、技術(shù)實(shí)踐（下篇）》
《從HTTP/0.9到HTTP/2：一文讀懂HTTP協(xié)議的歷史演變和設(shè)計(jì)思路》
《腦殘式網(wǎng)絡(luò)編程入門(一)：跟著動(dòng)畫來學(xué)TCP三次握手和四次揮手》
《腦殘式網(wǎng)絡(luò)編程入門(二)：我們?cè)谧x寫Socket時(shí)，究竟在讀寫什么？》
《腦殘式網(wǎng)絡(luò)編程入門(三)：HTTP協(xié)議必知必會(huì)的一些知識(shí)》
《腦殘式網(wǎng)絡(luò)編程入門(四)：快速理解HTTP/2的服務(wù)器推送(Server Push)》
《腦殘式網(wǎng)絡(luò)編程入門(五)：每天都在用的Ping命令，它到底是什么？》
《以網(wǎng)游服務(wù)端的網(wǎng)絡(luò)接入層設(shè)計(jì)為例，理解實(shí)時(shí)通信的技術(shù)挑戰(zhàn)》
《邁向高階：優(yōu)秀Android程序員必知必會(huì)的網(wǎng)絡(luò)基礎(chǔ)》
>> 更多同類文章 ……
[2] NIO異步網(wǎng)絡(luò)編程資料：
《Java新一代網(wǎng)絡(luò)編程模型AIO原理及Linux系統(tǒng)AIO介紹》
《NIO框架入門(一)：服務(wù)端基于Netty4的UDP雙向通信Demo演示》
《NIO框架入門(二)：服務(wù)端基于MINA2的UDP雙向通信Demo演示》
《NIO框架入門(三)：iOS與MINA2、Netty4的跨平臺(tái)UDP雙向通信實(shí)戰(zhàn)》
《NIO框架入門(四)：Android與MINA2、Netty4的跨平臺(tái)UDP雙向通信實(shí)戰(zhàn)》
《Apache Mina框架高級(jí)篇（一）：IoFilter詳解》
《Apache Mina框架高級(jí)篇（二）：IoHandler詳解》
《MINA2 線程原理總結(jié)（含簡(jiǎn)單測(cè)試實(shí)例）》
《Apache MINA2.0 開發(fā)指南（中文版）[附件下載]》
《MINA、Netty的源代碼（在線閱讀版）已整理發(fā)布》
《解決MINA數(shù)據(jù)傳輸中TCP的粘包、缺包問題（有源碼）》
《解決Mina中多個(gè)同類型Filter實(shí)例共存的問題》
>> 更多同類文章 ……
（本文同步發(fā)布于：http://www.52im.net/thread-2043-1-1.html）