Java AIO初探(異步網(wǎng)絡(luò)IO)
Posted on 2009-09-20 14:02 dennis 閱讀(11819) 評(píng)論(10) 編輯 收藏 所屬分類: java 按照《Unix網(wǎng)絡(luò)編程》的劃分,IO模型可以分為:阻塞IO、非阻塞IO、IO復(fù)用、信號(hào)驅(qū)動(dòng)IO和異步IO,按照POSIX標(biāo)準(zhǔn)來劃分只分為兩類:同步IO和異步IO。如何區(qū)分呢?首先一個(gè)IO操作其實(shí)分成了兩個(gè)步驟:發(fā)起IO請(qǐng)求和實(shí)際的IO操作,同步IO和異步IO的區(qū)別就在于第二個(gè)步驟是否阻塞,如果實(shí)際的IO讀寫阻塞請(qǐng)求進(jìn)程,那么就是同步IO,因此阻塞IO、非阻塞IO、IO服用、信號(hào)驅(qū)動(dòng)IO都是同步IO,如果不阻塞,而是操作系統(tǒng)幫你做完IO操作再將結(jié)果返回給你,那么就是異步IO。阻塞IO和非阻塞IO的區(qū)別在于第一步,發(fā)起IO請(qǐng)求是否會(huì)被阻塞,如果阻塞直到完成那么就是傳統(tǒng)的阻塞IO,如果不阻塞,那么就是非阻塞IO。
Java nio 2.0的主要改進(jìn)就是引入了異步IO(包括文件和網(wǎng)絡(luò)),這里主要介紹下異步網(wǎng)絡(luò)IO API的使用以及框架的設(shè)計(jì),以TCP服務(wù)端為例。首先看下為了支持AIO引入的新的類和接口:
java.nio.channels.AsynchronousChannel
標(biāo)記一個(gè)channel支持異步IO操作。
java.nio.channels.AsynchronousServerSocketChannel
ServerSocket的aio版本,創(chuàng)建TCP服務(wù)端,綁定地址,監(jiān)聽端口等。
java.nio.channels.AsynchronousSocketChannel
面向流的異步socket channel,表示一個(gè)連接。
java.nio.channels.AsynchronousChannelGroup
異步channel的分組管理,目的是為了資源共享。一個(gè)AsynchronousChannelGroup綁定一個(gè)線程池,這個(gè)線程池執(zhí)行兩個(gè)任務(wù):處理IO事件和派發(fā)CompletionHandler。AsynchronousServerSocketChannel創(chuàng)建的時(shí)候可以傳入一個(gè)AsynchronousChannelGroup,那么通過AsynchronousServerSocketChannel創(chuàng)建的AsynchronousSocketChannel將同屬于一個(gè)組,共享資源。
java.nio.channels.CompletionHandler
異步IO操作結(jié)果的回調(diào)接口,用于定義在IO操作完成后所作的回調(diào)工作。AIO的API允許兩種方式來處理異步操作的結(jié)果:返回的Future模式或者注冊(cè)CompletionHandler,我更推薦用CompletionHandler的方式,這些handler的調(diào)用是由AsynchronousChannelGroup的線程池派發(fā)的。顯然,線程池的大小是性能的關(guān)鍵因素。AsynchronousChannelGroup允許綁定不同的線程池,通過三個(gè)靜態(tài)方法來創(chuàng)建:
需要根據(jù)具體應(yīng)用相應(yīng)調(diào)整,從框架角度出發(fā),需要暴露這樣的配置選項(xiàng)給用戶。
在介紹完了aio引入的TCP的主要接口和類之后,我們來設(shè)想下一個(gè)aio框架應(yīng)該怎么設(shè)計(jì)。參考非阻塞nio框架的設(shè)計(jì),一般都是采用Reactor模式,Reacot負(fù)責(zé)事件的注冊(cè)、select、事件的派發(fā);相應(yīng)地,異步IO有個(gè)Proactor模式,Proactor負(fù)責(zé)CompletionHandler的派發(fā),查看一個(gè)典型的IO寫操作的流程來看兩者的區(qū)別:
Reactor: send(msg) -> 消息隊(duì)列是否為空,如果為空 -> 向Reactor注冊(cè)O(shè)P_WRITE,然后返回 -> Reactor select -> 觸發(fā)Writable,通知用戶線程去處理 ->先注銷Writable(很多人遇到的cpu 100%的問題就在于沒有注銷),處理Writeable,如果沒有完全寫入,繼續(xù)注冊(cè)O(shè)P_WRITE。注意到,寫入的工作還是用戶線程在處理。
Proactor: send(msg) -> 消息隊(duì)列是否為空,如果為空,發(fā)起read異步調(diào)用,并注冊(cè)CompletionHandler,然后返回。 -> 操作系統(tǒng)負(fù)責(zé)將你的消息寫入,并返回結(jié)果(寫入的字節(jié)數(shù))給Proactor -> Proactor派發(fā)CompletionHandler。可見,寫入的工作是操作系統(tǒng)在處理,無需用戶線程參與。事實(shí)上在aio的API中,AsynchronousChannelGroup就扮演了Proactor的角色。
CompletionHandler有三個(gè)方法,分別對(duì)應(yīng)于處理成功、失敗、被取消(通過返回的Future)情況下的回調(diào)處理:
其中的泛型參數(shù)V表示IO調(diào)用的結(jié)果,而A是發(fā)起調(diào)用時(shí)傳入的attchment。
在初步介紹完aio引入的類和接口后,我們看看一個(gè)典型的tcp服務(wù)端是怎么啟動(dòng)的,怎么接受連接并處理讀和寫,這里引用的代碼都是yanf4j 的aio分支中的代碼,可以從svn checkout,svn地址: http://yanf4j.googlecode.com/svn/branches/yanf4j-aio
第一步,創(chuàng)建一個(gè)AsynchronousServerSocketChannel,創(chuàng)建之前先創(chuàng)建一個(gè)AsynchronousChannelGroup,上文提到AsynchronousServerSocketChannel可以綁定一個(gè)AsynchronousChannelGroup,那么通過這個(gè)AsynchronousServerSocketChannel建立的連接都將同屬于一個(gè)AsynchronousChannelGroup并共享資源:
然后初始化一個(gè)AsynchronousServerSocketChannel,通過open方法:
通過nio 2.0引入的SocketOption類設(shè)置一些TCP選項(xiàng):
綁定本地地址:
其中的100用于指定等待連接的隊(duì)列大小(backlog)。完了嗎?還沒有,最重要的監(jiān)聽工作還沒開始,監(jiān)聽端口是為了等待連接上來以便accept產(chǎn)生一個(gè)AsynchronousSocketChannel來表示一個(gè)新建立的連接,因此需要發(fā)起一個(gè)accept調(diào)用,調(diào)用是異步的,操作系統(tǒng)將在連接建立后,將最后的結(jié)果——AsynchronousSocketChannel返回給你:
注意到了吧,我們?cè)趂ailed和completed方法中在最后都調(diào)用了pendingAccept來繼續(xù)發(fā)起accept調(diào)用,等待新的連接上來。有的同學(xué)可能要說了,這樣搞是不是遞歸調(diào)用,會(huì)不會(huì)堆棧溢出?實(shí)際上不會(huì),因?yàn)榘l(fā)起accept調(diào)用的線程與CompletionHandler回調(diào)的線程并非同一個(gè),不是一個(gè)上下文中,兩者之間沒有耦合關(guān)系。要注意到,CompletionHandler的回調(diào)共用的是AsynchronousChannelGroup綁定的線程池,因此千萬別在回調(diào)方法中調(diào)用阻塞或者長時(shí)間的操作,例如sleep,回調(diào)方法最好能支持超時(shí),防止線程池耗盡。
連接建立后,怎么讀和寫呢?回憶下在nonblocking nio框架中,連接建立后的第一件事是干什么?注冊(cè)O(shè)P_READ事件等待socket可讀。異步IO也同樣如此,連接建立后馬上發(fā)起一個(gè)異步read調(diào)用,等待socket可讀,這個(gè)是Session.start方法中所做的事情:
AsynchronousSocketChannel的read調(diào)用與AsynchronousServerSocketChannel的accept調(diào)用類似,同樣是非阻塞的,返回結(jié)果也是一個(gè)Future,但是寫的結(jié)果是整數(shù),表示寫入了多少字節(jié),因此read調(diào)用返回的是Future<Integer>,方法的第一個(gè)參數(shù)是讀的緩沖區(qū),操作系統(tǒng)將IO讀到數(shù)據(jù)拷貝到這個(gè)緩沖區(qū),第二個(gè)參數(shù)是傳遞給CompletionHandler的attchment,第三個(gè)參數(shù)就是注冊(cè)的用于回調(diào)的CompletionHandler。這里保存了read的結(jié)果Future,這是為了在關(guān)閉連接的時(shí)候能夠主動(dòng)取消調(diào)用,accept也是如此。現(xiàn)在可以看看read的CompletionHandler的實(shí)現(xiàn):
如果IO讀失敗,會(huì)返回失敗產(chǎn)生的異常,這種情況下我們就主動(dòng)關(guān)閉連接,通過session.close()方法,這個(gè)方法干了兩件事情:關(guān)閉channel和取消read調(diào)用:
IO寫的操作與此類似,不過通常寫的話我們會(huì)在session中關(guān)聯(lián)一個(gè)緩沖隊(duì)列來處理,沒有完全寫入或者等待寫入的消息都存放在隊(duì)列中,隊(duì)列為空的情況下發(fā)起write調(diào)用:
protected void write0(WriteMessage message) {
boolean needWrite = false;
synchronized (this.writeQueue) {
needWrite = this.writeQueue.isEmpty();
this.writeQueue.offer(message);
}
if (needWrite) {
pendingWrite(message);
}
}
protected final void pendingWrite(WriteMessage message) {
message = preprocessWriteMessage(message);
if (!isClosed() && this.asynchronousSocketChannel.isOpen()) {
this.asynchronousSocketChannel.write(message.getWriteBuffer(),
this, this.writeCompletionHandler);
} else {
throw new IllegalStateException(
"Session Or Channel has been closed");
}
}
write調(diào)用返回的結(jié)果與read一樣是一個(gè)Future<Integer>,而write的CompletionHandler處理的核心邏輯大概是這樣:
compete方法中的result就是實(shí)際寫入的字節(jié)數(shù),然后我們判斷消息的緩沖區(qū)是否還有剩余,如果沒有就將消息從隊(duì)列中移除,如果隊(duì)列中還有消息,那么繼續(xù)發(fā)起write調(diào)用。
重復(fù)一下,這里引用的代碼都是yanf4j aio分支中的源碼,感興趣的朋友可以直接check out出來看看: http://yanf4j.googlecode.com/svn/branches/yanf4j-aio。
在引入了aio之后,java對(duì)于網(wǎng)絡(luò)層的支持已經(jīng)非常完善,該有的都有了,java也已經(jīng)成為服務(wù)器開發(fā)的首選語言之一。java的弱項(xiàng)在于對(duì)內(nèi)存的管理上,由于這一切都交給了GC,因此在高性能的網(wǎng)絡(luò)服務(wù)器上還是Cpp的天下。java這種單一堆模型比之erlang的進(jìn)程內(nèi)堆模型還是有差距,很難做到高效的垃圾回收和細(xì)粒度的內(nèi)存管理。
這里僅僅是介紹了aio開發(fā)的核心流程,對(duì)于一個(gè)網(wǎng)絡(luò)框架來說,還需要考慮超時(shí)的處理、緩沖buffer的處理、業(yè)務(wù)層和網(wǎng)絡(luò)層的切分、可擴(kuò)展性、性能的可調(diào)性以及一定的通用性要求。
Java nio 2.0的主要改進(jìn)就是引入了異步IO(包括文件和網(wǎng)絡(luò)),這里主要介紹下異步網(wǎng)絡(luò)IO API的使用以及框架的設(shè)計(jì),以TCP服務(wù)端為例。首先看下為了支持AIO引入的新的類和接口:
java.nio.channels.AsynchronousChannel
標(biāo)記一個(gè)channel支持異步IO操作。
java.nio.channels.AsynchronousServerSocketChannel
ServerSocket的aio版本,創(chuàng)建TCP服務(wù)端,綁定地址,監(jiān)聽端口等。
java.nio.channels.AsynchronousSocketChannel
面向流的異步socket channel,表示一個(gè)連接。
java.nio.channels.AsynchronousChannelGroup
異步channel的分組管理,目的是為了資源共享。一個(gè)AsynchronousChannelGroup綁定一個(gè)線程池,這個(gè)線程池執(zhí)行兩個(gè)任務(wù):處理IO事件和派發(fā)CompletionHandler。AsynchronousServerSocketChannel創(chuàng)建的時(shí)候可以傳入一個(gè)AsynchronousChannelGroup,那么通過AsynchronousServerSocketChannel創(chuàng)建的AsynchronousSocketChannel將同屬于一個(gè)組,共享資源。
java.nio.channels.CompletionHandler
異步IO操作結(jié)果的回調(diào)接口,用于定義在IO操作完成后所作的回調(diào)工作。AIO的API允許兩種方式來處理異步操作的結(jié)果:返回的Future模式或者注冊(cè)CompletionHandler,我更推薦用CompletionHandler的方式,這些handler的調(diào)用是由AsynchronousChannelGroup的線程池派發(fā)的。顯然,線程池的大小是性能的關(guān)鍵因素。AsynchronousChannelGroup允許綁定不同的線程池,通過三個(gè)靜態(tài)方法來創(chuàng)建:
public static AsynchronousChannelGroup withFixedThreadPool(int nThreads,
ThreadFactory threadFactory)
throws IOException
public static AsynchronousChannelGroup withCachedThreadPool(ExecutorService executor,
int initialSize)
public static AsynchronousChannelGroup withThreadPool(ExecutorService executor)
throws IOException
ThreadFactory threadFactory)
throws IOException
public static AsynchronousChannelGroup withCachedThreadPool(ExecutorService executor,
int initialSize)
public static AsynchronousChannelGroup withThreadPool(ExecutorService executor)
throws IOException
需要根據(jù)具體應(yīng)用相應(yīng)調(diào)整,從框架角度出發(fā),需要暴露這樣的配置選項(xiàng)給用戶。
在介紹完了aio引入的TCP的主要接口和類之后,我們來設(shè)想下一個(gè)aio框架應(yīng)該怎么設(shè)計(jì)。參考非阻塞nio框架的設(shè)計(jì),一般都是采用Reactor模式,Reacot負(fù)責(zé)事件的注冊(cè)、select、事件的派發(fā);相應(yīng)地,異步IO有個(gè)Proactor模式,Proactor負(fù)責(zé)CompletionHandler的派發(fā),查看一個(gè)典型的IO寫操作的流程來看兩者的區(qū)別:
Reactor: send(msg) -> 消息隊(duì)列是否為空,如果為空 -> 向Reactor注冊(cè)O(shè)P_WRITE,然后返回 -> Reactor select -> 觸發(fā)Writable,通知用戶線程去處理 ->先注銷Writable(很多人遇到的cpu 100%的問題就在于沒有注銷),處理Writeable,如果沒有完全寫入,繼續(xù)注冊(cè)O(shè)P_WRITE。注意到,寫入的工作還是用戶線程在處理。
Proactor: send(msg) -> 消息隊(duì)列是否為空,如果為空,發(fā)起read異步調(diào)用,并注冊(cè)CompletionHandler,然后返回。 -> 操作系統(tǒng)負(fù)責(zé)將你的消息寫入,并返回結(jié)果(寫入的字節(jié)數(shù))給Proactor -> Proactor派發(fā)CompletionHandler。可見,寫入的工作是操作系統(tǒng)在處理,無需用戶線程參與。事實(shí)上在aio的API中,AsynchronousChannelGroup就扮演了Proactor的角色。
CompletionHandler有三個(gè)方法,分別對(duì)應(yīng)于處理成功、失敗、被取消(通過返回的Future)情況下的回調(diào)處理:
public interface CompletionHandler<V,A> {
void completed(V result, A attachment);
void failed(Throwable exc, A attachment);
void cancelled(A attachment);
}
void completed(V result, A attachment);
void failed(Throwable exc, A attachment);
void cancelled(A attachment);
}
其中的泛型參數(shù)V表示IO調(diào)用的結(jié)果,而A是發(fā)起調(diào)用時(shí)傳入的attchment。
在初步介紹完aio引入的類和接口后,我們看看一個(gè)典型的tcp服務(wù)端是怎么啟動(dòng)的,怎么接受連接并處理讀和寫,這里引用的代碼都是yanf4j 的aio分支中的代碼,可以從svn checkout,svn地址: http://yanf4j.googlecode.com/svn/branches/yanf4j-aio
第一步,創(chuàng)建一個(gè)AsynchronousServerSocketChannel,創(chuàng)建之前先創(chuàng)建一個(gè)AsynchronousChannelGroup,上文提到AsynchronousServerSocketChannel可以綁定一個(gè)AsynchronousChannelGroup,那么通過這個(gè)AsynchronousServerSocketChannel建立的連接都將同屬于一個(gè)AsynchronousChannelGroup并共享資源:
this.asynchronousChannelGroup = AsynchronousChannelGroup
.withCachedThreadPool(Executors.newCachedThreadPool(),
this.threadPoolSize);
.withCachedThreadPool(Executors.newCachedThreadPool(),
this.threadPoolSize);
然后初始化一個(gè)AsynchronousServerSocketChannel,通過open方法:
this.serverSocketChannel = AsynchronousServerSocketChannel
.open(this.asynchronousChannelGroup);
.open(this.asynchronousChannelGroup);
通過nio 2.0引入的SocketOption類設(shè)置一些TCP選項(xiàng):
this.serverSocketChannel
.setOption(
StandardSocketOption.SO_REUSEADDR,true);
this.serverSocketChannel
.setOption(
StandardSocketOption.SO_RCVBUF,16*1024);
.setOption(
StandardSocketOption.SO_REUSEADDR,true);
this.serverSocketChannel
.setOption(
StandardSocketOption.SO_RCVBUF,16*1024);
綁定本地地址:
this.serverSocketChannel
.bind(new InetSocketAddress("localhost",8080), 100);
.bind(new InetSocketAddress("localhost",8080), 100);
其中的100用于指定等待連接的隊(duì)列大小(backlog)。完了嗎?還沒有,最重要的監(jiān)聽工作還沒開始,監(jiān)聽端口是為了等待連接上來以便accept產(chǎn)生一個(gè)AsynchronousSocketChannel來表示一個(gè)新建立的連接,因此需要發(fā)起一個(gè)accept調(diào)用,調(diào)用是異步的,操作系統(tǒng)將在連接建立后,將最后的結(jié)果——AsynchronousSocketChannel返回給你:
public void pendingAccept() {
if (this.started && this.serverSocketChannel.isOpen()) {
this.acceptFuture = this.serverSocketChannel.accept(null,
new AcceptCompletionHandler());
} else {
throw new IllegalStateException("Controller has been closed");
}
}
注意,重復(fù)的accept調(diào)用將會(huì)拋出PendingAcceptException,后文提到的read和write也是如此。accept方法的第一個(gè)參數(shù)是你想傳給CompletionHandler的attchment,第二個(gè)參數(shù)就是注冊(cè)的用于回調(diào)的CompletionHandler,最后返回結(jié)果Future<AsynchronousSocketChannel>。你可以對(duì)future做處理,這里采用更推薦的方式就是注冊(cè)一個(gè)CompletionHandler。那么accept的CompletionHandler中做些什么工作呢?顯然一個(gè)赤裸裸的AsynchronousSocketChannel是不夠的,我們需要將它封裝成session,一個(gè)session表示一個(gè)連接(mina里就叫IoSession了),里面帶了一個(gè)緩沖的消息隊(duì)列以及一些其他資源等。在連接建立后,除非你的服務(wù)器只準(zhǔn)備接受一個(gè)連接,不然你需要在后面繼續(xù)調(diào)用pendingAccept來發(fā)起另一個(gè)accept請(qǐng)求:if (this.started && this.serverSocketChannel.isOpen()) {
this.acceptFuture = this.serverSocketChannel.accept(null,
new AcceptCompletionHandler());
} else {
throw new IllegalStateException("Controller has been closed");
}
}
private final class AcceptCompletionHandler implements
CompletionHandler<AsynchronousSocketChannel, Object> {
@Override
public void cancelled(Object attachment) {
logger.warn("Accept operation was canceled");
}
@Override
public void completed(AsynchronousSocketChannel socketChannel,
Object attachment) {
try {
logger.debug("Accept connection from "
+ socketChannel.getRemoteAddress());
configureChannel(socketChannel);
AioSessionConfig sessionConfig = buildSessionConfig(socketChannel);
Session session = new AioTCPSession(sessionConfig,
AioTCPController.this.configuration
.getSessionReadBufferSize(),
AioTCPController.this.sessionTimeout);
session.start();
registerSession(session);
} catch (Exception e) {
e.printStackTrace();
logger.error("Accept error", e);
notifyException(e);
} finally {
pendingAccept();
}
}
@Override
public void failed(Throwable exc, Object attachment) {
logger.error("Accept error", exc);
try {
notifyException(exc);
} finally {
pendingAccept();
}
}
}
CompletionHandler<AsynchronousSocketChannel, Object> {
@Override
public void cancelled(Object attachment) {
logger.warn("Accept operation was canceled");
}
@Override
public void completed(AsynchronousSocketChannel socketChannel,
Object attachment) {
try {
logger.debug("Accept connection from "
+ socketChannel.getRemoteAddress());
configureChannel(socketChannel);
AioSessionConfig sessionConfig = buildSessionConfig(socketChannel);
Session session = new AioTCPSession(sessionConfig,
AioTCPController.this.configuration
.getSessionReadBufferSize(),
AioTCPController.this.sessionTimeout);
session.start();
registerSession(session);
} catch (Exception e) {
e.printStackTrace();
logger.error("Accept error", e);
notifyException(e);
} finally {
pendingAccept();
}
}
@Override
public void failed(Throwable exc, Object attachment) {
logger.error("Accept error", exc);
try {
notifyException(exc);
} finally {
pendingAccept();
}
}
}
注意到了吧,我們?cè)趂ailed和completed方法中在最后都調(diào)用了pendingAccept來繼續(xù)發(fā)起accept調(diào)用,等待新的連接上來。有的同學(xué)可能要說了,這樣搞是不是遞歸調(diào)用,會(huì)不會(huì)堆棧溢出?實(shí)際上不會(huì),因?yàn)榘l(fā)起accept調(diào)用的線程與CompletionHandler回調(diào)的線程并非同一個(gè),不是一個(gè)上下文中,兩者之間沒有耦合關(guān)系。要注意到,CompletionHandler的回調(diào)共用的是AsynchronousChannelGroup綁定的線程池,因此千萬別在回調(diào)方法中調(diào)用阻塞或者長時(shí)間的操作,例如sleep,回調(diào)方法最好能支持超時(shí),防止線程池耗盡。
連接建立后,怎么讀和寫呢?回憶下在nonblocking nio框架中,連接建立后的第一件事是干什么?注冊(cè)O(shè)P_READ事件等待socket可讀。異步IO也同樣如此,連接建立后馬上發(fā)起一個(gè)異步read調(diào)用,等待socket可讀,這個(gè)是Session.start方法中所做的事情:
public class AioTCPSession
{
protected void start0() {
pendingRead();
}
protected final void pendingRead() {
if (!isClosed() && this.asynchronousSocketChannel.isOpen()) {
if (!this.readBuffer.hasRemaining()) {
this.readBuffer = ByteBufferUtils
.increaseBufferCapatity(this.readBuffer);
}
this.readFuture = this.asynchronousSocketChannel.read(
this.readBuffer, this, this.readCompletionHandler);
} else {
throw new IllegalStateException(
"Session Or Channel has been closed");
}
}


}

protected void start0() {
pendingRead();
}
protected final void pendingRead() {
if (!isClosed() && this.asynchronousSocketChannel.isOpen()) {
if (!this.readBuffer.hasRemaining()) {
this.readBuffer = ByteBufferUtils
.increaseBufferCapatity(this.readBuffer);
}
this.readFuture = this.asynchronousSocketChannel.read(
this.readBuffer, this, this.readCompletionHandler);
} else {
throw new IllegalStateException(
"Session Or Channel has been closed");
}
}


}
AsynchronousSocketChannel的read調(diào)用與AsynchronousServerSocketChannel的accept調(diào)用類似,同樣是非阻塞的,返回結(jié)果也是一個(gè)Future,但是寫的結(jié)果是整數(shù),表示寫入了多少字節(jié),因此read調(diào)用返回的是Future<Integer>,方法的第一個(gè)參數(shù)是讀的緩沖區(qū),操作系統(tǒng)將IO讀到數(shù)據(jù)拷貝到這個(gè)緩沖區(qū),第二個(gè)參數(shù)是傳遞給CompletionHandler的attchment,第三個(gè)參數(shù)就是注冊(cè)的用于回調(diào)的CompletionHandler。這里保存了read的結(jié)果Future,這是為了在關(guān)閉連接的時(shí)候能夠主動(dòng)取消調(diào)用,accept也是如此。現(xiàn)在可以看看read的CompletionHandler的實(shí)現(xiàn):
public final class ReadCompletionHandler implements
CompletionHandler<Integer, AbstractAioSession> {
private static final Logger log = LoggerFactory
.getLogger(ReadCompletionHandler.class);
protected final AioTCPController controller;
public ReadCompletionHandler(AioTCPController controller) {
this.controller = controller;
}
@Override
public void cancelled(AbstractAioSession session) {
log.warn("Session(" + session.getRemoteSocketAddress()
+ ") read operation was canceled");
}
@Override
public void completed(Integer result, AbstractAioSession session) {
if (log.isDebugEnabled())
log.debug("Session(" + session.getRemoteSocketAddress()
+ ") read +" + result + " bytes");
if (result < 0) {
session.close();
return;
}
try {
if (result > 0) {
session.updateTimeStamp();
session.getReadBuffer().flip();
session.decode();
session.getReadBuffer().compact();
}
} finally {
try {
session.pendingRead();
} catch (IOException e) {
session.onException(e);
session.close();
}
}
controller.checkSessionTimeout();
}
@Override
public void failed(Throwable exc, AbstractAioSession session) {
log.error("Session read error", exc);
session.onException(exc);
session.close();
}
}
CompletionHandler<Integer, AbstractAioSession> {
private static final Logger log = LoggerFactory
.getLogger(ReadCompletionHandler.class);
protected final AioTCPController controller;
public ReadCompletionHandler(AioTCPController controller) {
this.controller = controller;
}
@Override
public void cancelled(AbstractAioSession session) {
log.warn("Session(" + session.getRemoteSocketAddress()
+ ") read operation was canceled");
}
@Override
public void completed(Integer result, AbstractAioSession session) {
if (log.isDebugEnabled())
log.debug("Session(" + session.getRemoteSocketAddress()
+ ") read +" + result + " bytes");
if (result < 0) {
session.close();
return;
}
try {
if (result > 0) {
session.updateTimeStamp();
session.getReadBuffer().flip();
session.decode();
session.getReadBuffer().compact();
}
} finally {
try {
session.pendingRead();
} catch (IOException e) {
session.onException(e);
session.close();
}
}
controller.checkSessionTimeout();
}
@Override
public void failed(Throwable exc, AbstractAioSession session) {
log.error("Session read error", exc);
session.onException(exc);
session.close();
}
}
如果IO讀失敗,會(huì)返回失敗產(chǎn)生的異常,這種情況下我們就主動(dòng)關(guān)閉連接,通過session.close()方法,這個(gè)方法干了兩件事情:關(guān)閉channel和取消read調(diào)用:
if (null != this.readFuture) {
this.readFuture.cancel(true);
}
this.asynchronousSocketChannel.close();
在讀成功的情況下,我們還需要判斷結(jié)果result是否小于0,如果小于0就表示對(duì)端關(guān)閉了,這種情況下我們也主動(dòng)關(guān)閉連接并返回。如果讀到一定字節(jié),也就是result大于0的情況下,我們就嘗試從讀緩沖區(qū)中decode出消息,并派發(fā)給業(yè)務(wù)處理器的回調(diào)方法,最終通過pendingRead繼續(xù)發(fā)起read調(diào)用等待socket的下一次可讀。可見,我們并不需要自己去調(diào)用channel來進(jìn)行IO讀,而是操作系統(tǒng)幫你直接讀到了緩沖區(qū),然后給你一個(gè)結(jié)果表示讀入了多少字節(jié),你處理這個(gè)結(jié)果即可。而nonblocking IO框架中,是reactor通知用戶線程socket可讀了,然后用戶線程自己去調(diào)用read進(jìn)行實(shí)際讀操作。這里還有個(gè)需要注意的地方,就是decode出來的消息的派發(fā)給業(yè)務(wù)處理器工作最好交給一個(gè)線程池來處理,避免阻塞group綁定的線程池。this.readFuture.cancel(true);
}
this.asynchronousSocketChannel.close();
IO寫的操作與此類似,不過通常寫的話我們會(huì)在session中關(guān)聯(lián)一個(gè)緩沖隊(duì)列來處理,沒有完全寫入或者等待寫入的消息都存放在隊(duì)列中,隊(duì)列為空的情況下發(fā)起write調(diào)用:
protected void write0(WriteMessage message) {
boolean needWrite = false;
synchronized (this.writeQueue) {
needWrite = this.writeQueue.isEmpty();
this.writeQueue.offer(message);
}
if (needWrite) {
pendingWrite(message);
}
}
protected final void pendingWrite(WriteMessage message) {
message = preprocessWriteMessage(message);
if (!isClosed() && this.asynchronousSocketChannel.isOpen()) {
this.asynchronousSocketChannel.write(message.getWriteBuffer(),
this, this.writeCompletionHandler);
} else {
throw new IllegalStateException(
"Session Or Channel has been closed");
}
}
write調(diào)用返回的結(jié)果與read一樣是一個(gè)Future<Integer>,而write的CompletionHandler處理的核心邏輯大概是這樣:
@Override
public void completed(Integer result, AbstractAioSession session) {
if (log.isDebugEnabled())
log.debug("Session(" + session.getRemoteSocketAddress()
+ ") writen " + result + " bytes");
WriteMessage writeMessage;
Queue<WriteMessage> writeQueue = session.getWriteQueue();
synchronized (writeQueue) {
writeMessage = writeQueue.peek();
if (writeMessage.getWriteBuffer() == null
|| !writeMessage.getWriteBuffer().hasRemaining()) {
writeQueue.remove();
if (writeMessage.getWriteFuture() != null) {
writeMessage.getWriteFuture().setResult(Boolean.TRUE);
}
try {
session.getHandler().onMessageSent(session,
writeMessage.getMessage());
} catch (Exception e) {
session.onException(e);
}
writeMessage = writeQueue.peek();
}
}
if (writeMessage != null) {
try {
session.pendingWrite(writeMessage);
} catch (IOException e) {
session.onException(e);
session.close();
}
}
}
public void completed(Integer result, AbstractAioSession session) {
if (log.isDebugEnabled())
log.debug("Session(" + session.getRemoteSocketAddress()
+ ") writen " + result + " bytes");
WriteMessage writeMessage;
Queue<WriteMessage> writeQueue = session.getWriteQueue();
synchronized (writeQueue) {
writeMessage = writeQueue.peek();
if (writeMessage.getWriteBuffer() == null
|| !writeMessage.getWriteBuffer().hasRemaining()) {
writeQueue.remove();
if (writeMessage.getWriteFuture() != null) {
writeMessage.getWriteFuture().setResult(Boolean.TRUE);
}
try {
session.getHandler().onMessageSent(session,
writeMessage.getMessage());
} catch (Exception e) {
session.onException(e);
}
writeMessage = writeQueue.peek();
}
}
if (writeMessage != null) {
try {
session.pendingWrite(writeMessage);
} catch (IOException e) {
session.onException(e);
session.close();
}
}
}
compete方法中的result就是實(shí)際寫入的字節(jié)數(shù),然后我們判斷消息的緩沖區(qū)是否還有剩余,如果沒有就將消息從隊(duì)列中移除,如果隊(duì)列中還有消息,那么繼續(xù)發(fā)起write調(diào)用。
重復(fù)一下,這里引用的代碼都是yanf4j aio分支中的源碼,感興趣的朋友可以直接check out出來看看: http://yanf4j.googlecode.com/svn/branches/yanf4j-aio。
在引入了aio之后,java對(duì)于網(wǎng)絡(luò)層的支持已經(jīng)非常完善,該有的都有了,java也已經(jīng)成為服務(wù)器開發(fā)的首選語言之一。java的弱項(xiàng)在于對(duì)內(nèi)存的管理上,由于這一切都交給了GC,因此在高性能的網(wǎng)絡(luò)服務(wù)器上還是Cpp的天下。java這種單一堆模型比之erlang的進(jìn)程內(nèi)堆模型還是有差距,很難做到高效的垃圾回收和細(xì)粒度的內(nèi)存管理。
這里僅僅是介紹了aio開發(fā)的核心流程,對(duì)于一個(gè)網(wǎng)絡(luò)框架來說,還需要考慮超時(shí)的處理、緩沖buffer的處理、業(yè)務(wù)層和網(wǎng)絡(luò)層的切分、可擴(kuò)展性、性能的可調(diào)性以及一定的通用性要求。