Jack Jiang

          我的最新工程MobileIMSDK:http://git.oschina.net/jackjiang/MobileIMSDK
          posts - 506, comments - 13, trackbacks - 0, articles - 1

          本文作者網易智慧企業web前端開發工程師馬瑩瑩。為了提升內容質量,收錄時有修訂和改動。

          1、引言

          在一個完善的即時通訊IM應用中,WebSocket是極其關鍵的一環,它為基于Web的即時通訊應用提供了一種全雙工的通信機制。但為了提升IM等實際應用場景下的消息即時性和可靠性,我們需要克服WebSocket及其底層依賴的TCP連接對于復雜網絡情況下的不穩定性,即時通訊的開發者們通常都需要為其設計一套完整的連接保活、驗活以及斷片網重連方案。

          就斷網重連而言,其重連響應速度將嚴重影響了上層應用的“即時性”和用戶體驗。試想打開網絡一分鐘后,微信的網絡不能即時感知到socket連接的恢復,無法即時收發聊天消息的話,是不是很崩潰?

          因此,如何在復雜網絡場景下,更即時快速地感知網絡變動,并快速恢復WebSocket的可用性,就變得尤為重要。本文將基于筆者的開發實踐,分享WebSocket在不同狀態下、不同的網絡狀態下,應該如何實現快速斷網重連。

          * 閱讀對象:本文適合有過IM底層網絡實際開發經驗,或者對底層網絡實現有較深了解的開發者閱讀。如果對底層網絡了解甚少,建議跳過本文,直接閱讀網絡本文末尾附錄部分的基礎后再回頭來看。

          * 內容點評:本文內容沒有高大上,但比較干貨,實用性較高,內容也很通俗,建議可詳細閱讀。文中雖講的是WebSocket,但思想可以延伸應用到基于TCP協議的同類技術中。

          本文已同步發布于“即時通訊技術圈”公眾號,歡迎關注:

          ▲ 本文在公眾號上的鏈接是:點此進入原文鏈接是:http://www.52im.net/thread-3098-1-1.html

          2、預備知識

          本文中將要分享的內容是基于實踐總結,如果你對Web端的即時通訊知識還一頭霧水,務必先讀:《新手入門貼:史上最全Web端即時通訊技術原理詳解》、《Web端即時通訊技術盤點:短輪詢、Comet、Websocket、SSE》。

          限于篇幅,本文不會深究WebSocket技術細節,如有興趣請系統學習:

          3、快速了解WebSocket

          Websocket誕生于2008年,在2011年成為國際標準,現在所有的瀏覽器都已支持(詳見《新手快速入門:WebSocket簡明教程》)。它是一種全新的應用層協議,是專門為web客戶端和服務端設計的真正的全雙工通信協議,可以類比HTTP協議來了解websocket協議。

          圖片引用自《WebSocket詳解(四):刨根問底HTTP與WebSocket的關系(上篇)

          它們的不同點:

          • 1)HTTP的協議標識符是http,WebSocket的是ws;
          • 2)HTTP請求只能由客戶端發起,服務器無法主動向客戶端推送消息,而WebSocket可以;
          • 3)HTTP請求有同源限制,不同源之間通信需要跨域,而WebSocket沒有同源限制。

          它們的相同點:

          • 1)都是應用層的通信協議;
          • 2)默認端口一樣,都是80或443;
          • 3)都可以用于瀏覽器和服務器間的通信;
          • 4)都基于TCP協議。

          兩者和TCP的關系圖:

          圖片引用自《新手快速入門:WebSocket簡明教程

          有關Http和WebSocket的關系,可以詳讀:

          有關WebSocket和Socket的關系,可以詳讀:《WebSocket詳解(六):刨根問底WebSocket與Socket的關系》.

          4、WebSocket重連過程拆解

          首先考慮一個問題,何時需要重連?

          最容易想到的是WebSocket連接斷了,為了接下來能收發消息,我們需要再發起一次連接。

          但在很多場景下,即便WebSocket連接沒有斷開,實際上也不可用了。

          比如以下場景:

          • 1)設備切換網絡;
          • 2)鏈路中間路由崩潰(常識是一條socket連接對應的網絡通路上,會存在很多路由設備);
          • 3)鏈路的前端出口不可用(比如家庭WiFi中,網絡連接正常,但實際運營商的寬帶已經欠費被停機);
          • 4)服務器負載持續過高無法響應等。

          這些場景下的WebSocket都沒有斷開,但對上層來說,都沒辦法正常的收發數據了。

          因此在重連前,我們需要一種機制來感知連接是否可用、服務是否可用,而且要能快速感知,以便能夠快速從不可用狀態中恢復。

          一旦感知到了連接不可用,那便可以棄舊圖新了,棄用并斷開舊連接,然后發起一次新連接。這兩個步驟看似簡單,但若想達到快,且不是那么容易的。

          首先:是斷開舊連接,對客戶端來說,如何快速斷開?協議規定客戶端必須要和服務器協商后才能斷開WebSocket連接,但是當客戶端已經聯系不上服務器、無法協商時,如何斷開并快速恢復?

          其次:是快速發起新連接。此快非彼快,這里的快并非是立即發起連接,立即發起連接會對服務器帶來不可預估的影響。重連時通常會采用一些退避算法,延遲一段時間后再發起重連。但如何在重連間隔和性能消耗間做出權衡?如何在“恰當的時間點”快速發起連接?

          帶著這些疑問,我們來細看下這三個過程:

          5、快速重連關鍵1:快速感知何時需要重連

          5.1 場景

          需要重連的場景可以細分為三種:

          • 1)連接明確斷開了;
          • 2)連接沒斷但是不可用了;
          • 3)連接對端的服務不可用了。

          對于第一種場景:這很簡單,連接直接斷開了,肯定需要重連了。

          對于后兩者:無論是連接不可用,還是服務不可用,對上層應用的影響都是不能再收發即時消息了。

          5.2 心跳包主動探測網絡可用性

          所以從上面這個角度出發,感知何時需要重連的一種簡單粗暴的方法就是通過心跳包超時:發送一個心跳包,如果超過特定的時間后還沒有收到服務器回包,則認為服務不可用,如下圖中左側的方案(這種方法最直接)。

          那如果想要快速感知呢,就只能多發心跳包,加快心跳頻率。但是心跳太快對移動端流量、電量的消耗又會太多,所以使用這種方法沒辦法做到快速感知,可以作為檢測連接和服務可用的兜底機制。

          5.3 被動監聽網絡狀態改變

          如果要檢測連接不可用,除了用心跳檢測,還可以通過判斷網絡狀態來實現,因為斷網、切換wifi、切換網絡是導致連接不可用的最直接原因,所以在網絡狀態由offline變為online時,大多數情況下需要重連下,但也不一定,因為webscoket底層是基于TCP的,TCP連接不能敏銳的感知到應用層的網絡變化,所以有時候即便網絡斷開了一小會,對WebSocket連接是不會有影響的,網絡恢復后,仍然能夠正常地進行通信。

          因此在網絡由斷開到連接上時,立即判斷下連接是否可用,可以通過發一個心跳包判斷,如果能夠正常收到服務器的心跳回包,則說明連接仍是可用的,如果等待超時后仍沒有收到心跳回包,則需要重連,如上圖中的右側。這種方法的優點是速度快,在網絡恢復后能夠第一時間感知連接是否可用,不可用的話可以快速執行恢復,但它只能覆蓋應用層網絡變化導致WebSocket不可用的情況。

          5.4 小結

          綜上所述:

          • 1)定時發送心跳包檢測的方案貴在穩定,能夠覆蓋所有場景,但速度不即時(心跳間隔是固定的);
          • 2)判斷網絡狀態的方案速度快,無需等待心跳間隔,較為靈敏,但覆蓋場景較為局限。

          因此,我們可以結合兩種方案:

          • 1)定時以不太快的頻率發送心跳包,比如40s/次、60s/次等,具體可以根據應用場景來定;
          • 2)然后在網絡狀態由offline變為online時立即發送一次心跳,檢測當前連接是否可用,不可用的話立即進行恢復處理。

          這樣在大多數情況下,上層的應用通信都能較快從不可用狀態中恢復,對于少部分場景,有定時心跳作為兜底,在一個心跳周期內也能夠恢復。

          6、快速重連關鍵2:快速斷開舊連接

          通常情況下,在發起下一次連接前,如果舊連接還存在的話,應該先把舊連接斷開。

          這樣做的目的:

          • 1)一來可以釋放客戶端和服務器的資源;
          • 2)二來可以避免之后誤從舊連接收發數據。

          我們知道WebSocket底層是基于TCP協議傳輸數據的,連接兩端分別是服務器和客戶端,而TCP的TIME_WAIT狀態是由服務器端維持的,因此在大多數正常情況下,應該由服務器發起斷開底層TCP連接,而不是客戶端。

          也就是說:

          • 1)要斷開WebSocket連接時,如果是服務器收到指示要斷開WebSocket,那它應該立即發起斷開TCP連接;
          • 2)如果是客戶端收到指示要斷開WebSocket,那它應該發信號給服務器,然后等待底層TCP連接被服務器斷開或直至超時。

          那如果客戶端想要斷開舊的WebSocket,可以分為WebSocket連接可用和不可用兩種情況來討論。

          具體如下:

          • 1)當舊連接可用時,客戶端可以直接給服務器發送斷開信號,然后服務器發起斷開連接即可;
          • 2)當舊連接不可用時,比如客戶端切換了wifi,客戶端發送了斷開信號,但是服務器收不到,客戶端只能遲遲等待,直至超時才能被允許斷開。

          超時斷開的過程相對來說是比較久的,那有沒有辦法可以快點斷開?

          上層應用無法改變只能由服務器發起斷開連接這種協議層面的規則,所以只能從應用邏輯入手,比如在上層通過業務邏輯保證舊連接完全失效,模擬連接斷開,然后在發起新連接,恢復通訊。

          這種方法相當于嘗試斷開舊連接不行時,直接棄之,然后就能快速進入下一流程,所以在使用時一定要確保在業務邏輯上舊連接已完全失效。

          比如:

          • 1)保證丟掉從舊連接收到所有數據;
          • 2)舊連接不能阻礙新連接的建立
          • 3)舊連接超時斷開后不能影響新連接和上層業務邏輯等等。

          7、快速重連關鍵3:快速發起新連接

          有IM開發經驗的同學應該有所了解,遇到因網絡原因導致的重連時,是萬萬不能立即發起一次新連接的,否則當出現網絡抖動時,所有的設備都會立即同時向服務器發起連接,這無異于黑客通過發起大量請求消耗網絡帶寬引起的拒絕服務攻擊,這對服務器來說簡直是災難(即:服務端雪崩效應)。

          所以在重連時通常采用一些退避算法,延遲一段時間再發起重連,如下圖中左側的流程。

          如果要快速連上呢?最直接的做法就是縮短重試間隔,重試間隔越短,在網絡恢復后就能越快的恢復通訊。但是太頻繁的重試對性能、帶寬、電量的消耗就比較嚴重。

          如何在這之間做一個較好的權衡呢?

          • 1)一種比較合理的方式是隨著重試次數增多,逐漸增大重試間隔;
          • 2)另一方面監聽網絡變化,在網絡狀態由offline變為online這種比較可能重連上的時刻,適當地減小重連間隔。

          上述第2)種方案,如上圖中的右側所示,隨重試次數的增多,重連間隔也會變大。這兩種方式配合使用,更為合理。

          除此之外,還可以結合業務邏輯,根據成功重連上的可能性適當的調整間隔,如網絡未連接時或應用在后臺時重連間隔可以調大一些,網絡正常的狀態下可以適當調小一些等等,加快重連上的速度。

          8、本文小結

          最后總結一下。

          本文將WebSocket斷網重連邏輯細分為三個步驟:

          • 1)確定何時需要重連;
          • 2)斷開舊連接;
          • 3)發起新連接。

          然后分別分析了在WebSocket的不同狀態下、不同的網絡狀態下,如何快速完成這個三個步驟。

          過程具體總結就是:

          • 1)首先:通過定時發送心跳包的方式檢測當前連接是否可用,同時監測網絡恢復事件,在恢復后立即發送一次心跳,快速感知當前狀態,判斷是否需要重連;
          • 2)其次:正常情況下由服務器斷開舊連接,與服務器失去聯系時直接棄用舊連接,上層模擬斷開,來實現快速斷開;
          • 3)最后:發起新連接時使用退避算法延遲一段時間再發起連接,同時考慮到資源浪費和重連速度,可以在網絡離線時調大重連間隔,在網絡正常或網絡由offline變為online時縮小重連間隔,使之盡可能快地重連上。

          以上就是我關于如何實現WebSocket快速重連的技術分享,歡迎留言與我探討。

          9、參考資料

          [1] RFC 6455 文檔

          [2] 新手快速入門:WebSocket簡明教程

          [3] WebSocket詳解(四):刨根問底HTTP與WebSocket的關系(上篇)

          [4] WebSocket詳解(五):刨根問底HTTP與WebSocket的關系(下篇)

          [5] WebSocket詳解(六):刨根問底WebSocket與Socket的關系

          附錄:更多Web端即時通訊資料

          新手入門貼:史上最全Web端即時通訊技術原理詳解

          Web端即時通訊技術盤點:短輪詢、Comet、Websocket、SSE

          SSE技術詳解:一種全新的HTML5服務器推送事件技術

          Comet技術詳解:基于HTTP長連接的Web端實時通信技術

          socket.io實現消息推送的一點實踐及思路

          LinkedIn的Web端即時通訊實踐:實現單機幾十萬條長連接

          Web端即時通訊技術的發展與WebSocket、Socket.io的技術實踐

          Web端即時通訊安全:跨站點WebSocket劫持漏洞詳解(含示例代碼)

          開源框架Pomelo實踐:搭建Web端高性能分布式IM聊天服務器

          使用WebSocket和SSE技術實現Web端消息推送

          詳解Web端通信方式的演進:從Ajax、JSONP 到 SSE、Websocket

          MobileIMSDK-Web的網絡層框架為何使用的是Socket.io而不是Netty?

          理論聯系實際:從零理解WebSocket的通信原理、協議格式、安全性

          微信小程序中如何使用WebSocket實現長連接(含完整源碼)

          八問WebSocket協議:為你快速解答WebSocket熱門疑問

          快速了解Electron:新一代基于Web的跨平臺桌面技術

          一文讀懂前端技術演進:盤點Web前端20年的技術變遷史

          Web端即時通訊基礎知識補課:一文搞懂跨域的所有問題!

          Web端即時通訊實踐干貨:如何讓你的WebSocket斷網重連更快速?

          >> 更多同類文章 ……

          (本文同步發布于:http://www.52im.net/thread-3098-1-1.html



          作者:Jack Jiang (點擊作者姓名進入Github)
          出處:http://www.52im.net/space-uid-1.html
          交流:歡迎加入即時通訊開發交流群 215891622
          討論:http://www.52im.net/
          Jack Jiang同時是【原創Java Swing外觀工程BeautyEye】【輕量級移動端即時通訊框架MobileIMSDK】的作者,可前往下載交流。
          本博文 歡迎轉載,轉載請注明出處(也可前往 我的52im.net 找到我)。


          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          Jack Jiang的 Mail: jb2011@163.com, 聯系QQ: 413980957, 微信: hellojackjiang
          主站蜘蛛池模板: 含山县| 漳平市| 新巴尔虎左旗| 延庆县| 云梦县| 新宁县| 托克托县| 青田县| 宜川县| 股票| 德阳市| 卢湾区| 黎川县| 长治市| 深泽县| 横山县| 莱西市| 双桥区| 宁城县| 来凤县| 克山县| 桃园县| 宜春市| 永年县| 闵行区| 桐庐县| 鹰潭市| 札达县| 凤庆县| 敦煌市| 呼玛县| 根河市| 吕梁市| 鄱阳县| 兴城市| 尖扎县| 丹寨县| 江北区| 长岭县| 榆中县| 丰城市|