fastdfs分布式文件系統(tǒng)部署

          在介紹本文之前,我向大家介紹下一個非常棒的分布式文件系統(tǒng)fastdfs,關于她的具體介紹和優(yōu)點我不做詳細介紹了,有關資料可以訪問:http://linux.chinaunix.net/bbs/forum-75-1.html

          web2.0海量小文件的存儲是所有系統(tǒng)架構師必須要面對的一個問題。

          這幾天一直在忙著給公司部署分布式文件系統(tǒng)。也看了幾個大型公司的分布式文件系統(tǒng)的架構:flicker,taobao,拍拍網。深入理解各自應用的場景,弄明白了很多個為什么之后,自己將要為公司部署的分布式文件系統(tǒng)架構也慢慢浮出水面了。

          架構隨著業(yè)務發(fā)展而逐步改變的,比如類似淘寶這樣的訪問量,可能需要cdn來加速靜態(tài)資源(js,css)和用戶上傳的業(yè)務相關的圖片而一般訪問量不是特別大的網站可以不用部署cdn,原因肯定很多,硬件成本和維護成本等等。

          那么接下來我就分別介紹部署cdn的分布式文件系統(tǒng)架構和普通分布式文件系統(tǒng)架構。

          (一)部署cdn的分布式文件系統(tǒng)架構:

          涉及到的技術:lvs,haproxy(或nagix),squid,nagix(或apache),fastdfs。
          有圖有真相,先畫個圖。


          接下來我對每層設置的意義進行解釋下。
          lvs7層代理:主要通過ip來找到自己合適的下層服務器。
          haproxy或nginx4層代理:主要通過url hash找到合適的一臺squid。最主要功能就是為了提高squid緩存的命中率。
          squid集群:緩存所有用戶訪問的對象。
          文件服務器集群:1、tracker服務器,主要管理文件存儲的源storage等一些信息。 2、storage服務器就是實際文件的存儲位置。最近fishman(fastdfs的作者)開發(fā)了一個apache module解決了延遲問題,那么我們可以不用啟用tracker內嵌的服務器來跳轉了,直接把http服務器配置在storage服務器上。給我們帶來了很多方便。

          (二)普通分布式文件系統(tǒng)架構:


          (圖片引自:http://linux.chinaunix.net/bbs/thread-1062461-1-1.html

          這個架構沒有涉及到cdn的部署,相比起來應該更容易理解了。對于tracker和storage的作用類似于在部署cdn的分布式文件系統(tǒng)架構部分介紹的一樣。其中client我覺得有必要要解釋下,這里的client有兩層含義:1、相對于tracker和storage服務器來說,client是訪問這些服務器的客戶端。 2、應用程序的服務端。實際開發(fā)中,我們可以部署一臺圖片上傳服務器來作為應用程序的服務端,也可以把圖片上傳服務直接寫到應用程序中。

          兩種架構都是基于fastdfs分布式文件系統(tǒng)。所以你們了解fastdfs軟件本身之后再看這篇文章也許會更有益。

          posted on 2010-10-26 17:27 yangpingyu 閱讀(3738) 評論(2)  編輯  收藏 所屬分類: 網站架構

          評論

          # re: fastdfs分布式文件系統(tǒng)部署 2011-04-24 20:01 simpcl2008@gmail.com

          看到一個問題,應該是筆誤吧:LVS應該是4層,haproxy/nginx應該是7層。  回復  更多評論   

          # re: fastdfs分布式文件系統(tǒng)部署 2011-05-13 21:51 yangpingyu

          @simpcl2008@gmail.com
          是的,謝謝你的提醒哈。  回復  更多評論   


          只有注冊用戶登錄后才能發(fā)表評論。


          網站導航:
           
          <2010年10月>
          262728293012
          3456789
          10111213141516
          17181920212223
          24252627282930
          31123456

          導航

          統(tǒng)計

          常用鏈接

          留言簿

          隨筆分類

          隨筆檔案

          收藏夾

          linux

          產品交互

          分析,設計,架構

          安全

          技術牛人

          數據庫

          搜索

          最新評論

          閱讀排行榜

          評論排行榜

          主站蜘蛛池模板: 天长市| 金华市| 高要市| 沽源县| 明光市| 车致| 南丹县| 资阳市| 运城市| 弥勒县| 朝阳县| 宝应县| 临沂市| 荥阳市| 浦北县| 株洲县| 弥渡县| 蓬溪县| 大渡口区| 武威市| 札达县| 凌云县| 博爱县| 顺义区| 丹棱县| 安平县| 阳山县| 来安县| 陆良县| 托克托县| 华宁县| 海林市| 广南县| 广灵县| 宜春市| 鱼台县| 丹东市| 枣庄市| 石台县| 松原市| 绥中县|