Nginx+tomcat配置集群負載均衡

            作者:niumd 

            Blog:http://ari.iteye.com

            轉載請注明出處,謝謝


              開發的應用采用F5負載均衡交換機,F5將請求轉發給5臺hp unix服務器,每臺服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載,F5設備動輒幾十萬,價格昂貴?自己一個比較幼稚的問題,后續明白:F5是操作于IOS網絡模型的傳輸層,Nginx、apache是基于http反向代理方式,位于ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別,Nginx不能為基于TCP協議的應用提供負載均衡。


                了解了二者之間的區別于應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰Nginx>(這個85年的小伙子年輕有為羨慕+妒忌),搞明白了大致原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡做了配置嘗試,將全部請求轉發到tomcat,并未做靜態,動態分開,圖片防盜鏈等配置。
          Nginx 介紹


               Nginx (發音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,并在一個BSD-like 協議下發行。  其特點是占有內存少,并發能力強,事實上nginx的并發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網志Plurk也使用nginx。


              上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展示基本配置,首先是window環境、其次是Ubuntu環境(Vbox虛擬)。本文主要基于Nginx下配置兩臺tomcat,結構如下圖:

           

          Window xp環境:Nginx+Tomcat6

          1、下載地址

                 http://nginx.org/en/download.html ,這里我們推薦下載穩定版(stable versions),本文采用nginx-0.8.20。


          2、目錄結構


                Nginx-

                         |_  conf   配置目錄

                         |_  contrib

                         |_  docs 文檔目錄

                         |_  logs  日志目錄

                         |_  temp 臨時文件目錄

                         |_  html 靜態頁面目錄

                         |_  nginx.exe 主程序


                window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄即可(個人習慣,擔心中文出問題),雙擊nginx啟動,這里我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。

             

          DOS環境啟動

           

          若果想停止nginx,dos環境運行命令:nginx -s stop


          3、nginx.conf配置


             Nginx配置文件默認在conf目錄,主要配置文件為nginx.conf,我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。

          #Nginx所用用戶和組,window下不指定
          #user  niumd niumd;
          #工作的子進程數量(通常等于CPU數量或者2倍于CPU)
          worker_processes  2;
          #錯誤日志存放路徑
          #error_log  logs/error.log;
          #error_log  logs/error.log  notice;
          error_log  logs/error.log  info;
          #指定pid存放文件
          pid        logs/nginx.pid;
          events {
          #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue,window下不指定。
          #use epoll;
          #允許最大連接數
          worker_connections  2048;
          }
          http {
          include       mime.types;
          default_type  application/octet-stream;
          #定義日志格式
          #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
          #                  '"$status" $body_bytes_sent "$http_referer" '
          #                  '"$http_user_agent" "$http_x_forwarded_for"';
          #access_log  off;
          access_log  logs/access.log;
          client_header_timeout  3m;
          client_body_timeout    3m;
          send_timeout           3m;
          client_header_buffer_size    1k;
          large_client_header_buffers  4 4k;
          sendfile        on;
          tcp_nopush      on;
          tcp_nodelay     on;
          #keepalive_timeout  75 20;
          include    gzip.conf;
          upstream localhost {
          #根據ip計算將請求分配各那個后端tomcat,許多人誤認為可以解決session問題,其實并不能。
          #同一機器在多網情況下,路由切換,ip可能不同
          #ip_hash;
          server localhost:18081;
          server localhost:18080;
          }
          server {
          listen       80;
          server_name  localhost;
          location / {
          proxy_connect_timeout   3;
          proxy_send_timeout      30;
          proxy_read_timeout      30;
          proxy_pass http://localhost;
          }
          }
          }

           
             代理設置如下:

          proxy_redirect          off;
          proxy_set_header        Host $host;
          proxy_set_header        X-Real-IP $remote_addr;
          proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;
          client_max_body_size    10m;
          client_body_buffer_size 128k;
          proxy_connect_timeout   300;
          proxy_send_timeout      300;
          proxy_read_timeout      300;
          proxy_buffer_size       4k;
          proxy_buffers           4 32k;
          proxy_busy_buffers_size 64k;
          proxy_temp_file_write_size 64k;
          


             gzip壓縮相關配置如下:

          gzip              on;
          gzip_min_length      1000;
          gzip_types         text/plain text/css application/x-javascript;
          

           
            4、Tomcat配置


             對于tomcat大家都很熟悉,只需要修改server.xml配置文件即可,這里我們以apache-tomcat-6.0.14為例,分別在server目錄,解壓縮并命名為:apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。


              第一處端口修改:

          <!--  修改port端口:18006 倆個tomcat不能重復,端口隨意,別太小-->
          <Server port="18006" shutdown="SHUTDOWN">
          

           
             第二處端口修改:

          <!-- port="18081" tomcat監聽端口,隨意設置,別太小 -->
          <Connector port="18081" protocol="HTTP/1.1"
          connectionTimeout="20000"
          redirectPort="8443" />
           


             第三處端口修改:

          <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
          


             Engine元素增加jvmRoute屬性:

          <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
          

           
              兩個tomcat的端口別重復,保證能啟動起來,另一個tomcat配置希捷省略,監聽端口為18080,附件中我們將上傳所有的配置信息。


          5、驗證配置與測試負載均衡


              首先測試nginx配置是否正確,測試命令:nginx -t  (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。

           此例nginx安裝目錄:D:\server\nginx-0.8.20,dos環境下圖畫面成功示例:

             其次驗證tomcat,啟動兩個tomcat,不出現端口沖突即為成功(tomcat依賴的java等搞“挨踢”的就廢話不說了);

           

              最后驗證配置負載均衡設置,http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面,增加日志輸出信息,便于觀察。注意:左上角小貓頭上的:access tomcat2、access tomcat1。說明訪問了不同的tomcat。

            

           
               至此window下nginx+tomcat負載均衡配置結束,關于tomcat Session的問題通常是采用memcached,或者采用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現基于 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步,server間相互同步session很耗資源,高并發環境容易引起Session風暴。請根據自己應用情況合理采納session解決方案。



           作者:niumd 

            Blog:http://ari.iteye.com



          Ubuntu10.10環境:Nginx+Tomcat6


          我們下面簡單說下ubuntu10.10下如何安裝配置,主要以圖片為主,簡單解釋。

          1、下載Nginx

                地址:http://nginx.org/en/download.html ,linux版本:nginx-0.8.20.tar.。解壓縮命令:


          tar -zxvf nginx-0.8.20.tar.gz


          2、編譯安裝Nginx


               Nginx依賴一些其他PCRE、openssl(依賴libssl-dev),本人筆記本Ubuntu環境已經安裝PCRE,僅需安裝依賴的openssl,下面我們簡單說下如何安裝PCRE和openssl等


               PCRE下載地址:ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/


          tar zxvf  pcre-8.01.tar.gz
          cd pcre-8.01
          sudo ./configure
          sodu make
          sodu make install
          


              openssl通過apt-get install安裝,命令、截圖如下:

          sudo apt-get install openssl
          sudo apt-get install libssl-dev
          //如缺少其他包,請采用此方法安裝,ubuntu有依賴提示
          

           

           
           依賴的軟件包安裝完畢,下面來編譯Nginx:

          #將window共享目錄軟件拷貝到當前工作目錄
          cp /mnt/fileshare/nginx-0.8.20.tar.gz ./
          #解壓縮軟件包
          tar zxvf nginx-0.8.20.tar.gz
          cd nginx-0.8.20
          //編譯源碼,默認使用nobody,指定本機已存在的用戶,組,啟用nginx-status功能,監控nginx狀態。啟動debug
          sudo ./configure  --user=niumd --group=niumd --with-debug --with-http_stub_status_module
          sudo make
          sudo make install
          

           
             截圖 如下:

          安裝結果截圖如下:

           

          編譯安裝正確結束,按照上述window下方法檢查默認配置,然后在默認配置下啟動nginx,訪問http://127.0.0.1 ,如下圖說明成功

           

          Nginx配置成功后我們對window下nginx.conf少做修改,如下:

          #Nginx所用用戶和組
          user  niumd niumd;
          #工作的子進程數量(通常等于CPU數量或者2倍于CPU)
          worker_processes  2;
          #錯誤日志存放路徑
          #error_log  logs/error.log;
          #error_log  logs/error.log  notice;
          error_log  logs/error.log  info;
          #指定pid存放文件
          pid        logs/nginx.pid;
          events {
          #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue
          use epoll;
          #允許最大連接數
          worker_connections  2048;
          }
          http {
          include       mime.types;
          default_type  application/octet-stream;
          #定義日志格式
          #log_format  main  '$remote_addr - $remote_user [$time_local] $request '
          #                  '"$status" $body_bytes_sent "$http_referer" '
          #                  '"$http_user_agent" "$http_x_forwarded_for"';
          #access_log  off;
          access_log  logs/access.log;
          client_header_timeout  3m;
          client_body_timeout    3m;
          send_timeout           3m;
          client_header_buffer_size    1k;
          large_client_header_buffers  4 4k;
          sendfile        on;
          tcp_nopush      on;
          tcp_nodelay     on;
          #keepalive_timeout  75 20;
          include    gzip.conf;
          upstream localhost {
          #ip_hash
          #ip_hash;
          server localhost:18081;
          server localhost:18080;
          }
          server {
          listen       80;
          server_name  localhost;
          location / {
          proxy_connect_timeout   3;
          proxy_send_timeout      30;
          proxy_read_timeout      30;
          proxy_pass http://localhost;
          }
          }
          }
          

            對于上面關于ubuntu下Nginx配置和window下基本相同,區別在使用的IO網絡模型,linux下建議使用epoll,另外就是運行所用的用戶和組;


          3、配置tomcat

              請參考window下配置,完全相同。

          4、啟動停止nginx

              ubuntu下啟動nginx與window稍有不同,大致啟動停止方法如下。


          #nginx目錄執行
          sbin/nginx
          或通過-c 指定配置文件
          sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf



          niumd@niumd-laptop:/usr/local/nginx$ pwd
          /usr/local/nginx
          niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
          the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
          configuration file /usr/local/nginx/conf/nginx.conf test is successful
          niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
          nginx version: nginx/0.8.20
          niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
          nginx version: nginx/0.8.20
          built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)
          configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
          niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx
          niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
          root      5158     1  0 22:32 ?        00:00:00 nginx: master process sbin/nginx
          niumd     5159  5158  0 22:32 ?        00:00:00 nginx: worker process
          niumd     5161  1577  0 22:32 pts/0    00:00:00 grep --color=auto nginx
          niumd@niumd-laptop:/usr/local/nginx$ 


               我們通過ps  -ef|grep nginx,看到如下結果:

             

          注意:在啟動時linux提示一句警告【warn】……,是因為我們設置的 #允許最大連接數 worker_connections  2048,超過linux默認1024的限制。

                 停止:kill -信號類型 pid

                 nginx/logs目錄下有個nginx。pid的文件,此文件記錄了每次運行的pid,也可以通過ps命令查詢。

          信號類型如下:


          信號控制
          信號類型 描述
          RERM.INT 快速關閉
          HUP 平滑重啟,加載配置
          USR1 重新加載日志
          USER2 平滑升級執行程序
          WINCH 從容關閉工作進程
          QUIT 從容關閉


          參考資料:

          http://www.oschina.net/bbs/thread/9301

          oschina.net 生產配置,此網站采用java語言,nginx,tomcat服務器。

          http://nginx.org/

          張宴:<<實戰Nginx>>


          posted on 2011-05-10 20:56 空白 閱讀(41666) 評論(5)  編輯  收藏 所屬分類: Linux/Unix

          評論

          # re: Nginx+tomcat配置集群負載均衡 2013-03-25 21:22 張粗

          樓主。太詳細了!受益匪淺
            回復  更多評論   

          # re: Nginx+tomcat配置集群負載均衡 2013-05-08 14:43 海琨

          確實不錯  回復  更多評論   

          # re: Nginx+tomcat配置集群負載均衡 2013-08-28 16:52 VM

          樓主你這篇文章整理的很好,學到不少東西。不過也有一點錯誤的地方
          Engine元素增加jvmRoute屬性:
          <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">,這一段其實不是必須的,或者說是壓根就不許要的。代理服務器Nginx通過IP和端口找后端的服務器,跟這個參數沒有任何關系。  回復  更多評論   

          # re: Nginx+tomcat配置集群負載均衡[未登錄] 2013-11-15 11:13 p

          學習了。。請問下,如何做圖片緩存呢  回復  更多評論   

          # re: Nginx+tomcat配置集群負載均衡 2014-04-23 10:23 一直都在

          index.jsp頁面,增加日志輸出信息, 能把這個告訴我么  回復  更多評論   

          <2013年5月>
          2829301234
          567891011
          12131415161718
          19202122232425
          2627282930311
          2345678

          導航

          統計

          常用鏈接

          留言簿(1)

          隨筆分類(15)

          積分與排名

          最新評論

          閱讀排行榜

          評論排行榜

          主站蜘蛛池模板: 寻甸| 盐池县| 富阳市| 贵阳市| 漯河市| 东兰县| 安康市| 凭祥市| 浙江省| 萍乡市| 齐河县| 杭锦旗| 临汾市| 平凉市| 汕头市| 克什克腾旗| 洪泽县| 铜山县| 普安县| 渭南市| 高雄县| 平定县| 凉城县| 保定市| 天长市| 崇阳县| 桂平市| 屯门区| 福贡县| 武胜县| 长沙县| 德庆县| 仙游县| 昆山市| 高阳县| 华宁县| 桦甸市| 岗巴县| 阜宁县| 博乐市| 鄢陵县|