開發的應用采用F5負載均衡交換機,F5將請求轉發給5臺hp unix服務器,每臺服務器有多個webserver實例,對外提供web服務和socket等接口服務。之初,曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載,F5設備動輒幾十萬,價格昂貴?自己一個比較幼稚的問題,后續明白:F5是操作于IOS網絡模型的傳輸層,Nginx、apache是基于http反向代理方式,位于ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別,Nginx不能為基于TCP協議的應用提供負載均衡。
了解了二者之間的區別于應用場景,對Nginx產生濃厚的興趣,閱讀張宴的<實戰Nginx>(這個85年的小伙子年輕有為羨慕+妒忌),搞明白了大致原理和配置,Ubuntu10.10,window下對Nginx+tomcat負載均衡做了配置嘗試,將全部請求轉發到tomcat,并未做靜態,動態分開,圖片防盜鏈等配置。
Nginx 介紹
Nginx (發音同 engine x)是一款輕量級的Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器,并在一個BSD-like 協議下發行。 其特點是占有內存少,并發能力強,事實上nginx的并發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有:新浪、網易、 騰訊,另外知名的微網志Plurk也使用nginx。
上面的全是Nginx介紹基本上是廢話,下面轉入正題,圖文結合展示基本配置,首先是window環境、其次是Ubuntu環境(Vbox虛擬)。本文主要基于Nginx下配置兩臺tomcat,結構如下圖:
Window xp環境:Nginx+Tomcat6
1、下載地址
http://nginx.org/en/download.html ,這里我們推薦下載穩定版(stable versions),本文采用nginx-0.8.20。
2、目錄結構
Nginx-
|_ conf 配置目錄
|_ contrib
|_ docs 文檔目錄
|_ logs 日志目錄
|_ temp 臨時文件目錄
|_ html 靜態頁面目錄
|_ nginx.exe 主程序
window下安裝Nginx極其簡單,解壓縮到一個無空格的英文目錄即可(個人習慣,擔心中文出問題),雙擊nginx啟動,這里我安裝到:D:\server目錄,下面涉及到的tomcat也安裝在此目錄。
DOS環境啟動
若果想停止nginx,dos環境運行命令:nginx -s stop
3、nginx.conf配置
Nginx配置文件默認在conf目錄,主要配置文件為nginx.conf,我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。
#Nginx所用用戶和組,window下不指定 #user niumd niumd; #工作的子進程數量(通常等于CPU數量或者2倍于CPU) worker_processes 2; #錯誤日志存放路徑 #error_log logs/error.log; #error_log logs/error.log notice; error_log logs/error.log info; #指定pid存放文件 pid logs/nginx.pid; events { #使用網絡IO模型linux建議epoll,FreeBSD建議采用kqueue,window下不指定。 #use epoll; #允許最大連接數 worker_connections 2048; } http { include mime.types; default_type application/octet-stream; #定義日志格式 #log_format main '$remote_addr - $remote_user [$time_local] $request ' # '"$status" $body_bytes_sent "$http_referer" ' # '"$http_user_agent" "$http_x_forwarded_for"'; #access_log off; access_log logs/access.log; client_header_timeout 3m; client_body_timeout 3m; send_timeout 3m; client_header_buffer_size 1k; large_client_header_buffers 4 4k; sendfile on; tcp_nopush on; tcp_nodelay on; #keepalive_timeout 75 20; include gzip.conf; upstream localhost { #根據ip計算將請求分配各那個后端tomcat,許多人誤認為可以解決session問題,其實并不能。 #同一機器在多網情況下,路由切換,ip可能不同 #ip_hash; server localhost:18081; server localhost:18080; } server { listen 80; server_name localhost; location / { proxy_connect_timeout 3; proxy_send_timeout 30; proxy_read_timeout 30; proxy_pass http://localhost; } } }
代理設置如下:
proxy_redirect off; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; client_max_body_size 10m; client_body_buffer_size 128k; proxy_connect_timeout 300; proxy_send_timeout 300; proxy_read_timeout 300; proxy_buffer_size 4k; proxy_buffers 4 32k; proxy_busy_buffers_size 64k; proxy_temp_file_write_size 64k;
gzip壓縮相關配置如下:
gzip on; gzip_min_length 1000; gzip_types text/plain text/css application/x-javascript;
4、Tomcat配置
對于tomcat大家都很熟悉,只需要修改server.xml配置文件即可,這里我們以apache-tomcat-6.0.14為例,分別在server目錄,解壓縮并命名為:apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。
第一處端口修改:
<!-- 修改port端口:18006 倆個tomcat不能重復,端口隨意,別太小--> <Server port="18006" shutdown="SHUTDOWN">
第二處端口修改:
<!-- port="18081" tomcat監聽端口,隨意設置,別太小 --> <Connector port="18081" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />
第三處端口修改:
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
Engine元素增加jvmRoute屬性:
<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
兩個tomcat的端口別重復,保證能啟動起來,另一個tomcat配置希捷省略,監聽端口為18080,附件中我們將上傳所有的配置信息。
5、驗證配置與測試負載均衡
首先測試nginx配置是否正確,測試命令:nginx -t (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。
此例nginx安裝目錄:D:\server\nginx-0.8.20,dos環境下圖畫面成功示例:
其次驗證tomcat,啟動兩個tomcat,不出現端口沖突即為成功(tomcat依賴的java等搞“挨踢”的就廢話不說了);
最后驗證配置負載均衡設置,http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面,增加日志輸出信息,便于觀察。注意:左上角小貓頭上的:access tomcat2、access tomcat1。說明訪問了不同的tomcat。
至此window下nginx+tomcat負載均衡配置結束,關于tomcat Session的問題通常是采用memcached,或者采用nginx_upstream_jvm_route ,他是一個 Nginx 的擴展模塊,用來實現基于 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步,server間相互同步session很耗資源,高并發環境容易引起Session風暴。請根據自己應用情況合理采納session解決方案。
作者:niumd
Blog:http://ari.iteye.com