文章摘要

 OSCache簡介
OSCache是OpenSymphony組織提供的一個J2EE架構(gòu)中Web應(yīng)用層的緩存技術(shù)實(shí)現(xiàn)組件,它的出現(xiàn)解決了我們面臨的問題。 OSCache目前最新的穩(wěn)定版本是2.3。

2.1 主要特征

1. 兼容多種支持JSP的web服務(wù)器

已經(jīng)通過兼容測試的web服務(wù)器包括 :

1 OrionServer ( 1.4 .0或者以上版本)
2 Macromedia JRun ( 3 .0或者以上版本)
3 BEA Weblogic ( 7 .x或者以上版本)
4 IBM Websphere ( 5 .0版本)
5 Silverstream ( 3.7 .4版本)
6 Caucho Resin ( 1.2 .3或者以上版本)
7 Tomcat ( 4 .0或者以上版本)
8 其他支持servlet2. 3 、jsp1.2的web服務(wù)器

2. 可選的緩存區(qū)

你可以使用內(nèi)存、硬盤空間、同時使用內(nèi)存和硬盤或者提供自己的其他資源(需要自己提供適配器)作為緩存區(qū)。

1 使用內(nèi)存作為緩存區(qū)將可以提供更好的性能 
2 使用硬盤作為緩存區(qū)可以在服務(wù)器重起后迅速恢復(fù)緩存內(nèi)容 
3 同時使用內(nèi)存和硬盤作為緩存區(qū)則可以減少對內(nèi)存的占用 

3. 靈活的緩存系統(tǒng)

OSCache支持對部分頁面內(nèi)容或者對頁面級的響應(yīng)內(nèi)容進(jìn)行緩存,編程者可以根據(jù)不同的需求、不同的環(huán)境選擇不同的緩存級別。

4. 容錯

在一般的web應(yīng)用中,如果某個頁面需要和數(shù)據(jù)庫打交道,而當(dāng)客戶請求到達(dá)時,web應(yīng)用和數(shù)據(jù)庫之間無法進(jìn)行交互,那么將返回給用戶"系統(tǒng)出錯"或者類似的提示信息,如果使用了OSCache的話,你可以使用緩存提供給用戶,給自己贏得維護(hù)系統(tǒng)或者采取其他補(bǔ)救的時間。

5.其它特性

包括對集群的支持、緩存主動刷新等特性,大家可以參考OpenSymphony網(wǎng)站上的其他資源獲取更多的信息。








3 OSCache組件的安裝

OSCache是一個基于web應(yīng)用的組件,他的安裝工作主要是對web應(yīng)用進(jìn)行配置,大概的步驟如下:

1. 下載、解壓縮OSCache

請到OSCache的主頁http://www.opensymphony.com/oscache/download.html下載Oscache的最新版本,作者下載的是OSCache的最新穩(wěn)定版本2.3。

4 開始使用OSCache中的緩存組件
OSCache中按照緩存范圍的不同分為兩種不同的方式:一種是緩存JSP頁面中部分或者全部內(nèi)容,一種是基于整個頁面文件的緩存。

4.1 JSP部分內(nèi)容緩存
4.1.1 Cache-OSCache提供的緩存標(biāo)簽
這是OSCache提供的標(biāo)簽庫中最重要的一個標(biāo)簽,包括在標(biāo)簽中的內(nèi)容將應(yīng)用緩存機(jī)制進(jìn)行處理,處理的方式將取決于編程者對cache標(biāo)簽屬性的設(shè)置。

第一次請求到達(dá)時,標(biāo)簽中的內(nèi)容被處理并且緩存起來,當(dāng)下一個請求到達(dá)時,緩存系統(tǒng)會檢查這部分內(nèi)容的緩存是否已經(jīng)失效,主要是以下幾項:

1 1 . 緩存時間超過了cache標(biāo)簽設(shè)置的time或者duration屬性規(guī)定的超時時間 
2 2 . cron屬性規(guī)定的時間比緩存信息的開始時間更晚 
3 3 . 標(biāo)簽中緩存的內(nèi)容在緩存后又被重新刷新過 
4 4 . 其他緩存超期設(shè)定

如果符合上面四項中的任何一項,被緩存的內(nèi)容視為已經(jīng)失效,這時被緩存的內(nèi)容將被重新處理并且返回處理過后的信息,如果被緩存的內(nèi)容沒有失效,那么返回給用戶的將是緩存中的信息。

cache標(biāo)簽的屬性說明:

key - 標(biāo)識緩存內(nèi)容的關(guān)鍵詞。在指定的作用范圍內(nèi)必須是唯一的。默認(rèn)的key是被訪問頁面的URI和后面的請求字符串。

你可以在同一個頁面中使用很多cache標(biāo)簽而不指定他的key屬性,這種情況下系統(tǒng)使用該頁面的URI和后面的請求字符串,另外再自動給這些key增加一個索引值來區(qū)分這些緩存內(nèi)容。但是不推薦采用這樣的方式。

scope - 緩存發(fā)生作用的范圍,可以是application或者session

time - 緩存內(nèi)容的時間段,單位是秒,默認(rèn)是3600秒,也就是一個小時,如果設(shè)定一個負(fù)值,那么這部分被緩存的內(nèi)容將永遠(yuǎn)不過期。

duration - 指定緩存內(nèi)容失效的時間,是相對time的另一個選擇,可以使用簡單日期格式或者符合USO-8601的日期格式。如:duration='PT5M' duration='5s'等

refresh - false 或者true。
如果refresh屬性設(shè)置為true,不管其他的屬性是否符合條件,這部分被緩存的內(nèi)容都將被更新,這給編程者一種選擇,決定什么時候必須刷新。

mode - 如果編程者不希望被緩存的內(nèi)容增加到給用戶的響應(yīng)中,可以設(shè)置mode屬性為"silent"

其它可用的屬性還包括:

1 silent
2 cron
3 groups
4 language
5 refreshpolicyclass
6 refreshpolicyparam

上面的這些屬性可以單獨(dú)使用,也可以根據(jù)需要組合使用,下面的例子將講解這些常用屬性的使用方式。

 

本文以一個假想的拍賣網(wǎng)站設(shè)計過程為例,介紹OSCache的工作過程。這個假想的Web網(wǎng)站將包含:

1 :一個報告最近拍賣活動的管理頁面;
2 :一個功能完整、帶有各種宣傳信息的主頁;
3 :一個特殊的導(dǎo)航條,包含了用戶所有尚未成交的拍賣活動信息。

二、管理頁面

拍賣網(wǎng)站包含一個管理報表,數(shù)據(jù)庫服務(wù)器需要數(shù)秒時間才能創(chuàng)建這樣一個報表。報表生成時間長這一點(diǎn)很重要,因為我們可能讓多個管理員監(jiān)視系統(tǒng)運(yùn)行情況,同時又想避免管理員每次訪問時都重新生成這個報表。為了實(shí)現(xiàn)這一點(diǎn),我們將把整個頁面封裝到一個應(yīng)用級的緩沖標(biāo)記之內(nèi),這個緩沖標(biāo)記每隔1小時刷新。其他供應(yīng)商提供的一些產(chǎn)品也具有類似的功能,只是OSCache比它們做得更好。

為簡單計,我們將不過多地關(guān)注格式問題。在編寫管理頁面時,我們首先把標(biāo)記庫聲明加入到頁面:

<%@ taglib uri="cachetags" prefix="cache" %>

接下來我們要用cache標(biāo)記來包圍整個頁面。cache標(biāo)記的默認(rèn)緩沖時間是1小時。

<cache:cache> .... 復(fù)雜的管理報表 .... </cache:cache>

現(xiàn)在管理頁面已經(jīng)被緩沖。如果管理員在頁面生成后的一個小時之內(nèi)再次訪問同一頁面,他看到的將是以前緩存的頁面,不需要由數(shù)據(jù)庫服務(wù)器再次生成這個報表。

三、主頁

拍賣網(wǎng)站的主頁顯示網(wǎng)站活動情況,宣傳那些即將結(jié)束的拍賣活動。我們希望顯示出正在進(jìn)行的拍賣活動數(shù)量,當(dāng)前登錄用戶數(shù)量,在短期內(nèi)就要結(jié)束的拍賣活動的清單,以及當(dāng)前時間。這些信息有著不同的時間精確度要求。網(wǎng)站上的拍賣活動通常持續(xù)數(shù)天,因此我們可以把緩沖有效拍賣活動數(shù)量的時間定為6個小時。用戶數(shù)量的變化顯然要頻繁一些,但這里我們將把這個數(shù)值每次緩沖15分鐘。最后,我們希望頁面中顯示的當(dāng)前時間總是精確的頁面訪問時間。

在主頁中聲明標(biāo)記庫之后,我們首先以不帶緩沖的方式直接輸出當(dāng)前日期:

現(xiàn)在是:<%=new java.util.Date()%>

接下來,我們要顯示一個清單,列出那些將在短期內(nèi)結(jié)束的拍賣活動:

<cache:cache> <ul> <% // 構(gòu)造一個包含最近拍賣活動的Iterator Iterator auctions = .... while (auctions.hasMore()) { Auction auction = (Auction)auctions.next(); %><li><%=auction%></li%< } %> </ul> </cache:cache>

最后,我們希望顯示出正在進(jìn)行的拍賣活動的數(shù)量,這個數(shù)字需要緩沖6小時。由于cache標(biāo)記需要的是緩沖數(shù)據(jù)的秒數(shù),我們把6小時轉(zhuǎn)換成21600秒:

<cache:cache time="21600"> <% //查詢數(shù)據(jù)庫得到拍賣活動總數(shù) int auctionCount = .... %> 本網(wǎng)站正在進(jìn)行的拍賣活動有<%=auctionCount%>個! </cache>

可以看到,我們只用少量的代碼就構(gòu)造出了一個帶有復(fù)雜緩沖系統(tǒng)的主頁。這個緩沖系統(tǒng)對頁面各個部分分別進(jìn)行緩沖,而且各個部分的緩沖時間完全符合它們各自的信息變化頻繁程度。由于有了緩沖,現(xiàn)在我們可以在主頁中放入更多的內(nèi)容;而在以前沒有緩沖的情況下,主頁中放入過多的內(nèi)容會導(dǎo)致頁面訪問速度變慢,甚至可能給數(shù)據(jù)庫服務(wù)器帶來過重的負(fù)載。

四、導(dǎo)航條

假設(shè)在規(guī)劃網(wǎng)站的時候,我們決定在左邊導(dǎo)航條的下方顯示購物車內(nèi)容。我們將顯示出用戶所拍賣的每一種商品的出價次數(shù)和當(dāng)前報價,以及所有那些當(dāng)前用戶出價最高的商品的清單。

我們利用會話級的緩沖能力在導(dǎo)航條中構(gòu)造上述功能。把下面的代碼放入模板或者包含文件,以便網(wǎng)站中的其他頁面引用這個導(dǎo)航條:

<cache:cache key="navbar" scope="session" time="300"> <% //提取并顯示當(dāng)前的出價信息 %> </cache:cache>

在這里我們引入了兩個重要的屬性,即key和scope。在本文前面的代碼中,由于cache標(biāo)記能夠自動為代碼塊創(chuàng)建唯一的key,所以我們不需要手工設(shè)置這個key屬性。但在這里,我們想要從網(wǎng)站的其余部分引用這個被緩沖的代碼塊,因此我們顯式定義了該cache標(biāo)記的key屬性。第二,scope屬性用來告訴cache標(biāo)記當(dāng)前代碼塊必須以用戶為單位緩沖,而不是為所有用戶緩沖一次。

在使用會話級緩沖時應(yīng)該非常小心,應(yīng)該清楚:雖然我們可以讓復(fù)雜的導(dǎo)航條減少5倍或10倍的服務(wù)器負(fù)載,但它將極大地增加每個會話所需要的內(nèi)存空間 。在CPU能力方面增加可能的并發(fā)用戶數(shù)量無疑很理想,但是,一旦在內(nèi)存支持能力方面讓并發(fā)用戶數(shù)量降低到了CPU的限制之下,這個方案就不再理想。

正如本文前面所提到的,我們希望從網(wǎng)站的其余部分引用這個緩沖的代碼塊。這是因為,當(dāng)一個用戶增加了一個供拍賣的商品、或者出價競購其他用戶拍賣的商品時,我們希望刷新緩沖,使得導(dǎo)航條下一次被讀取時具有最新的內(nèi)容。雖然這些數(shù)據(jù)可能因為其他用戶的活動而改變,但如果用戶在網(wǎng)站上執(zhí)行某個動作之后看到自己的清單仍未改變,他可能會感到非常困惑。

OSCache庫提供的flush標(biāo)記能夠刷新緩沖內(nèi)容。我們可以把下面的代碼加入到處理用戶動作且可能影響這一區(qū)域的頁面之中:

<cache:flush key="navbar" scope="session" />

當(dāng)用戶下次訪問它時,navbar緩沖塊將被刷新。

至此為止,我們這個示例網(wǎng)站的構(gòu)造工作已經(jīng)完成且可以開始運(yùn)行。下面我們來看看OSCache的異常處理能力。即使緩沖的內(nèi)容已經(jīng)作廢,比如在緩沖塊內(nèi)出現(xiàn)了Java異常,OSCache標(biāo)記庫仍舊允許我們用編程的方法顯示這些內(nèi)容。有了這種異??刂乒δ?,我們可以拆除數(shù)據(jù)庫服務(wù)器和Web服務(wù)器之間的連接,而網(wǎng)站仍能夠繼續(xù)運(yùn)行。JSP 1.2規(guī)范引入了TryCatchFinally接口,這個接口允許標(biāo)記本身檢測和處理Java異常。因此,標(biāo)記可以結(jié)合這種異常處理代碼,使得JSP頁面更簡單、更富有條理。

OpenSymphony正在計劃實(shí)現(xiàn)其他的緩沖機(jī)制以及一個可管理性更好的主系統(tǒng),它將使我們能夠?qū)彌_使用的RAM和磁盤空間進(jìn)行管理。一旦有了這些功能,我們就能夠進(jìn)一步提高網(wǎng)站的響應(yīng)速度和可靠性。

使用范例:

oscache.properties 文件配置向?qū)?

cache.memory
值為true 或 false ,默認(rèn)為在內(nèi)存中作緩存,
如設(shè)置為false,那cache只能緩存到數(shù)據(jù)庫或硬盤中,那cache還有什么意義:)

cache.capacity
緩存元素個數(shù)

cache.persistence.class
持久化緩存類,如此類打開,則必須設(shè)置cache.path信息

cache.cluster 相關(guān)
為集群設(shè)置信息。

cache.cluster.multicast.ip為廣播IP地址
cache.cluster.properties為集群屬性


3.OSCache的基本用法

cache1.jsp 內(nèi)容如下

<%@ page import="java.util.*" %>
<%@ taglib uri="oscache" prefix="cache" %>

<html>
<body>

沒有緩存的日期: <%= new Date() %><p>
<!--自動刷新-->
<cache:cache time="30">
每30秒刷新緩存一次的日期: <%= new Date() %>
</cache:cache>
<!--手動刷新-->
<cache:cache key="testcache">
手動刷新緩存的日期: <%= new Date() %> <p>
</cache:cache>
<a href="/cache2.jsp">手動刷新</a>

</body>
</html>

cache2.jsp 執(zhí)行手動刷新頁面如下
<%@ taglib uri="oscache" prefix="cache" %>

<html>
<body>

緩存已刷新...<p>

<cache:flush key="testcache" scope="application"/>

<a href="/cache1.jsp">返回</a>

</body>
</html>


你也可以通過下面語句定義Cache的有效范圍,如不定義scope,scope默認(rèn)為Applcation
<cache:cache time="30" scope="session">
...
</cache:cache>



4.1.2 Cache標(biāo)簽實(shí)例分析:

1. 最簡單的cache標(biāo)簽用法

使用默認(rèn)的關(guān)鍵字來標(biāo)識cache內(nèi)容,超時時間是默認(rèn)的3600秒

1 < cache:cache >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


2. 用自己指定的字符串標(biāo)識緩存內(nèi)容,并且設(shè)定作用范圍為session。

1 < cache:cache key = " foobar "  scope = " session " >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


3.動態(tài)設(shè)定key值,使用自己指定的time屬性設(shè)定緩存內(nèi)容的超時時間,使用動態(tài)refresh值決定是否強(qiáng)制內(nèi)容刷新。

因為OSCache使用key值來標(biāo)識緩存內(nèi)容,使用相同的key值將會被認(rèn)為使用相同的的緩存內(nèi)容,所以使用動態(tài)的key值可以自由的根據(jù)不同的角色、不同的要求決定使用不同的緩存內(nèi)容。

1 < cache:cache key = " <%= product.getId() %> "  time = " 1800 "  refresh = " <%= needRefresh %> " >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


4. 設(shè)置time屬性為負(fù)數(shù)使緩存內(nèi)容永不過期

1 < cache:cache time = " -1 " >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


5. 使用duration屬性設(shè)置超期時間

1 < cache:cache  duration = ' PT5M ' >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


6. 使用mode屬性使被緩存的內(nèi)容不加入給客戶的響應(yīng)中

1 < cache:cache  mode = ' silent ' >
2      <%
3      // 自己的JSP代碼內(nèi)容
4      %>
5 </ cache:cache >  


4.2 用CashFilter實(shí)現(xiàn)頁面級緩存

在OSCache組件中提供了一個CacheFilter用于實(shí)現(xiàn)頁面級的緩存,主要用于對web應(yīng)用中的某些動態(tài)頁面進(jìn)行緩存,尤其是那些需要生成pdf格式文件/報表、圖片文件等的頁面,不僅減少了數(shù)據(jù)庫的交互、減少數(shù)據(jù)庫服務(wù)器的壓力,而且對于減少web服務(wù)器的性能消耗有很顯著的效果。

這種功能的實(shí)現(xiàn)是通過在web.xml中進(jìn)行配置來決定緩存哪一個或者一組頁面,而且還可以設(shè)置緩存的相關(guān)屬性,這種基于配置文件的實(shí)現(xiàn)方式對于J2EE來說應(yīng)該是一種標(biāo)準(zhǔn)的實(shí)現(xiàn)方式了。

[注] 只有客戶訪問時返回http頭信息中代碼為200(也就是訪問已經(jīng)成功)的頁面信息才能夠被緩存


修改web.xml,增加如下內(nèi)容,

1 < filter >
2      < filter - name > CacheFilter </ filter - name >
3      < filter - class > com.opensymphony.oscache.web.filter.CacheFilter </ filter - class >
4 </ filter >



1. 緩存單個文件

確定對/testContent.jsp頁面進(jìn)行緩存。

1 < filter - mapping >
2      < filter - name > CacheFilter </ filter - name >
3      <!- / testContent.jsp頁面內(nèi)容進(jìn)行緩存 -->
4      < url - pattern >/ testContent.jsp </ url - pattern >
5 </ filter - mapping >


2. 緩存URL pattern

修改web.xml,增加如下內(nèi)容,確定對*.jsp頁面進(jìn)行緩存。

1 < filter - mapping >
2      < filter - name > CacheFilter </ filter - name >
3      <!- 對所有jsp頁面內(nèi)容進(jìn)行緩存 -->
4          < url - pattern >* .jsp </ url - pattern >
5 </ filter - mapping >


3. 自己設(shè)定緩存屬性

在頁面級緩存的情況下,可以通過設(shè)置CacheFilter的初始屬性來決定緩存的一些特性:time屬性設(shè)置緩存的時間段,默認(rèn)為3600秒,可以根據(jù)自己的需要只有的設(shè)置,而scope屬性設(shè)置,默認(rèn)為application,可選項包括application、session

 1 < filter >
 2      < filter - name > CacheFilter </ filter - name >
 3      < filter - class > com.opensymphony.oscache.web.filter.CacheFilter </ filter - class >
 4
 5       < init - param >
 6          < param - name > time </ param - name >
 7          < param - value > 600 </ param - value >
 8      </ init - param >
 9
10      < init - param >
11          < param - name > scope </ param - name >
12          < param - value > session </ param - value >
13      </ init - param >

14 </ filter >
15
16
17 < filter - mapping >
18      < filter - name > CacheFilter </ filter - name >
19      <!- 對所有jsp頁面內(nèi)容進(jìn)行緩存 -->
20      < url - pattern >* .jsp </ url - pattern >
21 </ filter - mapping >


5 性能測試結(jié)果

5.1 測試環(huán)境
         系統(tǒng)平臺:windows 2000 高級服務(wù)器/ P3 800 /512M內(nèi)存
         web服務(wù)器:websphere 5.0
         數(shù)據(jù)庫服務(wù)器:mysql 4.0.18-nt

         性能測試用工具:apache Jmeter

5.2 測試計劃
這次性能測試對比方為使用緩存和不使用緩存兩種,他們的訪問代碼都是一樣的:通過數(shù)據(jù)源從本地mysql數(shù)據(jù)庫中獲取person表的所有記錄,然后顯示在頁面上。

測試中將模仿10個用戶,每個用戶發(fā)起5次請求,然后統(tǒng)計所有訪問花費(fèi)的時間。

5.3 測試結(jié)果
使用緩存后的測試結(jié)果 不使用緩存時的測試結(jié)果

所有請求花費(fèi)的總時間(毫秒) 20569 22870

性能測試的詳細(xì)結(jié)果請大家查看下載內(nèi)容中的《不使用cache時的系統(tǒng)性能測試結(jié)果.txt》和《使用cache后系統(tǒng)性能測試結(jié)果.txt》

參考資料