文章摘要
OSCache簡介
OSCache是OpenSymphony組織提供的一個J2EE架構(gòu)中Web應(yīng)用層的緩存技術(shù)實(shí)現(xiàn)組件,它的出現(xiàn)解決了我們面臨的問題。 OSCache目前最新的穩(wěn)定版本是2.3。
2.1 主要特征
1. 兼容多種支持JSP的web服務(wù)器
已經(jīng)通過兼容測試的web服務(wù)器包括 :

2

3

4

5

6

7

8

2. 可選的緩存區(qū)
你可以使用內(nèi)存、硬盤空間、同時使用內(nèi)存和硬盤或者提供自己的其他資源(需要自己提供適配器)作為緩存區(qū)。

2

3

3. 靈活的緩存系統(tǒng)
OSCache支持對部分頁面內(nèi)容或者對頁面級的響應(yīng)內(nèi)容進(jìn)行緩存,編程者可以根據(jù)不同的需求、不同的環(huán)境選擇不同的緩存級別。
4. 容錯
在一般的web應(yīng)用中,如果某個頁面需要和數(shù)據(jù)庫打交道,而當(dāng)客戶請求到達(dá)時,web應(yīng)用和數(shù)據(jù)庫之間無法進(jìn)行交互,那么將返回給用戶"系統(tǒng)出錯"或者類似的提示信息,如果使用了OSCache的話,你可以使用緩存提供給用戶,給自己贏得維護(hù)系統(tǒng)或者采取其他補(bǔ)救的時間。
5.其它特性
包括對集群的支持、緩存主動刷新等特性,大家可以參考OpenSymphony網(wǎng)站上的其他資源獲取更多的信息。
3 OSCache組件的安裝
OSCache是一個基于web應(yīng)用的組件,他的安裝工作主要是對web應(yīng)用進(jìn)行配置,大概的步驟如下:
1. 下載、解壓縮OSCache
請到OSCache的主頁http://www.opensymphony.com/oscache/download.html下載Oscache的最新版本,作者下載的是OSCache的最新穩(wěn)定版本2.3。
4 開始使用OSCache中的緩存組件
OSCache中按照緩存范圍的不同分為兩種不同的方式:一種是緩存JSP頁面中部分或者全部內(nèi)容,一種是基于整個頁面文件的緩存。
4.1 JSP部分內(nèi)容緩存
4.1.1 Cache-OSCache提供的緩存標(biāo)簽
這是OSCache提供的標(biāo)簽庫中最重要的一個標(biāo)簽,包括在標(biāo)簽中的內(nèi)容將應(yīng)用緩存機(jī)制進(jìn)行處理,處理的方式將取決于編程者對cache標(biāo)簽屬性的設(shè)置。
第一次請求到達(dá)時,標(biāo)簽中的內(nèi)容被處理并且緩存起來,當(dāng)下一個請求到達(dá)時,緩存系統(tǒng)會檢查這部分內(nèi)容的緩存是否已經(jīng)失效,主要是以下幾項:

2

3

4

如果符合上面四項中的任何一項,被緩存的內(nèi)容視為已經(jīng)失效,這時被緩存的內(nèi)容將被重新處理并且返回處理過后的信息,如果被緩存的內(nèi)容沒有失效,那么返回給用戶的將是緩存中的信息。
cache標(biāo)簽的屬性說明:
key - 標(biāo)識緩存內(nèi)容的關(guān)鍵詞。在指定的作用范圍內(nèi)必須是唯一的。默認(rèn)的key是被訪問頁面的URI和后面的請求字符串。

scope - 緩存發(fā)生作用的范圍,可以是application或者session
time - 緩存內(nèi)容的時間段,單位是秒,默認(rèn)是3600秒,也就是一個小時,如果設(shè)定一個負(fù)值,那么這部分被緩存的內(nèi)容將永遠(yuǎn)不過期。
duration - 指定緩存內(nèi)容失效的時間,是相對time的另一個選擇,可以使用簡單日期格式或者符合USO-8601的日期格式。如:duration='PT5M' duration='5s'等
refresh - false 或者true。
如果refresh屬性設(shè)置為true,不管其他的屬性是否符合條件,這部分被緩存的內(nèi)容都將被更新,這給編程者一種選擇,決定什么時候必須刷新。
mode - 如果編程者不希望被緩存的內(nèi)容增加到給用戶的響應(yīng)中,可以設(shè)置mode屬性為"silent"
其它可用的屬性還包括:

2

3

4

5

6

上面的這些屬性可以單獨(dú)使用,也可以根據(jù)需要組合使用,下面的例子將講解這些常用屬性的使用方式。
本文以一個假想的拍賣網(wǎng)站設(shè)計過程為例,介紹OSCache的工作過程。這個假想的Web網(wǎng)站將包含:




二、管理頁面
拍賣網(wǎng)站包含一個管理報表,數(shù)據(jù)庫服務(wù)器需要數(shù)秒時間才能創(chuàng)建這樣一個報表。報表生成時間長這一點(diǎn)很重要,因為我們可能讓多個管理員監(jiān)視系統(tǒng)運(yùn)行情況,同時又想避免管理員每次訪問時都重新生成這個報表。為了實(shí)現(xiàn)這一點(diǎn),我們將把整個頁面封裝到一個應(yīng)用級的緩沖標(biāo)記之內(nèi),這個緩沖標(biāo)記每隔1小時刷新。其他供應(yīng)商提供的一些產(chǎn)品也具有類似的功能,只是OSCache比它們做得更好。
為簡單計,我們將不過多地關(guān)注格式問題。在編寫管理頁面時,我們首先把標(biāo)記庫聲明加入到頁面:
<%@ taglib uri="cachetags" prefix="cache" %> |
接下來我們要用cache標(biāo)記來包圍整個頁面。cache標(biāo)記的默認(rèn)緩沖時間是1小時。
<cache:cache> .... 復(fù)雜的管理報表 .... </cache:cache> |
現(xiàn)在管理頁面已經(jīng)被緩沖。如果管理員在頁面生成后的一個小時之內(nèi)再次訪問同一頁面,他看到的將是以前緩存的頁面,不需要由數(shù)據(jù)庫服務(wù)器再次生成這個報表。
三、主頁
拍賣網(wǎng)站的主頁顯示網(wǎng)站活動情況,宣傳那些即將結(jié)束的拍賣活動。我們希望顯示出正在進(jìn)行的拍賣活動數(shù)量,當(dāng)前登錄用戶數(shù)量,在短期內(nèi)就要結(jié)束的拍賣活動的清單,以及當(dāng)前時間。這些信息有著不同的時間精確度要求。網(wǎng)站上的拍賣活動通常持續(xù)數(shù)天,因此我們可以把緩沖有效拍賣活動數(shù)量的時間定為6個小時。用戶數(shù)量的變化顯然要頻繁一些,但這里我們將把這個數(shù)值每次緩沖15分鐘。最后,我們希望頁面中顯示的當(dāng)前時間總是精確的頁面訪問時間。
在主頁中聲明標(biāo)記庫之后,我們首先以不帶緩沖的方式直接輸出當(dāng)前日期:
現(xiàn)在是:<%=new java.util.Date()%> |
接下來,我們要顯示一個清單,列出那些將在短期內(nèi)結(jié)束的拍賣活動:
<cache:cache> <ul> <% // 構(gòu)造一個包含最近拍賣活動的Iterator Iterator auctions = .... while (auctions.hasMore()) { Auction auction = (Auction)auctions.next(); %><li><%=auction%></li%< } %> </ul> </cache:cache> |
最后,我們希望顯示出正在進(jìn)行的拍賣活動的數(shù)量,這個數(shù)字需要緩沖6小時。由于cache標(biāo)記需要的是緩沖數(shù)據(jù)的秒數(shù),我們把6小時轉(zhuǎn)換成21600秒:
<cache:cache time="21600"> <% //查詢數(shù)據(jù)庫得到拍賣活動總數(shù) int auctionCount = .... %> 本網(wǎng)站正在進(jìn)行的拍賣活動有<%=auctionCount%>個! </cache> |
可以看到,我們只用少量的代碼就構(gòu)造出了一個帶有復(fù)雜緩沖系統(tǒng)的主頁。這個緩沖系統(tǒng)對頁面各個部分分別進(jìn)行緩沖,而且各個部分的緩沖時間完全符合它們各自的信息變化頻繁程度。由于有了緩沖,現(xiàn)在我們可以在主頁中放入更多的內(nèi)容;而在以前沒有緩沖的情況下,主頁中放入過多的內(nèi)容會導(dǎo)致頁面訪問速度變慢,甚至可能給數(shù)據(jù)庫服務(wù)器帶來過重的負(fù)載。
四、導(dǎo)航條
假設(shè)在規(guī)劃網(wǎng)站的時候,我們決定在左邊導(dǎo)航條的下方顯示購物車內(nèi)容。我們將顯示出用戶所拍賣的每一種商品的出價次數(shù)和當(dāng)前報價,以及所有那些當(dāng)前用戶出價最高的商品的清單。
我們利用會話級的緩沖能力在導(dǎo)航條中構(gòu)造上述功能。把下面的代碼放入模板或者包含文件,以便網(wǎng)站中的其他頁面引用這個導(dǎo)航條:
<cache:cache key="navbar" scope="session" time="300"> <% //提取并顯示當(dāng)前的出價信息 %> </cache:cache> |
在這里我們引入了兩個重要的屬性,即key和scope。在本文前面的代碼中,由于cache標(biāo)記能夠自動為代碼塊創(chuàng)建唯一的key,所以我們不需要手工設(shè)置這個key屬性。但在這里,我們想要從網(wǎng)站的其余部分引用這個被緩沖的代碼塊,因此我們顯式定義了該cache標(biāo)記的key屬性。第二,scope屬性用來告訴cache標(biāo)記當(dāng)前代碼塊必須以用戶為單位緩沖,而不是為所有用戶緩沖一次。
在使用會話級緩沖時應(yīng)該非常小心,應(yīng)該清楚:雖然我們可以讓復(fù)雜的導(dǎo)航條減少5倍或10倍的服務(wù)器負(fù)載,但它將極大地增加每個會話所需要的內(nèi)存空間 。在CPU能力方面增加可能的并發(fā)用戶數(shù)量無疑很理想,但是,一旦在內(nèi)存支持能力方面讓并發(fā)用戶數(shù)量降低到了CPU的限制之下,這個方案就不再理想。
正如本文前面所提到的,我們希望從網(wǎng)站的其余部分引用這個緩沖的代碼塊。這是因為,當(dāng)一個用戶增加了一個供拍賣的商品、或者出價競購其他用戶拍賣的商品時,我們希望刷新緩沖,使得導(dǎo)航條下一次被讀取時具有最新的內(nèi)容。雖然這些數(shù)據(jù)可能因為其他用戶的活動而改變,但如果用戶在網(wǎng)站上執(zhí)行某個動作之后看到自己的清單仍未改變,他可能會感到非常困惑。
OSCache庫提供的flush標(biāo)記能夠刷新緩沖內(nèi)容。我們可以把下面的代碼加入到處理用戶動作且可能影響這一區(qū)域的頁面之中:
<cache:flush key="navbar" scope="session" /> |
當(dāng)用戶下次訪問它時,navbar緩沖塊將被刷新。
至此為止,我們這個示例網(wǎng)站的構(gòu)造工作已經(jīng)完成且可以開始運(yùn)行。下面我們來看看OSCache的異常處理能力。即使緩沖的內(nèi)容已經(jīng)作廢,比如在緩沖塊內(nèi)出現(xiàn)了Java異常,OSCache標(biāo)記庫仍舊允許我們用編程的方法顯示這些內(nèi)容。有了這種異??刂乒δ?,我們可以拆除數(shù)據(jù)庫服務(wù)器和Web服務(wù)器之間的連接,而網(wǎng)站仍能夠繼續(xù)運(yùn)行。JSP 1.2規(guī)范引入了TryCatchFinally接口,這個接口允許標(biāo)記本身檢測和處理Java異常。因此,標(biāo)記可以結(jié)合這種異常處理代碼,使得JSP頁面更簡單、更富有條理。
OpenSymphony正在計劃實(shí)現(xiàn)其他的緩沖機(jī)制以及一個可管理性更好的主系統(tǒng),它將使我們能夠?qū)彌_使用的RAM和磁盤空間進(jìn)行管理。一旦有了這些功能,我們就能夠進(jìn)一步提高網(wǎng)站的響應(yīng)速度和可靠性。
使用范例:
oscache.properties 文件配置向?qū)?
cache.memory
值為true 或 false ,默認(rèn)為在內(nèi)存中作緩存,
如設(shè)置為false,那cache只能緩存到數(shù)據(jù)庫或硬盤中,那cache還有什么意義:)
cache.capacity
緩存元素個數(shù)
cache.persistence.class
持久化緩存類,如此類打開,則必須設(shè)置cache.path信息
cache.cluster 相關(guān)
為集群設(shè)置信息。
如
cache.cluster.multicast.ip為廣播IP地址
cache.cluster.properties為集群屬性
3.OSCache的基本用法
cache1.jsp 內(nèi)容如下
<%@ page import="java.util.*" %>
<%@ taglib uri="oscache" prefix="cache" %>
<html>
<body>
沒有緩存的日期: <%= new Date() %><p>
<!--自動刷新-->
<cache:cache time="30">
每30秒刷新緩存一次的日期: <%= new Date() %>
</cache:cache>
<!--手動刷新-->
<cache:cache key="testcache">
手動刷新緩存的日期: <%= new Date() %> <p>
</cache:cache>
<a href="/cache2.jsp">手動刷新</a>
</body>
</html>
cache2.jsp 執(zhí)行手動刷新頁面如下
<%@ taglib uri="oscache" prefix="cache" %>
<html>
<body>
緩存已刷新...<p>
<cache:flush key="testcache" scope="application"/>
<a href="/cache1.jsp">返回</a>
</body>
</html>
你也可以通過下面語句定義Cache的有效范圍,如不定義scope,scope默認(rèn)為Applcation
<cache:cache time="30" scope="session">
...
</cache:cache>
4.1.2 Cache標(biāo)簽實(shí)例分析:
1. 最簡單的cache標(biāo)簽用法
使用默認(rèn)的關(guān)鍵字來標(biāo)識cache內(nèi)容,超時時間是默認(rèn)的3600秒

2

3

4

5

2. 用自己指定的字符串標(biāo)識緩存內(nèi)容,并且設(shè)定作用范圍為session。

2

3

4

5

3.動態(tài)設(shè)定key值,使用自己指定的time屬性設(shè)定緩存內(nèi)容的超時時間,使用動態(tài)refresh值決定是否強(qiáng)制內(nèi)容刷新。
因為OSCache使用key值來標(biāo)識緩存內(nèi)容,使用相同的key值將會被認(rèn)為使用相同的的緩存內(nèi)容,所以使用動態(tài)的key值可以自由的根據(jù)不同的角色、不同的要求決定使用不同的緩存內(nèi)容。

2

3

4

5

4. 設(shè)置time屬性為負(fù)數(shù)使緩存內(nèi)容永不過期

2

3

4

5

5. 使用duration屬性設(shè)置超期時間

2

3

4

5

6. 使用mode屬性使被緩存的內(nèi)容不加入給客戶的響應(yīng)中

2

3

4

5

4.2 用CashFilter實(shí)現(xiàn)頁面級緩存
在OSCache組件中提供了一個CacheFilter用于實(shí)現(xiàn)頁面級的緩存,主要用于對web應(yīng)用中的某些動態(tài)頁面進(jìn)行緩存,尤其是那些需要生成pdf格式文件/報表、圖片文件等的頁面,不僅減少了數(shù)據(jù)庫的交互、減少數(shù)據(jù)庫服務(wù)器的壓力,而且對于減少web服務(wù)器的性能消耗有很顯著的效果。
這種功能的實(shí)現(xiàn)是通過在web.xml中進(jìn)行配置來決定緩存哪一個或者一組頁面,而且還可以設(shè)置緩存的相關(guān)屬性,這種基于配置文件的實(shí)現(xiàn)方式對于J2EE來說應(yīng)該是一種標(biāo)準(zhǔn)的實(shí)現(xiàn)方式了。
[注] 只有客戶訪問時返回http頭信息中代碼為200(也就是訪問已經(jīng)成功)的頁面信息才能夠被緩存
修改web.xml,增加如下內(nèi)容,

2

3

4

1. 緩存單個文件
確定對/testContent.jsp頁面進(jìn)行緩存。

2

3

4

5

2. 緩存URL pattern
修改web.xml,增加如下內(nèi)容,確定對*.jsp頁面進(jìn)行緩存。

2

3

4

5

3. 自己設(shè)定緩存屬性
在頁面級緩存的情況下,可以通過設(shè)置CacheFilter的初始屬性來決定緩存的一些特性:time屬性設(shè)置緩存的時間段,默認(rèn)為3600秒,可以根據(jù)自己的需要只有的設(shè)置,而scope屬性設(shè)置,默認(rèn)為application,可選項包括application、session

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

5 性能測試結(jié)果
5.1 測試環(huán)境
系統(tǒng)平臺:windows 2000 高級服務(wù)器/ P3 800 /512M內(nèi)存
web服務(wù)器:websphere 5.0
數(shù)據(jù)庫服務(wù)器:mysql 4.0.18-nt
性能測試用工具:apache Jmeter
5.2 測試計劃
這次性能測試對比方為使用緩存和不使用緩存兩種,他們的訪問代碼都是一樣的:通過數(shù)據(jù)源從本地mysql數(shù)據(jù)庫中獲取person表的所有記錄,然后顯示在頁面上。
測試中將模仿10個用戶,每個用戶發(fā)起5次請求,然后統(tǒng)計所有訪問花費(fèi)的時間。
5.3 測試結(jié)果
使用緩存后的測試結(jié)果 不使用緩存時的測試結(jié)果
所有請求花費(fèi)的總時間(毫秒) 20569 22870
性能測試的詳細(xì)結(jié)果請大家查看下載內(nèi)容中的《不使用cache時的系統(tǒng)性能測試結(jié)果.txt》和《使用cache后系統(tǒng)性能測試結(jié)果.txt》
參考資料