table

監(jiān)控和剖析數(shù)據(jù)庫操作 -- P6Spy、SQL Profiler、IronTrack SQL 使用簡介

本文介紹如何在應(yīng)用程序中利用 P6Spy、SQL Profiler、IronTrack SQL 工具來對數(shù)據(jù)庫操作進行監(jiān)控與剖析，從中發(fā)現(xiàn)應(yīng)用系統(tǒng)存在的性能瓶頸，得到相關(guān)的優(yōu)化建議并最終找到相應(yīng)的解決辦法。

幾乎 80% - 85% 的數(shù)據(jù)庫性能問題是由于應(yīng)用數(shù)據(jù)庫的設(shè)計或者應(yīng)用程序本身的代碼所引起的。因此良好的事務(wù)處理能力需要在設(shè)計應(yīng)用程序的時候，在設(shè)計數(shù)據(jù)庫的時候就考慮到性能和伸縮性。 ---- DB2 Magazine

在我們 Java 開發(fā)應(yīng)用程序的過程中，難免會碰到系統(tǒng)的性能問題，特別在企業(yè)應(yīng)用的開發(fā)過程中，都會與數(shù)據(jù)庫進行打交道。當我們碰到數(shù)據(jù)庫性能時，最有效的就是直接跟蹤每一個 SQL 語句的執(zhí)行情況，SQL 語句的優(yōu)化、索引的優(yōu)化往往也是最容易取得最直接的效果的。

下面，我們首先開始介紹 P6Spy 這個剖析工具，看它是如何無侵入性地進行數(shù)據(jù)庫操作的監(jiān)控與剖析。

P6Spy

P6Spy 是一個可以用來在應(yīng)用程序中攔截和修改數(shù)據(jù)操作語句的開源框架。通過 P6Spy 我們可以對 SQL 語句進行攔截，相當于一個 SQL 語句的記錄器，這樣我們可以用它來作相關(guān)的分析，比如性能分析。P6Spy 用 Log4J 來記錄 JDBC 調(diào)用的日記信息。

自從 2003 年 11 月 30 日 P6Spy 版本 1.3 發(fā)布后，已經(jīng)被下載超過 19,000 次了。P6Spy 支持 WebSphere、WebLogic、JBoss、Resin 和 Tomcat 等絕大多數(shù)的應(yīng)用服務(wù)器。

使用步驟

首先，你的應(yīng)用系統(tǒng)應(yīng)當是基于數(shù)據(jù)庫的，然后你需要去獲取 P6Spy 相關(guān)的文件（在 參考資源 中可以找到下載鏈接，您可以直接下載軟件包）。下面介紹 P6Spy 的安裝與使用的詳細操作過程：

1. 下載 P6Spy 的文件包，也可以下載它的源文件包來研究；
2. 把 P6Spy 的 jar 包 p6spy.jar 放到 CLASSPATH 中，如果是 Web 應(yīng)用程序則放在 YourWebApp/WEB-INF/lib/ 目錄下；
3. 把 spy.properties 放到 CLASSPATH 目錄下，如果是 Web 應(yīng)用程序放在 YourWebApp/WEB-INF/classess/ 目錄下，注意不是 lib/ 目錄
4. 修改你應(yīng)用系統(tǒng)中的數(shù)據(jù)庫驅(qū)動名稱為 P6Spy 的驅(qū)動程序名稱 com.p6spy.engine.spy.P6SpyDriver 其它的全部使用默認值，暫時先都不用修改；
5. 打開配置文件 spy.properties 文件，找到 realdriver，把它的值改為你的應(yīng)用系統(tǒng)的真正的數(shù)據(jù)庫驅(qū)動名稱；
6. 運行你的應(yīng)用程序或 Web 應(yīng)用程序，可以在 spy.log 里看到 P6Spy 監(jiān)測到的 SQL 詳細的執(zhí)行與操作的記錄信息了，包含有完整的 SQL 執(zhí)行參數(shù)。

P6Log 與 P6Outage

在 P6Spy 發(fā)布包中，它包含 P6Log 和 P6Outage 兩個模塊：

1. P6Log

   P6Log 是用來攔截和記錄任務(wù)應(yīng)用程序的 JDBC 語句的。這個功能對于開發(fā)者監(jiān)控 EJB 服務(wù)器上的 SQL 語句執(zhí)行情況尤其有用，可以讓開發(fā)者完成盡可能高效的代碼。同時 P6Spy 的部署是極其簡單的，而且根本不需要更改任何一行代碼，即對現(xiàn)有的應(yīng)用是無侵入性的。

   realdriver= (your driver) (你的實際 JDBC 驅(qū)動程序名稱) executionthreshold=整數(shù)時間 (以毫秒為單位)

   
   
2. P6Outage

   P6Outage 專門用來檢測和記錄執(zhí)行時間比較長的 SQL 語句，P6Outage 只記錄超過配置條件里時間的那些信息，并對可能影響到數(shù)據(jù)庫的運行效率減小到最低。

   #outagedetection=true|false (是否記錄較長時間運行的語句) #outagedetectioninterval=整數(shù)時間 (以秒為單位)

   
   

架構(gòu)原理

簡單地講，我們可以認為 P6Spy 就是一個代理（Proxy），它只做了一層對 JDBC 驅(qū)動的攔截，然后轉(zhuǎn)發(fā)出去，這樣的設(shè)計與實際的應(yīng)用程序沒有任何的耦合性，除了在配置中將驅(qū)動程序改成 P6Spy 的攔截驅(qū)動外，程序其他地方并不需要做任何的改變。這層攔截器除了可能會給系統(tǒng)帶來略微的性能下降外，對程序其他方面沒有任何的影響。而相對于這一點點的性能下降，在開發(fā)環(huán)境中對于開發(fā)人員來說是無法感覺到，相比它所帶來的好處，完全可以忽略不計。

問題與解決

如果在你的應(yīng)用程序啟動后，卻在 spy.log 文件中發(fā)現(xiàn)了如下的提示信息，那就是驅(qū)動程序加載先后的問題了。

<你的程序的數(shù)據(jù)庫驅(qū)動名稱> is a real driver in spy.properties, but it has
            been loaded before p6spy.  p6spy will not wrap these connections.  Either
            prevent the driver from loading, or try setting'deregisterdrivers' to true in
            spy.properties
            

請把 spy.properties 配置文件里的 deregisterdrivers=false 改為 deregisterdrivers=true，重新運行即可。

這是因為有些應(yīng)用系統(tǒng)中會先于 P6Spy 加載了真正的數(shù)據(jù)庫的驅(qū)動程序，導(dǎo)致 P6Spy 無法監(jiān)控到，設(shè)置 deregisterdrivers 為 true，是顯式地把真正的數(shù)據(jù)庫的驅(qū)動程序進行反注冊掉，而采用 P6Spy 的驅(qū)動程序。

配置參數(shù)及相關(guān)意義

下表列出了 spy.properties 配置文件中的各配置項的名稱、默認值及其意義和相關(guān)注意事項：

回頁首

SQL Profiler

SQL Profiler 是一個由 Jahia.org 提供的基于 P6Spy 引擎的快速剖析工具，用來統(tǒng)計 SQL 查詢語句以便了解哪里是性能瓶頸，在哪里創(chuàng)建索引或者采取相應(yīng)的辦法才能提高效率，并且能根據(jù) SQL 查詢語句的情況幫你生成合適的索引腳本。

這個小工具可以實時地顯示數(shù)據(jù)庫查詢的情況，通過集成的 SQL 解析器，在訪問大多數(shù)表與列上面建立統(tǒng)計分析，并生成索引腳本。當然，其它的信息也會進行收集和顯示，比如：單個數(shù)據(jù)庫請求的時間、一類請求的時間以及所有請求的時間。因此，可以有效地通過視圖的排序來檢測數(shù)據(jù)的性能問題所在。這個工具對于大量的需要進行分析的請求是非常有用的，而不是人工一個個地去做分析。當你需要知道比如對相同的表和列進行訪問但是采用不同的查詢值時，這種分組的查詢可以用建立在 ANTLR 上的 SQL 解析器進行分析。

使用步驟

首先，你的應(yīng)用系統(tǒng)同樣也應(yīng)當是基于數(shù)據(jù)庫的，然后你需要去獲取 SQL Profiler 相關(guān)的文件（在 參考資源 中可以找到下載鏈接，您可以直接下載軟件包）。下面介紹 SQL Profiler 的安裝與使用的詳細操作過程：

1. 下載 SQL Profiler 的文件包進行安裝；
2. 把 p6spy.jar 及 sqlprofiler.jar 放到 CLASSPATH 中，如果是 Web 應(yīng)用程序則放在 YourWebApp/WEB-INF/lib/ 目錄下；
3. 把 spy.properties 放到 CLASSPATH 目錄下，如果是 Web 應(yīng)用程序就放在 YourWebApp/WEB-INF/classess/ 目錄下，注意不是 lib/ 目錄；
4. 修改你應(yīng)用系統(tǒng)中的數(shù)據(jù)庫驅(qū)動名稱為 P6Spy 的驅(qū)動程序名稱 com.p6spy.engine.spy.P6SpyDriver 其它的全部使用默認值，暫時不用修改；
5. 打開 spy.properties 文件，把 realdriver 的值改為你的程序的數(shù)據(jù)庫驅(qū)動名稱；
6. 注意要先運行 java -jar sqlprofiler.jar 來啟動 SQL Profiler，并成功看到啟動界面；
7. 然后再啟動你的應(yīng)用程序或服務(wù)器，并開始進行正常的系統(tǒng)請求處理操作；
8. 這樣就可以在 SQL Profiler 圖形化的界面上看到結(jié)果并進行分析了。

分析結(jié)果

經(jīng)過一段時間的系統(tǒng)運行后，點擊 Pause 按鈕停止攔截，可以得到分析結(jié)果如下圖：

接著，可以切換到 Loggers 視圖，這是 Lgger 視圖的信息：

當然，也可以切換到 Analysis 視圖，這是 Analysis 視圖的分析結(jié)果信息：

在經(jīng)過分析后，我們可以直接通過 SQLProfiler 提交的保存按鈕，直接導(dǎo)出應(yīng)當進行數(shù)據(jù)庫優(yōu)化的建議的索引腳本，通過查看索引腳本，我們可以看到創(chuàng)建索引的詳細 SQL 腳本，這樣，我們就可以非常方便地進行數(shù)據(jù)庫調(diào)優(yōu)了。

問題與解決

最后一個需要注意的問題就是需要先啟動 SQLProfiler，然后再啟動應(yīng)用程序或者 Tomcat 等應(yīng)用服務(wù)器。這是因為 SQLProfiler 默認使用的是 Log4j 的 SocketAppender，所以要先啟動。否則，會因你的應(yīng)用程序或應(yīng)用服務(wù)器中的 Web 應(yīng)用之類的因連接不到 Socket 的服務(wù)器（SQLProfiler 相當于 Socket 的服務(wù)器）而發(fā)生錯誤，可以通過 SQL Profiler 控制界面最下面的連接狀態(tài)就可以知道是否有程序連接上來。

回頁首

IronTrack SQL

IronEye，一個專注于 JDBC 性能的監(jiān)控和測試的開源項目，它包含有三個工具：IronEye SQL，IronEye Cache，IronTrack SQL。其中，IronEye SQL 用于監(jiān)測 Java 應(yīng)用和數(shù)據(jù)庫服務(wù)器之間查詢開銷的時間，診斷在性能方面是否存在著相關(guān)問題，讓開發(fā)人員在測試之前就能發(fā)現(xiàn)問題。IronEye 于 2003 年 10 月 1 日開始基于 Apache Software License 發(fā)布。

IronEye SQL 這個輕量級的 Java 工具提供所有流動在數(shù)據(jù)庫與應(yīng)用程序之間的 SQL 統(tǒng)計信息并用多張圖表展現(xiàn)，可以快速優(yōu)化程序的性能。

IronGrid 相對于 Continuous Integration 提出了 Continuous Performance 的概念，即在項目開發(fā)過程中隨時關(guān)注性能問題，而不是傳統(tǒng)的出了問題再解決的方案。

IronGrid 在應(yīng)用程序?qū)?shù)據(jù)庫的操作上的 Continuous Performance 是通過 IronTrack SQL 進行體現(xiàn)的。IronTrack SQL 能通過對 JDBC 的包裝來攔截應(yīng)用程序?qū)?shù)據(jù)庫的請求，完成性能監(jiān)控。IronTrack SQL 的好處在于不需要修改任何代碼或者在數(shù)據(jù)庫端安裝任何程序，只需要在測試時把依賴的 JDBC 替換就可以了。

使用步驟

首先，你的應(yīng)用系統(tǒng)同樣也應(yīng)當是基于數(shù)據(jù)庫的，然后你需要去獲取 IronTrack SQL 相關(guān)的文件（在 參考資源 中可以找到下載鏈接，您可以直接下載軟件包）。下面介紹 IronTrack SQL 的安裝與使用的詳細操作過程：

1. 下載 IronTrack SQL 的文件包進行安裝；
2. 把 irontracksql.jar, p6spy.jar 和 log4j-1.2.8.jar 放到 CLASSPATH 中，如果是 Web 應(yīng)用程序則放在 YourWebApp/WEB-INF/lib/ 目錄下；
3. 把 spy.properties 放到 CLASSPATH 目錄下，如果是 Web 應(yīng)用程序就放在 YourWebApp/WEB-INF/classess/ 目錄下，注意不是 lib/ 目錄；
4. 修改你程序的數(shù)據(jù)庫驅(qū)動名稱為 P6Spy 的驅(qū)動程序名稱 com.p6spy.engine.spy.P6SpyDriver 其它的都不用更改；
5. 打開配置文件 spy.properties 文件，找到 realdriver，把它的值改為你的應(yīng)用系統(tǒng)的真正的數(shù)據(jù)庫驅(qū)動名稱；
6. 設(shè)置監(jiān)聽端口號 monitorport=2000；
7. 先運行 java -jar irontracksql.jar 來啟動 IronTrack SQL；
8. 再啟動你的應(yīng)用程序或服務(wù)器；
9. 可以在 IronTrack SQL 圖形化的界面上看到結(jié)果并進行分析了。

連接設(shè)置

點擊“Config”按鈕就可以設(shè)置主機名、端口與刷新的時間（毫秒為單位）。根據(jù)你的服務(wù)器與端口的不同而進行相應(yīng)地改變，下面以本地和 2000 端口，刷新時間為 500 毫秒為示例。設(shè)置完成后，確定，點擊“Connect”就可以連接應(yīng)用系統(tǒng)并進行監(jiān)測與分析了，當要停止分析時，只要點擊“Disconnect”按扭即可立刻停止分析了。

在分析的過程中，我們可以根據(jù)需要點擊“Purge”按鈕，它可以清除目前所監(jiān)測到的內(nèi)容，然后重新進行記錄監(jiān)測信息，很方便地進行重新開始。

分析結(jié)果

經(jīng)過一段時間的系統(tǒng)運行后，我們可以直接得到分析的結(jié)果與相應(yīng)的圖形分析示例。相關(guān)的信息顯示如下：

• Count 列顯示 SQL 語句的調(diào)用次數(shù)；
• Avg Time 列顯示 SQL 語句的執(zhí)行平均時間；
• Max Time 列顯示 SQL 語句花費的最高時間；
• SQL 列顯示真正執(zhí)行的 SQL 語句內(nèi)容。

同時也可以通過設(shè)置過濾條件來顯示指定條件的結(jié)果，比如：只關(guān)注平均調(diào)用次數(shù)大于 100 次 的結(jié)果。點擊“Filtering”左邊的小三角圖標，可以顯示如下的過濾條件設(shè)置欄目：

設(shè)置完成后，點擊“Apply Filter”按鈕即可以獲取所需要的相關(guān)結(jié)果了。這樣可以更加方便地集中精力進行所需要的內(nèi)容分析，可以更加方便快速地定位到問題的所在之處，然后進行解決。

回頁首

總結(jié)

通過使用 P6Spy、SQL Profiler、IronTrack SQL 工具，我們可以無侵入已有的應(yīng)用系統(tǒng)而有效地進行數(shù)據(jù)庫操作的監(jiān)控與剖析，為發(fā)現(xiàn)系統(tǒng)的性能瓶頸，尋找系統(tǒng)的性能調(diào)優(yōu)提供了相當便利的方法。

參考資料

• P6Spy 站點：提供數(shù)據(jù)庫性能監(jiān)控和剖析工具。
  
  
• SQL Profiler 站點：提供的基于 P6Spy 引擎的數(shù)據(jù)庫快速剖析工具 SQL Profiler。
  
  
• Java 技術(shù)專區(qū)：尋找 Java 編程各方面的技術(shù)文章。
  
  

• 下載 P6Spy 軟件包。
  
  
• 下載 SQL Profiler 軟件包。
  
  
• 下載 IronTrack SQL 軟件包。

posted on 2009-08-12 14:48 小卓 閱讀(204) 評論(0)  編輯  收藏 所屬分類: datebase