近期在做項(xiàng)目的性能測(cè)試和性能優(yōu)化，先了解與性能相關(guān)的一些概念。
一．系統(tǒng)吞度量要素：
一個(gè)系統(tǒng)的吞度量（承壓能力）與ｒｅｑｕｅｓｔ對(duì)ＣＰＵ的消耗、外部接口、ＩＯ等等緊密關(guān)聯(lián)。
單個(gè)ｒｅｑｅｕｓｔ 對(duì)ＣＰＵ消耗越高，外部系統(tǒng)接口、ＩＯ影響速度越慢，系統(tǒng)吞吐能力越低，反之越高。
系統(tǒng)吞吐量幾個(gè)重要參數(shù)：ＱＰＳ（ＴＰＳ）、并發(fā)數(shù)、響應(yīng)時(shí)間
?。眩校樱ǎ裕校樱好棵腌妑equest／事務(wù) 數(shù)量
并發(fā)數(shù)： 系統(tǒng)同時(shí)處理的request／事務(wù)數(shù)
響應(yīng)時(shí)間： 一般取平均響應(yīng)時(shí)間
?。ê芏嗳私?jīng)常會(huì)把并發(fā)數(shù)和ＴＰＳ理解混淆）
理解了上面三個(gè)要素的意義之后，就能推算出它們之間的關(guān)系：
?。眩校樱ǎ裕校樱健〔l(fā)數(shù)／平均響應(yīng)時(shí)間
一個(gè)系統(tǒng)吞吐量通常由ＱＰＳ（ＴＰＳ）、并發(fā)數(shù)兩個(gè)因素決定，每套系統(tǒng)這兩個(gè)值都有一個(gè)相對(duì)極限值，在應(yīng)用場(chǎng)景訪問(wèn)壓力下，只要某一項(xiàng)達(dá)到系統(tǒng)最高值，系統(tǒng)的吞吐量就上不去了，如果壓力繼續(xù)增大，系統(tǒng)的吞吐量反而會(huì)下降，原因是系統(tǒng)超負(fù)荷工作，上下文切換、內(nèi)存等等其它消耗導(dǎo)致系統(tǒng)性能下降。
決定系統(tǒng)響應(yīng)時(shí)間要素
我們做項(xiàng)目要排計(jì)劃，可以多人同時(shí)并發(fā)做多項(xiàng)任務(wù)，也可以一個(gè)人或者多個(gè)人串行工作，始終會(huì)有一條關(guān)鍵路徑，這條路徑就是項(xiàng)目的工期。
系統(tǒng)一次調(diào)用的響應(yīng)時(shí)間跟項(xiàng)目計(jì)劃一樣，也有一條關(guān)鍵路徑，這個(gè)關(guān)鍵路徑是就是系統(tǒng)影響時(shí)間；
關(guān)鍵路徑是有ＣＰＵ運(yùn)算、ＩＯ、外部系統(tǒng)響應(yīng)等等組成。
二．系統(tǒng)吞吐量評(píng)估：
我們?cè)谧鱿到y(tǒng)設(shè)計(jì)的時(shí)候就需要考慮ＣＰＵ運(yùn)算、ＩＯ、外部系統(tǒng)響應(yīng)因素造成的影響以及對(duì)系統(tǒng)性能的初步預(yù)估。
而通常境況下，我們面對(duì)需求，我們?cè)u(píng)估出來(lái)的出來(lái)ＱＰＳ、并發(fā)數(shù)之外，還有另外一個(gè)維度：日ＰＶ。
通過(guò)觀察系統(tǒng)的訪問(wèn)日志發(fā)現(xiàn)，在用戶量很大的情況下，各個(gè)時(shí)間周期內(nèi)的同一時(shí)間段的訪問(wèn)流量幾乎一樣。比如工作日的每天早上。只要能拿到日流量圖和ＱＰＳ我們就可以推算日流量。
通常的技術(shù)方法：
１． 找出系統(tǒng)的最高ＴＰＳ和日ＰＶ，這兩個(gè)要素有相對(duì)比較穩(wěn)定的關(guān)系（除了放假、季節(jié)性因素影響之外）
２． 通過(guò)壓力測(cè)試或者經(jīng)驗(yàn)預(yù)估，得出最高ＴＰＳ，然后跟進(jìn)１的關(guān)系，計(jì)算出系統(tǒng)最高的日吞吐量。Ｂ２Ｂ中文和淘寶面對(duì)的客戶群不一樣，這兩個(gè)客戶群的網(wǎng)絡(luò)行為不應(yīng)用，他們之間的ＴＰＳ和ＰＶ關(guān)系比例也不一樣。
?。粒┨詫?/strong>
淘寶流量圖：
淘寶的ＴＰＳ和ＰＶ之間的關(guān)系通常為 最高ＴＰＳ：ＰＶ大約為?。薄。骸。保保常叮埃啊。ㄏ喈?dāng)于按最高ＴＰＳ訪問(wèn)１１個(gè)小時(shí)，這個(gè)是商品詳情的場(chǎng)景，不同的應(yīng)用場(chǎng)景會(huì)有一些不同）
B) B2B中文站
B2B的TPS和PV之間的關(guān)系不同的系統(tǒng)不同的應(yīng)用場(chǎng)景比例變化比較大，粗略估計(jì)在1 ： 8個(gè)小時(shí)左右的關(guān)系（09年對(duì)offerdetail的流量分析數(shù)據(jù)）。旺鋪和offerdetail這兩個(gè)比例相差很大，可能是因?yàn)榕老x暫的比例較高的原因?qū)е隆?/p>
在淘寶環(huán)境下，假設(shè)我們壓力測(cè)試出的TPS為100，那么這個(gè)系統(tǒng)的日吞吐量=100*11*3600=396萬(wàn)
這個(gè)是在簡(jiǎn)單（單一url）的情況下，有些頁(yè)面，一個(gè)頁(yè)面有多個(gè)request，系統(tǒng)的實(shí)際吞吐量還要小。
無(wú)論有無(wú)思考時(shí)間（T_think），測(cè)試所得的TPS值和并發(fā)虛擬用戶數(shù)(U_concurrent)、Loadrunner讀取的交易響應(yīng)時(shí)間（T_response）之間有以下關(guān)系（穩(wěn)定運(yùn)行情況下）：
TPS=U_concurrent / (T_response+T_think)。
并發(fā)數(shù)、QPS、平均響應(yīng)時(shí)間三者之間關(guān)系
軟件性能測(cè)試的基本概念和計(jì)算公式
一、軟件性能的關(guān)注點(diǎn)
對(duì)一個(gè)軟件做性能測(cè)試時(shí)需要關(guān)注那些性能呢？
我們想想在軟件設(shè)計(jì)、部署、使用、維護(hù)中一共有哪些角色的參與，然后再考慮這些角色各自關(guān)注的性能點(diǎn)是什么，作為一個(gè)軟件性能測(cè)試工程師，我們又該關(guān)注什么？
首先，開發(fā)軟件的目的是為了讓用戶使用，我們先站在用戶的角度分析一下，用戶需要關(guān)注哪些性能。
對(duì)于用戶來(lái)說(shuō)，當(dāng)點(diǎn)擊一個(gè)按鈕、鏈接或發(fā)出一條指令開始，到系統(tǒng)把結(jié)果已用戶感知的形式展現(xiàn)出來(lái)為止，這個(gè)過(guò)程所消耗的時(shí)間是用戶對(duì)這個(gè)軟件性能的直觀印象。也就是我們所說(shuō)的響應(yīng)時(shí)間，當(dāng)相應(yīng)時(shí)間較小時(shí)，用戶體驗(yàn)是很好的，當(dāng)然用戶體驗(yàn)的響應(yīng)時(shí)間包括個(gè)人主觀因素和客觀響應(yīng)時(shí)間，在設(shè)計(jì)軟件時(shí)，我們就需要考慮到如何更好地結(jié)合這兩部分達(dá)到用戶最佳的體驗(yàn)。如：用戶在大數(shù)據(jù)量查詢時(shí)，我們可以將先提取出來(lái)的數(shù)據(jù)展示給用戶，在用戶看的過(guò)程中繼續(xù)進(jìn)行數(shù)據(jù)檢索，這時(shí)用戶并不知道我們后臺(tái)在做什么。
用戶關(guān)注的是用戶操作的相應(yīng)時(shí)間。
其次，我們站在管理員的角度考慮需要關(guān)注的性能點(diǎn)。
1、 相應(yīng)時(shí)間
2、 服務(wù)器資源使用情況是否合理
3、 應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)資源使用是否合理
4、 系統(tǒng)能否實(shí)現(xiàn)擴(kuò)展
5、 系統(tǒng)最多支持多少用戶訪問(wèn)、系統(tǒng)最大業(yè)務(wù)處理量是多少
6、 系統(tǒng)性能可能存在的瓶頸在哪里
7、 更換那些設(shè)備可以提高性能
8、 系統(tǒng)能否支持7×24小時(shí)的業(yè)務(wù)訪問(wèn)
再次，站在開發(fā)（設(shè)計(jì)）人員角度去考慮。
1、 架構(gòu)設(shè)計(jì)是否合理
2、 數(shù)據(jù)庫(kù)設(shè)計(jì)是否合理
3、 代碼是否存在性能方面的問(wèn)題
4、 系統(tǒng)中是否有不合理的內(nèi)存使用方式
5、 系統(tǒng)中是否存在不合理的線程同步方式
6、 系統(tǒng)中是否存在不合理的資源競(jìng)爭(zhēng)
那么站在性能測(cè)試工程師的角度，我們要關(guān)注什么呢？
一句話，我們要關(guān)注以上所有的性能點(diǎn)。
二、軟件性能的幾個(gè)主要術(shù)語(yǔ)
1、響應(yīng)時(shí)間：對(duì)請(qǐng)求作出響應(yīng)所需要的時(shí)間
網(wǎng)絡(luò)傳輸時(shí)間：N1+N2+N3+N4
應(yīng)用服務(wù)器處理時(shí)間：A1+A3
數(shù)據(jù)庫(kù)服務(wù)器處理時(shí)間：A2
響應(yīng)時(shí)間=N1+N2+N3+N4+A1+A3+A2
2、并發(fā)用戶數(shù)的計(jì)算公式
系統(tǒng)用戶數(shù)：系統(tǒng)額定的用戶數(shù)量，如一個(gè)OA系統(tǒng)，可能使用該系統(tǒng)的用戶總數(shù)是5000個(gè)，那么這個(gè)數(shù)量，就是系統(tǒng)用戶數(shù)。
同時(shí)在線用戶數(shù)：在一定的時(shí)間范圍內(nèi)，最大的同時(shí)在線用戶數(shù)量。
同時(shí)在線用戶數(shù)=每秒請(qǐng)求數(shù)RPS（吞吐量）+并發(fā)連接數(shù)+平均用戶思考時(shí)間
平均并發(fā)用戶數(shù)的計(jì)算：C=nL / T
其中C是平均的并發(fā)用戶數(shù)，n是平均每天訪問(wèn)用戶數(shù)（login session），L是一天內(nèi)用戶從登錄到退出的平均時(shí)間（login session的平均時(shí)間），T是考察時(shí)間長(zhǎng)度（一天內(nèi)多長(zhǎng)時(shí)間有用戶使用系統(tǒng)）
并發(fā)用戶數(shù)峰值計(jì)算：C^約等于C + 3*根號(hào)C
其中C^是并發(fā)用戶峰值，C是平均并發(fā)用戶數(shù)，該公式遵循泊松分布理論。
3、吞吐量的計(jì)算公式
指單位時(shí)間內(nèi)系統(tǒng)處理用戶的請(qǐng)求數(shù)
從業(yè)務(wù)角度看，吞吐量可以用：請(qǐng)求數(shù)/秒、頁(yè)面數(shù)/秒、人數(shù)/天或處理業(yè)務(wù)數(shù)/小時(shí)等單位來(lái)衡量
從網(wǎng)絡(luò)角度看，吞吐量可以用：字節(jié)/秒來(lái)衡量
對(duì)于交互式應(yīng)用來(lái)說(shuō)，吞吐量指標(biāo)反映的是服務(wù)器承受的壓力，他能夠說(shuō)明系統(tǒng)的負(fù)載能力
以不同方式表達(dá)的吞吐量可以說(shuō)明不同層次的問(wèn)題，例如，以字節(jié)數(shù)/秒方式可以表示數(shù)要受網(wǎng)絡(luò)基礎(chǔ)設(shè)施、服務(wù)器架構(gòu)、應(yīng)用服務(wù)器制約等方面的瓶頸；已請(qǐng)求數(shù)/秒的方式表示主要是受應(yīng)用服務(wù)器和應(yīng)用代碼的制約體現(xiàn)出的瓶頸。
當(dāng)沒有遇到性能瓶頸的時(shí)候，吞吐量與虛擬用戶數(shù)之間存在一定的聯(lián)系，可以采用以下公式計(jì)算：F=VU * R /
其中F為吞吐量，VU表示虛擬用戶個(gè)數(shù)，R表示每個(gè)虛擬用戶發(fā)出的請(qǐng)求數(shù)，T表示性能測(cè)試所用的時(shí)間
4、性能計(jì)數(shù)器
是描述服務(wù)器或操作系統(tǒng)性能的一些數(shù)據(jù)指標(biāo)，如使用內(nèi)存數(shù)、進(jìn)程時(shí)間，在性能測(cè)試中發(fā)揮著“監(jiān)控和分析”的作用，尤其是在分析統(tǒng)統(tǒng)可擴(kuò)展性、進(jìn)行新能瓶頸定位時(shí)有著非常關(guān)鍵的作用。
資源利用率：指系統(tǒng)各種資源的使用情況，如cpu占用率為68%，內(nèi)存占用率為55%，一般使用“資源實(shí)際使用/總的資源可用量”形成資源利用率。
5、思考時(shí)間的計(jì)算公式
Think Time，從業(yè)務(wù)角度來(lái)看，這個(gè)時(shí)間指用戶進(jìn)行操作時(shí)每個(gè)請(qǐng)求之間的時(shí)間間隔，而在做新能測(cè)試時(shí)，為了模擬這樣的時(shí)間間隔，引入了思考時(shí)間這個(gè)概念，來(lái)更加真實(shí)的模擬用戶的操作。
在吞吐量這個(gè)公式中F=VU * R / T說(shuō)明吞吐量F是VU數(shù)量、每個(gè)用戶發(fā)出的請(qǐng)求數(shù)R和時(shí)間T的函數(shù)，而其中的R又可以用時(shí)間T和用戶思考時(shí)間TS來(lái)計(jì)算：R = T / TS
下面給出一個(gè)計(jì)算思考時(shí)間的一般步驟：
A、首先計(jì)算出系統(tǒng)的并發(fā)用戶數(shù)
C=nL / T F=R×C
B、統(tǒng)計(jì)出系統(tǒng)平均的吞吐量
F=VU * R / T R×C = VU * R / T
C、統(tǒng)計(jì)出平均每個(gè)用戶發(fā)出的請(qǐng)求數(shù)量
R=u*C*T/VU
D、根據(jù)公式計(jì)算出思考時(shí)間
TS=T/R