系統吞吐量（TPS）、用戶并發量、性能測試概念和公式   《轉載》

近期在做項目的性能測試和性能優化，先了解與性能相關的一些概念。

　　一．系統吞度量要素：

　　一個系統的吞度量（承壓能力）與ｒｅｑｕｅｓｔ對ＣＰＵ的消耗、外部接口、ＩＯ等等緊密關聯。

　　單個ｒｅｑｅｕｓｔ　對ＣＰＵ消耗越高，外部系統接口、ＩＯ影響速度越慢，系統吞吐能力越低，反之越高。

　　系統吞吐量幾個重要參數：ＱＰＳ（ＴＰＳ）、并發數、響應時間

　　ＱＰＳ（ＴＰＳ）：每秒鐘request／事務　數量

　　并發數：　系統同時處理的request／事務數

　　響應時間：　　一般取平均響應時間

　　（很多人經常會把并發數和ＴＰＳ理解混淆）

　　理解了上面三個要素的意義之后，就能推算出它們之間的關系：

　　ＱＰＳ（ＴＰＳ）＝　并發數／平均響應時間

　　一個系統吞吐量通常由ＱＰＳ（ＴＰＳ）、并發數兩個因素決定，每套系統這兩個值都有一個相對極限值，在應用場景訪問壓力下，只要某一項達到系統最高值，系統的吞吐量就上不去了，如果壓力繼續增大，系統的吞吐量反而會下降，原因是系統超負荷工作，上下文切換、內存等等其它消耗導致系統性能下降。

　　決定系統響應時間要素

　　我們做項目要排計劃，可以多人同時并發做多項任務，也可以一個人或者多個人串行工作，始終會有一條關鍵路徑，這條路徑就是項目的工期。

　　系統一次調用的響應時間跟項目計劃一樣，也有一條關鍵路徑，這個關鍵路徑是就是系統影響時間；

　　關鍵路徑是有ＣＰＵ運算、ＩＯ、外部系統響應等等組成。

　　二．系統吞吐量評估：

　　我們在做系統設計的時候就需要考慮ＣＰＵ運算、ＩＯ、外部系統響應因素造成的影響以及對系統性能的初步預估。

　　而通常境況下，我們面對需求，我們評估出來的出來ＱＰＳ、并發數之外，還有另外一個維度：日ＰＶ。

　　通過觀察系統的訪問日志發現，在用戶量很大的情況下，各個時間周期內的同一時間段的訪問流量幾乎一樣。比如工作日的每天早上。只要能拿到日流量圖和ＱＰＳ我們就可以推算日流量。

　　通常的技術方法：

　　１．　找出系統的最高ＴＰＳ和日ＰＶ，這兩個要素有相對比較穩定的關系（除了放假、季節性因素影響之外）

　　２．　通過壓力測試或者經驗預估，得出最高ＴＰＳ，然后跟進１的關系，計算出系統最高的日吞吐量。Ｂ２Ｂ中文和淘寶面對的客戶群不一樣，這兩個客戶群的網絡行為不應用，他們之間的ＴＰＳ和ＰＶ關系比例也不一樣。

　　Ａ）淘寶

　　淘寶流量圖：

　　淘寶的ＴＰＳ和ＰＶ之間的關系通常為　　最高ＴＰＳ：ＰＶ大約為　１　：　１１＊３６００　（相當于按最高ＴＰＳ訪問１１個小時，這個是商品詳情的場景，不同的應用場景會有一些不同）

　B) B2B中文站

　　B2B的TPS和PV之間的關系不同的系統不同的應用場景比例變化比較大，粗略估計在1 ： 8個小時左右的關系（09年對offerdetail的流量分析數據）。旺鋪和offerdetail這兩個比例相差很大，可能是因為爬蟲暫的比例較高的原因導致。

　　在淘寶環境下，假設我們壓力測試出的TPS為100，那么這個系統的日吞吐量=100*11*3600=396萬

　　這個是在簡單（單一url）的情況下，有些頁面，一個頁面有多個request，系統的實際吞吐量還要小。

　　無論有無思考時間（T_think），測試所得的TPS值和并發虛擬用戶數(U_concurrent)、Loadrunner讀取的交易響應時間（T_response）之間有以下關系（穩定運行情況下）：

　　TPS=U_concurrent / (T_response+T_think)。

　　并發數、QPS、平均響應時間三者之間關系

　　軟件性能測試的基本概念和計算公式

　　一、軟件性能的關注點

　　對一個軟件做性能測試時需要關注那些性能呢？

　　我們想想在軟件設計、部署、使用、維護中一共有哪些角色的參與，然后再考慮這些角色各自關注的性能點是什么，作為一個軟件性能測試工程師，我們又該關注什么？

　　首先，開發軟件的目的是為了讓用戶使用，我們先站在用戶的角度分析一下，用戶需要關注哪些性能。

　　對于用戶來說，當點擊一個按鈕、鏈接或發出一條指令開始，到系統把結果已用戶感知的形式展現出來為止，這個過程所消耗的時間是用戶對這個軟件性能的直觀印象。也就是我們所說的響應時間，當相應時間較小時，用戶體驗是很好的，當然用戶體驗的響應時間包括個人主觀因素和客觀響應時間，在設計軟件時，我們就需要考慮到如何更好地結合這兩部分達到用戶最佳的體驗。如：用戶在大數據量查詢時，我們可以將先提取出來的數據展示給用戶，在用戶看的過程中繼續進行數據檢索，這時用戶并不知道我們后臺在做什么。

　　用戶關注的是用戶操作的相應時間。

　　其次，我們站在管理員的角度考慮需要關注的性能點。

　　1、 相應時間

　　2、 服務器資源使用情況是否合理

　　3、 應用服務器和數據庫資源使用是否合理

　　4、 系統能否實現擴展

　　5、 系統最多支持多少用戶訪問、系統最大業務處理量是多少

　　6、 系統性能可能存在的瓶頸在哪里

　　7、 更換那些設備可以提高性能

　　8、 系統能否支持7×24小時的業務訪問

　　再次，站在開發（設計）人員角度去考慮。

　　1、 架構設計是否合理

　　2、 數據庫設計是否合理

　　3、 代碼是否存在性能方面的問題

　　4、 系統中是否有不合理的內存使用方式

　　5、 系統中是否存在不合理的線程同步方式

　　6、 系統中是否存在不合理的資源競爭

　　那么站在性能測試工程師的角度，我們要關注什么呢？

　　一句話，我們要關注以上所有的性能點。

　　二、軟件性能的幾個主要術語

　　1、響應時間：對請求作出響應所需要的時間

　　網絡傳輸時間：N1+N2+N3+N4

　　應用服務器處理時間：A1+A3

　　數據庫服務器處理時間：A2

　　響應時間=N1+N2+N3+N4+A1+A3+A2

　　2、并發用戶數的計算公式

　　系統用戶數：系統額定的用戶數量，如一個OA系統，可能使用該系統的用戶總數是5000個，那么這個數量，就是系統用戶數。

　　同時在線用戶數：在一定的時間范圍內，最大的同時在線用戶數量。

　　同時在線用戶數=每秒請求數RPS（吞吐量）+并發連接數+平均用戶思考時間

　　平均并發用戶數的計算：C=nL / T

　　其中C是平均的并發用戶數，n是平均每天訪問用戶數（login session），L是一天內用戶從登錄到退出的平均時間（login session的平均時間），T是考察時間長度（一天內多長時間有用戶使用系統）

　　并發用戶數峰值計算：C^約等于C + 3*根號C

　　其中C^是并發用戶峰值，C是平均并發用戶數，該公式遵循泊松分布理論。

　3、吞吐量的計算公式

　　指單位時間內系統處理用戶的請求數

　　從業務角度看，吞吐量可以用：請求數/秒、頁面數/秒、人數/天或處理業務數/小時等單位來衡量

　　從網絡角度看，吞吐量可以用：字節/秒來衡量

　　對于交互式應用來說，吞吐量指標反映的是服務器承受的壓力，他能夠說明系統的負載能力

　　以不同方式表達的吞吐量可以說明不同層次的問題，例如，以字節數/秒方式可以表示數要受網絡基礎設施、服務器架構、應用服務器制約等方面的瓶頸；已請求數/秒的方式表示主要是受應用服務器和應用代碼的制約體現出的瓶頸。

　　當沒有遇到性能瓶頸的時候，吞吐量與虛擬用戶數之間存在一定的聯系，可以采用以下公式計算：F=VU * R /

　　其中F為吞吐量，VU表示虛擬用戶個數，R表示每個虛擬用戶發出的請求數，T表示性能測試所用的時間

　　4、性能計數器

　　是描述服務器或操作系統性能的一些數據指標，如使用內存數、進程時間，在性能測試中發揮著“監控和分析”的作用，尤其是在分析統統可擴展性、進行新能瓶頸定位時有著非常關鍵的作用。

　　資源利用率：指系統各種資源的使用情況，如cpu占用率為68%，內存占用率為55%，一般使用“資源實際使用/總的資源可用量”形成資源利用率。

　　5、思考時間的計算公式

　　Think Time，從業務角度來看，這個時間指用戶進行操作時每個請求之間的時間間隔，而在做新能測試時，為了模擬這樣的時間間隔，引入了思考時間這個概念，來更加真實的模擬用戶的操作。

　　在吞吐量這個公式中F=VU * R / T說明吞吐量F是VU數量、每個用戶發出的請求數R和時間T的函數，而其中的R又可以用時間T和用戶思考時間TS來計算：R = T / TS

　　下面給出一個計算思考時間的一般步驟：

　　A、首先計算出系統的并發用戶數

　　C=nL / T F=R×C

　　B、統計出系統平均的吞吐量

　　F=VU * R / T R×C = VU * R / T

　　C、統計出平均每個用戶發出的請求數量

　　R=u*C*T/VU

　　D、根據公式計算出思考時間

　　TS=T/R