web 性能測(cè)試中的幾個(gè)關(guān)鍵指標(biāo)(并發(fā)用戶數(shù),QPS,用戶平均請(qǐng)求等待時(shí)間)

并發(fā)用戶數(shù)和QPS兩個(gè)概念沒(méi)有直接關(guān)系，但是如果要說(shuō)QPS時(shí)，一定需要指明是多少并發(fā)用戶數(shù)下的QPS，否則豪無(wú)意義，因?yàn)閱斡脩魯?shù)的40QPS和20并發(fā)用戶數(shù)下的40QPS是兩個(gè)不同的概念。前者說(shuō)明該應(yīng)用可以在一秒內(nèi)串行執(zhí)行40個(gè)請(qǐng)求，而后者說(shuō)明在并發(fā)20個(gè)請(qǐng)求的情況下，一秒內(nèi)該應(yīng)用能處理40個(gè)請(qǐng)求，當(dāng)QPS相同時(shí)，越大的并發(fā)用戶數(shù)，代表了網(wǎng)站并發(fā)處理能力越好。對(duì)于當(dāng)前的web服務(wù)器，其處理單個(gè)用戶的請(qǐng)求肯定戳戳有余，這個(gè)時(shí)候會(huì)存在資源浪費(fèi)的情況（一方面該服務(wù)器可能有多個(gè)cpu，但是只處理單個(gè)進(jìn)程，另一方面，在處理一個(gè)進(jìn)程中，有些階段可能是IO階段，這個(gè)時(shí)候會(huì)造成CPU等待，但是有沒(méi)有其他請(qǐng)求進(jìn)程可以被處理）。而當(dāng)并發(fā)數(shù)設(shè)置的過(guò)大時(shí)，每秒鐘都會(huì)有很多請(qǐng)求需要處理，會(huì)造成進(jìn)程（線程）頻繁切換，反正真正用于處理請(qǐng)求的時(shí)間變少，每秒能夠處理的請(qǐng)求數(shù)反而變少，同時(shí)用戶的請(qǐng)求等待時(shí)間也會(huì)變大，甚至超過(guò)用戶的心理底線。

所以在最小并發(fā)數(shù)和最大并發(fā)數(shù)之間，一定有一個(gè)最合適的并發(fā)數(shù)值，在并發(fā)數(shù)下，QPS能夠達(dá)到最大。

但是，這個(gè)并發(fā)并非是一個(gè)最佳的并發(fā)，因?yàn)楫?dāng)QPS到達(dá)最大時(shí)的并發(fā)，可能已經(jīng)造成用戶的等待時(shí)間變得超過(guò)了其最優(yōu)值，所以對(duì)于一個(gè)系統(tǒng)，其最佳的并發(fā)數(shù)，一定需要結(jié)合QPS，用戶的等待時(shí)間來(lái)綜合確定。



圖1 并發(fā)用戶數(shù)，QPS，用戶平均等待時(shí)間（響應(yīng)時(shí)間關(guān)系圖）

上面這張圖是應(yīng)用其他人的關(guān)于并發(fā)用戶數(shù)，QPS，用戶平均等待時(shí)間的一張關(guān)系圖，對(duì)于實(shí)際的系統(tǒng)，也應(yīng)該是對(duì)于不同的并發(fā)數(shù)，進(jìn)行多次測(cè)試，獲取到這些數(shù)值后，畫出這樣一張圖出來(lái)，以便于分析出系統(tǒng)的最佳并發(fā)用戶數(shù)。