1、什麼是伺服器並發量?並發量如何計算
並發的意思是指網站在同一時間訪問的人數,人數越大,瞬間帶寬要求更高。伺服器並發量分為:1.業務並發用戶數;2.最大並發訪問數;3.系統用戶數;4.同時在線用戶數;
說明伺服器實際壓力,能承受的最大並發訪問數,既取決於業務並發用戶數,還取決於用戶的業務場景,這些可以通過對伺服器日誌的分析得到。
一般只需要分析出典型業務(用戶常用,最關注的業務操作)
給出一個估算業務並發用戶數的公式(測試人員一般只關心業務並發用戶數)
C=nL/T
C^=C+3×(C的平方根)
C是平均的業務並發用戶數、n是login session的數量、L是login session的平均長度、T是指考察的時間段長度、C^是指業務並發用戶數的峰值。
假設OA系統有1000用戶,每天400個用戶發訪問,每個登錄到退出平均時間2小時,在1天時間內用戶只在8小時內使用該系統。
C=400×2/8=100
C^=100+3×(100的平方根)=100+3×10=130
另外,如果知道平均每個用戶發出的請求數u,則系統吞吐量可以估算為u×C
精確估算,還要考慮用戶業務操作存在一定的時間集中性(比如上班後1小時內是OA系統高峰期),採用公式計算仍然會存在偏差。
285-104-1346
2、如何提高伺服器並發處理能力
有什麼方法衡量伺服器並發處理能力
1. 吞吐率
吞吐率,單位時間里伺服器處理的最大請求數,單位req/s
從伺服器角度,實際並發用戶數的可以理解為伺服器當前維護的代表不同用戶的文件描述符總數,也就是並發連接數。伺服器一般會限制同時服務的最多用戶數,比如apache的MaxClents參數。
這里再深入一下,對於伺服器來說,伺服器希望支持高吞吐率,對於用戶來說,用戶只希望等待最少的時間,顯然,雙方不能滿足,所以雙方利益的平衡點,就是我們希望的最大並發用戶數。
2. 壓力測試
有一個原理一定要先搞清楚,假如100個用戶同時向伺服器分別進行10個請求,與1個用戶向伺服器連續進行1000次請求,對伺服器的壓力是一樣嗎?實際上是不一樣的,因對每一個用戶,連續發送請求實際上是指發送一個請求並接收到響應數據後再發送下一個請求。這樣對於1個用戶向伺服器連續進行1000次請求, 任何時刻伺服器的網卡接收緩沖區中只有1個請求,而對於100個用戶同時向伺服器分別進行10個請求,伺服器的網卡接收緩沖區最多有100個等待處理的請求,顯然這時的伺服器壓力更大。
壓力測試前提考慮的條件
並發用戶數: 指在某一時刻同時向伺服器發送請求的用戶總數(HttpWatch)
總請求數
請求資源描述
請求等待時間(用戶等待時間)
用戶平均請求的等待時間
伺服器平均請求處理的時間
硬體環境
壓力測試中關心的時間又細分以下2種:
用戶平均請求等待時間(這里暫不把數據在網路的傳輸時間,還有用戶PC本地的計算時間計算入內)
伺服器平均請求處理時間
用戶平均請求等待時間主要用於衡量伺服器在一定並發用戶數下,單個用戶的服務質量;而伺服器平均請求處理時間就是吞吐率的倒數,一般來說,用戶平均請求等待時間 = 伺服器平均請求處理時間 * 並發用戶數
怎麼提高伺服器的並發處理能力
1. 提高CPU並發計算能力
伺服器之所以可以同時處理多個請求,在於操作系統通過多執行流體系設計使得多個任務可以輪流使用系統資源,這些資源包括CPU,內存以及I/O. 這里的I/O主要指磁碟I/O, 和網路I/O。
多進程 & 多線程
多執行流的一般實現便是進程,多進程的好處可以對CPU時間的輪流使用,對CPU計算和IO操作重疊利用。這里的IO主要是指磁碟IO和網路IO,相對CPU而言,它們慢的可憐。
而實際上,大多數進程的時間主要消耗在I/O操作上。現代計算機的DMA技術可以讓CPU不參與I/O操作的全過程,比如進程通過系統調用,使得CPU向網卡或者磁碟等I/O設備發出指令,然後進程被掛起,釋放出CPU資源,等待I/O設備完成工作後通過中斷來通知進程重新就緒。對於單任務而言,CPU大部分時間空閑,這時候多進程的作用尤為重要。
多進程不僅能夠提高CPU的並發度。其優越性還體現在獨立的內存地址空間和生命周期所帶來的穩定性和健壯性,其中一個進程崩潰不會影響到另一個進程。
但是進程也有如下缺點:
fork()系統調用開銷很大: prefork
進程間調度和上下文切換成本: 減少進程數量
龐大的內存重復:共享內存
IPC編程相對比較麻煩
3、網站伺服器一般最多能同時接受多少個並發連接
Windows server 2003是沒有TCP/IP連接數限制的.但一般默認安裝時,是有配置連接限制的,你可能事先配置的並發連接數就是100,你可以到"控制面板"中的"授權",去改一下,將每伺服器的同時連接數改成你要的數字,比如200或更大.如果你用的是盜版你高興改成1000也沒關系,如果用的是正版,那可要算算要花多少錢了,呵呵,多出來的許可證是要花錢買的! 好象真不行,要添加也有些問題,這個你知道了就好,下次裝03時,一定要配置一下,數字寫大點!如何改的問題,你查查看,有沒法改!
4、伺服器的並發是什麼意思,怎麼計算的!
伺服器並發指的是多個用戶同時訪問資料庫中的同一欄位的行為。這樣的用戶行為對於伺服器的性能是一種考驗。
但是,再好的伺服器也有自己的性能上限,當並發用戶數過多的時候,再好的伺服器也支持不住。事實上,我們在生活中經常能遇到由於並發用戶過多而導致的系統緩慢甚至癱瘓現象。比方說,很多使用過那些在線考試報名系統的朋友都會發現,半夜登錄系統報名比白天登錄系統報名要容,網頁反應速度也要快一些,這就是由於晚上的並發用戶數比較小的原因。
對於IT運維人員來說伺服器並發是恐怖的,因為伺服器的最大用戶並發數並不是IT運維人員所能控制的,我們能做到的只是採用各種手段來提升系統的性能,提升伺服器的性能利用率。
5、網站伺服器的並發是什麼意思
就是伺服器支持多少個用戶同時訪問。1個訪問就是1個並發數,這些並發數的計算,包括使用計算機的所有方式,比如說遠程桌面,web用戶訪問等等。
6、一台應用伺服器怎麼計算其並發量
並發的意思是指網站在同一時間訪問的人數,人數越大,瞬間帶寬要求更高。伺服器並發量分為:1.業務並發用戶數;2.最大並發訪問數;3.系統用戶數;4.同時在線用戶數;
說明伺服器實際壓力,能承受的最大並發訪問數,既取決於業務並發用戶數,還取決於用戶的業務場景,這些可以通過對伺服器日誌的分析得到。
一般只需要分析出典型業務(用戶常用,最關注的業務操作)
給出一個估算業務並發用戶數的公式(測試人員一般只關心業務並發用戶數)
C=nL/T
C^=C+3×(C的平方根)
C是平均的業務並發用戶數、n是login session的數量、L是login session的平均長度、T是指考察的時間段長度、C^是指業務並發用戶數的峰值。
假設OA系統有1000用戶,每天400個用戶發訪問,每個登錄到退出平均時間2小時,在1天時間內用戶只在8小時內使用該系統。
C=400×2/8=100
C^=100+3×(100的平方根)=100+3×10=130
另外,如果知道平均每個用戶發出的請求數u,則系統吞吐量可以估算為u×C
精確估算,還要考慮用戶業務操作存在一定的時間集中性(比如上班後1小時內是OA系統高峰期),採用公式計算仍然會存在偏差。
285-104-1346
7、網站伺服器一般最多能同時接受多少個並發連接?
一般沒這么高的人氣,都是忽悠人的。
一台伺服器大概支持5000-10000人同時在線
看帶寬,共享百MB的是5000人、獨享10MB的是10000人
Q我租伺服器、高帶寬
8、如何提高伺服器並發數
消除瓶頸是提高伺服器性能和並發能力的唯一途徑。
如果你能夠消除所有的瓶頸,你就能夠最大的發揮硬體性能,讓系統的性能和並發數到達最佳。
採用多線程多核編程,使用事件驅動或非同步消息機制,盡量減少阻塞和等待操作(如I/O阻塞、同步等待或計時/超時等)。
原理:
1、多線程多核編程,消除cpu瓶頸。
2、採用IOCP或epoll,利用狀態監測和通知方式,消除網路I/O阻塞瓶頸。
3、採用事件驅動或非同步消息機制,可以消除不必要的等待操作。
4、如果是Linux,可以採用AIO來消除磁碟I/O阻塞瓶頸。
5、在事件驅動框架或非同步消息中統一處理timer事件,變同步為非同步,而且可以在一個線程處理無數timer事件。
6、深入分析外部的阻塞來源,消除它。
比如資料庫查詢較慢,導致伺服器處理較慢,並發數上不去,這時就要優化資料庫性能。
7、如果與某個其他server通信量很大,導致性能下降較多。
可以考慮把這兩個server放在一個主機上,採用共享內存的方式來做IPC通信,可以大大提高性能。