新網(wǎng)箭頭云負載平衡讓你從容應(yīng)對雙十一高并發(fā)
相信這個場景在雙十一階段并不少見。在超高并發(fā)量下,IT 系統(tǒng)如何才能挺住不崩?有沒有辦法可以提前預(yù)測到,并加筑好“防御堡壘”?
大多數(shù)同學被問到這個問題壓根兒沒什么思路去回答,不知道從什么地方說起,其實本質(zhì)就是沒經(jīng)歷過一些真正有高并發(fā)系統(tǒng)的錘煉罷了。
一、什么是高并發(fā)?
高并發(fā)(High Concurrency)是互聯(lián)網(wǎng)分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一,它通常是指,通過設(shè)計保證系統(tǒng)能夠同時并行處理很多請求。高并發(fā)意味著大流量,需要運用技術(shù)手段抵抗流量的沖擊,這些手段好比操作流量,能讓流量更平穩(wěn)地被系統(tǒng)所處理,帶給用戶更好的體驗。
高并發(fā)相關(guān)常用的一些指標有響應(yīng)時間(Response Time),吞吐量(Throughput),每秒查詢率QPS(Query Per Second),每秒事務(wù)處理量TPS(Transaction Per Second),并發(fā)用戶數(shù)等。
響應(yīng)時間:系統(tǒng)對請求做出響應(yīng)的時間。
吞吐量:單位時間內(nèi)處理的請求數(shù)量。
QPS:每秒響應(yīng)查詢請求數(shù)。
TPS:每秒響應(yīng)事務(wù)請求數(shù)。
并發(fā)用戶數(shù):同時承載正常使用系統(tǒng)功能的用戶數(shù)量。
我們常見的高并發(fā)場景有:淘寶的雙 11、春運時的搶票、微博大 V 的熱點新聞等。
二、多大并發(fā)才算高并發(fā)呢?
很顯然,上面談到的高并發(fā)場景,并發(fā)量各不相同,那到底多大并發(fā)才算高并發(fā)呢?
首先,不能只看數(shù)字,要看具體的業(yè)務(wù)場景。信息流場景涉及復(fù)雜的推薦模型和各種人工策略,它的業(yè)務(wù)邏輯可能比秒殺場景復(fù)雜 10 倍不止。因此,不在同一個維度,沒有任何比較意義。
此外,各個高并發(fā)場景的業(yè)務(wù)特點完全不同:有讀多寫少的信息流場景、有讀多寫多的交易場景,那是否有通用的技術(shù)方案解決不同場景的高并發(fā)問題呢?
三、如何應(yīng)對高并發(fā)?
由于軟硬件環(huán)境、技術(shù)棧、以及產(chǎn)品邏輯都沒法做到完全一致,這些都會導(dǎo)致同樣的業(yè)務(wù)場景,就算用相同的技術(shù)方案也會面臨不同的問題。大的思路可以借鑒,別人的方案也可以參考,但是真正落地過程中,細節(jié)上還會有無數(shù)的坑。
下面給大家兩個小建議:
其一,購買服務(wù)器。當一個網(wǎng)站面對突發(fā)流量,不可能臨時改造架構(gòu),最快的方式就是增加機器來線性提高系統(tǒng)的處理能力。
一支筷子容易斷,一把筷子就十分堅固。既然一臺服務(wù)器搞不定,我們就多上幾臺服務(wù)器。這里的原理就是分流,把以前集中的壓力分散開來。
其二,設(shè)置負載平衡。負載平衡可以通過多種負載算法將請求轉(zhuǎn)發(fā)到不同云服務(wù)器上。在后端云服務(wù)器宕機時,會自動將對應(yīng)節(jié)點從負載均衡的轉(zhuǎn)發(fā)列表中移出保證服務(wù)的高可用。
總之,面對高并發(fā)、大流量需要新購服務(wù)器或設(shè)置負載平衡的朋友們,新網(wǎng)云將是您的不二選擇!
設(shè)置負載平衡,點擊進入新網(wǎng)云:http://www.xinnet.com/cs/slb.html
聲明:免責聲明:本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻自行上傳,本網(wǎng)站不擁有所有權(quán),也不承認相關(guān)法律責任。如果您發(fā)現(xiàn)本社區(qū)中有涉嫌抄襲的內(nèi)容,請發(fā)
送郵件至:operations@xinnet.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,本站將立刻刪除涉嫌侵權(quán)內(nèi)容。本站原創(chuàng)內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時
需注明出處:新網(wǎng)idc知識百科