負載均衡方案的三種實現(xiàn)策略
一、多臺服務(wù)器是如何去均衡流量、如何組成高性能的集群的呢?
負載均衡(Load Balancer)是指把用戶訪問的流量,通過「負載均衡器」,根據(jù)某種轉(zhuǎn)發(fā)的策略,均勻的分發(fā)到后端多臺服務(wù)器上,后端的服務(wù)器可以獨立的響應(yīng)和處理請求,從而實現(xiàn)分散負載的效果。負載均衡技術(shù)提高了系統(tǒng)的服務(wù)能力,增強了應(yīng)用的可用性。
二、負載均衡方案有幾種?
目前市面上最常見的負載均衡技術(shù)方案主要有三種:
1、基于DNS負載均衡
2、基于硬件負載均衡
3、基于軟件負載均衡
三種方案各有優(yōu)劣,DNS負載均衡可以實現(xiàn)在地域上的流量均衡,硬件負載均衡主要用于大型服務(wù)器集群中的負載需求,而軟件負載均衡大多是基于機器層面的流量均衡。在實際場景中,這三種是可以組合在一起使用。下面來詳細講講:
三、基于DNS負載均衡
1、基于DNS來做負載均衡其實是一種最簡單的實現(xiàn)方案,通過在DNS服務(wù)器上做一個簡單配置即可
其原理就是當用戶訪問域名的時候,會先向DNS服務(wù)器去解析域名對應(yīng)的IP地址,這個時候我們可以讓DNS服務(wù)器根據(jù)不同地理位置的用戶返回不同的IP。比如南方的用戶就返回我們在廣州業(yè)務(wù)服務(wù)器的IP,北方的用戶來訪問的話,我就返回北京業(yè)務(wù)服務(wù)器所在的IP。
在這個模式下,用戶就相當于實現(xiàn)了按照「就近原則」將請求分流了,既減輕了單個集群的負載壓力,也提升了用戶的訪問速度。
使用DNS做負載均衡的方案,天然的優(yōu)勢就是配置簡單,實現(xiàn)成本非常低,無需額外的開發(fā)和維護工作。
但是也有一個明顯的缺點是:當配置修改后,生效不及時。這個是由于DNS的特性導(dǎo)致的,DNS一般會有多級緩存,所以當我們修改了DNS配置之后,由于緩存的原因,會導(dǎo)致IP變更不及時,從而影響負載均衡的效果。
另外,使用DNS做負載均衡的話,大多是基于地域或者干脆直接做IP輪詢,沒有更高級的路由策略,所以這也是DNS方案的局限所在。
2、基于硬件負載均衡
硬件的負載均衡那就比較牛逼了,比如大名鼎鼎的F5 Network Big-IP,也就是我們常說的F5,它是一個網(wǎng)絡(luò)設(shè)備,你可以簡單的理解成類似于網(wǎng)絡(luò)交換機的東西,完全通過硬件來抗壓力,性能是非常的好,每秒能處理的請求數(shù)達到百萬級,即 幾百萬/秒 的負載,當然價格也就非常非常貴了,十幾萬到上百萬人民幣都有。
因為這類設(shè)備一般用在大型互聯(lián)網(wǎng)公司的流量入口最前端,以及政府、國企等不缺錢企業(yè)會去使用。一般的中小公司是不舍得用的。
采用F5這類硬件做負載均衡的話,主要就是省心省事,買一臺就搞定,性能強大,一般的業(yè)務(wù)不在話下。而且在負載均衡的算法方面還支持很多靈活的策略,同時還具有一些防火墻等安全功能。但是缺點也很明顯,一個字:貴。
3.基于軟件負載均衡
軟件負載均衡是指使用軟件的方式來分發(fā)和均衡流量。軟件負載均衡,分為7層協(xié)議 和 4層協(xié)議。
網(wǎng)絡(luò)協(xié)議有七層,基于第四層傳輸層來做流量分發(fā)的方案稱為4層負載均衡,例如LVS,而基于第七層應(yīng)用層來做流量分發(fā)的稱為7層負載均衡,例如Nginx。這兩種在性能和靈活性上是有些區(qū)別的。
基于4層的負載均衡性能要高一些,一般能達到 幾十萬/秒 的處理量,而基于7層的負載均衡處理量一般只在 幾萬/秒 。
基于軟件的負載均衡的特點也很明顯,便宜。在正常的服務(wù)器上部署即可,無需額外采購,就是投入一點技術(shù)去優(yōu)化優(yōu)化即可,因此這種方式是互聯(lián)網(wǎng)公司中用得最多的一種方式。
四、常用的均衡算法有哪些?
上面講完了常見的負載均衡技術(shù)方案,那么接下來咱們看一下,在實際方案應(yīng)用中,一般可以使用哪些均衡算法?
1、輪詢策略
2、負載度策略
3、響應(yīng)策略
4、哈希策略
下面來分別介紹一下這幾種均衡算法/策略的特點:
1、輪詢策略
輪詢策略其實很好理解,就是當用戶請求來了之后,「負載均衡器」將請求輪流的轉(zhuǎn)發(fā)到后端不同的業(yè)務(wù)服務(wù)器上。這個策略在DNS方案中用的比較多,無需關(guān)注后端服務(wù)的狀態(tài),只藥有請求,就往后端輪流轉(zhuǎn)發(fā),非常的簡單、實用。
在實際應(yīng)用中,輪詢也會有多種方式,有按順序輪詢的、有隨機輪詢的、還有按照權(quán)重來輪詢的。前兩種比較好理解,第三種按照權(quán)重來輪詢,是指給每臺后端服務(wù)設(shè)定一個權(quán)重值,比如性能高的服務(wù)器權(quán)重高一些,性能低的服務(wù)器給的權(quán)重低一些,這樣設(shè)置的話,分配流量的時候,給權(quán)重高的更多流量,可以充分的發(fā)揮出后端機器的性能。
2、負載度策略
負載度策略是指當「負載均衡器」往后端轉(zhuǎn)發(fā)流量的時候,會先去評估后端每臺服務(wù)器的負載壓力情況,對于壓力比較大的后端服務(wù)器轉(zhuǎn)發(fā)的請求就少一些,對于壓力比較小的后端服務(wù)器可以多轉(zhuǎn)發(fā)一些請求給它。
這種方式就充分的結(jié)合了后端服務(wù)器的運行狀態(tài),來動態(tài)的分配流量了,比輪詢的方式更為科學(xué)一些。
但是這種方式也帶來了一些弊端,因為需要動態(tài)的評估后端服務(wù)器的負載壓力,那這個「負載均衡器」除了轉(zhuǎn)發(fā)請求以外,還要做很多額外的工作,比如采集 連接數(shù)、請求數(shù)、CPU負載指標、IO負載指標等等,通過對這些指標進行計算和對比,判斷出哪一臺后端服務(wù)器的負載壓力較大。
因此這種方式帶來了效果優(yōu)勢的同時,也增加了「負載均衡器」的實現(xiàn)難度和維護成本。
3、響應(yīng)策略
響應(yīng)策略是指,當用戶請求過來的時候,「負載均衡器」會優(yōu)先將請求轉(zhuǎn)發(fā)給當前時刻響應(yīng)最快的后端服務(wù)器。
也就是說,不管后端服務(wù)器負載高不高,也不管配置如何,只要覺得這個服務(wù)器在當前時刻能最快的響應(yīng)用戶的請求,那么就優(yōu)先把請求轉(zhuǎn)發(fā)給它,這樣的話,對于用戶而言,體驗也最好。
那「負載均衡器」是怎么知道哪一臺后端服務(wù)在當前時刻響應(yīng)能力最佳呢?
這就需要「負載均衡器」不停的去統(tǒng)計每一臺后端服務(wù)器對請求的處理速度了,比如一分鐘統(tǒng)計一次,生成一個后端服務(wù)器處理速度的排行榜。然后「負載均衡器」根據(jù)這個排行榜去轉(zhuǎn)發(fā)服務(wù)。
那么這里的問題就是統(tǒng)計的成本了,不停的做這些統(tǒng)計運算本身也會消耗一些性能,同時也會增加「負載均衡器」的實現(xiàn)難度和維護成本。
4、哈希策略
Hash策略也比較好理解,就是將請求中的某個信息進行hash計算,然后根據(jù)后端服務(wù)器臺數(shù)取模,得到一個值,算出相同值的請求就被轉(zhuǎn)發(fā)到同一臺后端服務(wù)器中。
聲明:免責(zé)聲明:本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻自行上傳,本網(wǎng)站不擁有所有權(quán),也不承認相關(guān)法律責(zé)任。如果您發(fā)現(xiàn)本社區(qū)中有涉嫌抄襲的內(nèi)容,請發(fā)
送郵件至:operations@xinnet.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,本站將立刻刪除涉嫌侵權(quán)內(nèi)容。本站原創(chuàng)內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時
需注明出處:新網(wǎng)idc知識百科