20160402大型網(wǎng)站架構(gòu)系列:負(fù)載均衡詳解
面對(duì)大量用戶(hù)訪(fǎng)問(wèn)、高并發(fā)請(qǐng)求,海量數(shù)據(jù),可以使用高性能的服務(wù)器、大型數(shù)據(jù)庫(kù),存儲(chǔ)設(shè)備,高性能Web服務(wù)器,采用高效率的編程語(yǔ)言比如(Go,Scala)等,當(dāng)單機(jī)容量達(dá)到極限時(shí),我們需要考慮業(yè)務(wù)拆分和分布式部署,來(lái)解決大型網(wǎng)站訪(fǎng)問(wèn)量大,并發(fā)量高,海量數(shù)據(jù)的問(wèn)題。
從單機(jī)網(wǎng)站到分布式網(wǎng)站,很重要的區(qū)別是業(yè)務(wù)拆分和分布式部署,將應(yīng)用拆分后,部署到不同的機(jī)器上,實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)。分布式和業(yè)務(wù)拆分解決了,從集中到分布的問(wèn)題,但是每個(gè)部署的獨(dú)立業(yè)務(wù)還存在單點(diǎn)的問(wèn)題和訪(fǎng)問(wèn)統(tǒng)一入口問(wèn)題,為解決單點(diǎn)故障,我們可以采取冗余的方式。將相同的應(yīng)用部署到多臺(tái)機(jī)器上。解決訪(fǎng)問(wèn)統(tǒng)一入口問(wèn)題,我們可以在集群前面增加負(fù)載均衡設(shè)備,實(shí)現(xiàn)流量分發(fā)。
負(fù)載均衡(Load Balance),意思是將負(fù)載(工作任務(wù),訪(fǎng)問(wèn)請(qǐng)求)進(jìn)行平衡、分?jǐn)偟蕉鄠€(gè)操作單元(服務(wù)器,組件)上進(jìn)行執(zhí)行。是解決高性能,單點(diǎn)故障(高可用),擴(kuò)展性(水平伸縮)的終極解決方案。
本文是負(fù)載均衡詳解的第一篇文章,介紹負(fù)載均衡的原理,負(fù)載均衡分類(lèi)(DNS負(fù)載均衡,HTTP負(fù)載均衡,IP負(fù)載均衡,鏈路層負(fù)載均衡,混合型P負(fù)載均衡)。部分內(nèi)容摘自讀書(shū)筆記。
本次分享大綱
負(fù)載均衡原理
DNS負(fù)載均衡
HTTP負(fù)載均衡
IP負(fù)載均衡
鏈路層負(fù)載均衡
混合型P負(fù)載均衡
一、負(fù)載均衡原理
系統(tǒng)的擴(kuò)展可分為縱向(垂直)擴(kuò)展和橫向(水平)擴(kuò)展??v向擴(kuò)展,是從單機(jī)的角度通過(guò)增加硬件處理能力,比如CPU處理能力,內(nèi)存容量,磁盤(pán)等方面,實(shí)現(xiàn)服務(wù)器處理能力的提升,不能滿(mǎn)足大型分布式系統(tǒng)(網(wǎng)站),大流量,高并發(fā),海量數(shù)據(jù)的問(wèn)題。因此需要采用橫向擴(kuò)展的方式,通過(guò)添加機(jī)器來(lái)滿(mǎn)足大型網(wǎng)站服務(wù)的處理能力。
比如:一臺(tái)機(jī)器不能滿(mǎn)足,則增加兩臺(tái)或者多臺(tái)機(jī)器,共同承擔(dān)訪(fǎng)問(wèn)壓力。這就是典型的集群和負(fù)載均衡架構(gòu):如下圖:
應(yīng)用集群:將同一應(yīng)用部署到多臺(tái)機(jī)器上,組成處理集群,接收負(fù)載均衡設(shè)備分發(fā)的請(qǐng)求,進(jìn)行處理,并返回相應(yīng)數(shù)據(jù)。
負(fù)載均衡設(shè)備:將用戶(hù)訪(fǎng)問(wèn)的請(qǐng)求,根據(jù)負(fù)載均衡算法,分發(fā)到集群中的一臺(tái)處理服務(wù)器。(一種把網(wǎng)絡(luò)請(qǐng)求分散到一個(gè)服務(wù)器集群中的可用服務(wù)器上去的設(shè)備)
負(fù)載均衡的作用(解決的問(wèn)題):
1.解決并發(fā)壓力,提高應(yīng)用處理性能(增加吞吐量,加強(qiáng)網(wǎng)絡(luò)處理能力);
2.提供故障轉(zhuǎn)移,實(shí)現(xiàn)高可用;
3.通過(guò)添加或減少服務(wù)器數(shù)量,提供網(wǎng)站伸縮性(擴(kuò)展性);
4.安全防護(hù);(負(fù)載均衡設(shè)備上做一些過(guò)濾,黑白名單等處理)
二、負(fù)載均衡分類(lèi)
根據(jù)實(shí)現(xiàn)技術(shù)不同,可分為DNS負(fù)載均衡,HTTP負(fù)載均衡,IP負(fù)載均衡,鏈路層負(fù)載均衡等。
2.1DNS負(fù)載均衡
最早的負(fù)載均衡技術(shù),利用域名解析實(shí)現(xiàn)負(fù)載均衡,在DNS服務(wù)器,配置多個(gè)A記錄,這些A記錄對(duì)應(yīng)的服務(wù)器構(gòu)成集群。大型網(wǎng)站總是部分使用DNS解析,作為第一級(jí)負(fù)載均衡。如下圖:
優(yōu)點(diǎn)
使用簡(jiǎn)單:負(fù)載均衡工作,交給DNS服務(wù)器處理,省掉了負(fù)載均衡服務(wù)器維護(hù)的麻煩
提高性能:可以支持基于地址的域名解析,解析成距離用戶(hù)最近的服務(wù)器地址,可以加快訪(fǎng)問(wèn)速度,改善性能;
缺點(diǎn)
可用性差:DNS解析是多級(jí)解析,新增/修改DNS后,解析時(shí)間較長(zhǎng);解析過(guò)程中,用戶(hù)訪(fǎng)問(wèn)網(wǎng)站將失??;
擴(kuò)展性低:DNS負(fù)載均衡的控制權(quán)在域名商那里,無(wú)法對(duì)其做更多的改善和擴(kuò)展;
維護(hù)性差:也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài);支持的算法少;不能區(qū)分服務(wù)器的差異(不能根據(jù)系統(tǒng)與服務(wù)的狀態(tài)來(lái)判斷負(fù)載)
實(shí)踐建議
將DNS作為第一級(jí)負(fù)載均衡,A記錄對(duì)應(yīng)著內(nèi)部負(fù)載均衡的IP地址,通過(guò)內(nèi)部負(fù)載均衡將請(qǐng)求分發(fā)到真實(shí)的Web服務(wù)器上。一般用于互聯(lián)網(wǎng)公司,復(fù)雜的業(yè)務(wù)系統(tǒng)不合適使用。如下圖:
1.3 IP負(fù)載均衡
在網(wǎng)絡(luò)層通過(guò)修改請(qǐng)求目標(biāo)地址進(jìn)行負(fù)載均衡。
用戶(hù)請(qǐng)求數(shù)據(jù)包,到達(dá)負(fù)載均衡服務(wù)器后,負(fù)載均衡服務(wù)器在操作系統(tǒng)內(nèi)核進(jìn)程獲取網(wǎng)絡(luò)數(shù)據(jù)包,根據(jù)負(fù)載均衡算法得到一臺(tái)真實(shí)服務(wù)器地址,然后將請(qǐng)求目的地址修改為,獲得的真實(shí)ip地址,不需要經(jīng)過(guò)用戶(hù)進(jìn)程處理。
真實(shí)服務(wù)器處理完成后,響應(yīng)數(shù)據(jù)包回到負(fù)載均衡服務(wù)器,負(fù)載均衡服務(wù)器,再將數(shù)據(jù)包源地址修改為自身的ip地址,發(fā)送給用戶(hù)瀏覽器。如下圖:
IP負(fù)載均衡,真實(shí)物理服務(wù)器返回給負(fù)載均衡服務(wù)器,存在兩種方式:
(1)負(fù)載均衡服務(wù)器在修改目的ip地址的同時(shí)修改源地址。將數(shù)據(jù)包源地址設(shè)為自身盤(pán),即源地址轉(zhuǎn)換(snat)。
(2)將負(fù)載均衡服務(wù)器同時(shí)作為真實(shí)物理服務(wù)器集群的網(wǎng)關(guān)服務(wù)器。
優(yōu)點(diǎn):
(1)在內(nèi)核進(jìn)程完成數(shù)據(jù)分發(fā),比在應(yīng)用層分發(fā)性能更好;
缺點(diǎn):
(2)所有請(qǐng)求響應(yīng)都需要經(jīng)過(guò)負(fù)載均衡服務(wù)器,集群最大吞吐量受限于負(fù)載均衡服務(wù)器網(wǎng)卡帶寬;