僅需這一篇，妥妥的吃透”負(fù)載均衡”

作者：張帆（Zachary） 2018-10-16 09:43:26

開發(fā) 架構(gòu) 開發(fā)工具

本文作者將通過圖文并茂的方式，來描述出每一種負(fù)載均衡策略的完整樣貌。

我們都對高可用有一個基本的認(rèn)識，其中負(fù)載均衡是高可用的核心工作。本文將通過如下幾個方面，讓你妥妥的吃透“負(fù)載均衡”。

[[246233]]

負(fù)載均衡是什么
常用負(fù)載均衡策略圖解
常用負(fù)載均衡策略優(yōu)缺點(diǎn)和適用場景
用健康探測來保障高可用
結(jié)語

負(fù)載均衡是什么

正如上圖所示的這樣，由一個獨(dú)立的統(tǒng)一入口來收斂流量，再做二次分發(fā)的過程就是負(fù)載均衡，它的本質(zhì)和分布式系統(tǒng)一樣，是分治。

如果大家習(xí)慣了開車的時候用一些導(dǎo)航軟件，我們會發(fā)現(xiàn)，導(dǎo)航軟件的推薦路線方案會有一個數(shù)量的上限，比如 3 條、5 條。

因此，其實(shí)本質(zhì)上它也起到了一個類似負(fù)載均衡的作用，因?yàn)槿绻荒苋?Top3 的通暢路線，自然擁堵嚴(yán)重的路線就無法推薦給你了，使得車流的壓力被分?jǐn)偟搅讼鄬臻e的路線上。

在軟件系統(tǒng)中也是一樣的道理，為了避免流量分?jǐn)偛痪斐删植抗?jié)點(diǎn)負(fù)載過大(如 CPU 吃緊等)，所以引入一個獨(dú)立的統(tǒng)一入口來做類似上面的“導(dǎo)航”的工作。

但是，軟件系統(tǒng)中的負(fù)載均衡與導(dǎo)航的不同在于：導(dǎo)航是一個柔性策略，最終還是需要使用者做選擇，而前者則不同。

怎么均衡的背后是策略在起作用，而策略的背后是由某些算法或者說邏輯來組成的。

比如，導(dǎo)航中的算法屬于路徑規(guī)劃范疇，在這個范疇內(nèi)又細(xì)分為靜態(tài)路徑規(guī)劃和動態(tài)路徑規(guī)劃，并且，在不同的分支下還有各種具體計(jì)算的算法實(shí)現(xiàn)，如 Dijikstra、A* 等。

同樣的，在軟件系統(tǒng)中的負(fù)載均衡，也有很多算法或者說邏輯在支撐著這些策略，巧的是也有靜態(tài)和動態(tài)之分。

常用負(fù)載均衡策略圖解

下面來羅列一下日常工作中最常見的 5 種策略。

輪詢

這是最常用也最簡單策略，平均分配，人人都有、一人一次。大致的代碼如下：

int  globalIndex = 0;   //注意是全局變量，不是局部變量。 
 
try 
{ 
 
    return servers[globalIndex]; 
} 
finally 
{ 
    globalIndex++; 
    if (globalIndex == 3) 
        globalIndex = 0; 
}

加權(quán)輪詢

在輪詢的基礎(chǔ)上，增加了一個權(quán)重的概念。權(quán)重是一個泛化后的概念，可以用任意方式來體現(xiàn)，本質(zhì)上是一個能者多勞思想。

比如，可以根據(jù)宿主的性能差異配置不同的權(quán)重。大致的代碼如下：

int matchedIndex = -1; 
int total = 0; 
 
for (int i = 0; i < servers.Length; i++) 
{ 
      servers[i].cur_weight += servers[i].weight;//①每次循環(huán)的時候做自增（步長=權(quán)重值） 
      total += servers[i].weight;//②將每個節(jié)點(diǎn)的權(quán)重值累加到匯總值中 
      if (matchedIndex == -1 || servers[matchedIndex].cur_weight < servers[i].cur_weight) //③如果 當(dāng)前節(jié)點(diǎn)的自增數(shù) > 當(dāng)前待返回節(jié)點(diǎn)的自增數(shù)，則覆蓋。 
      { 
            matchedIndex = i; 
      } 
} 
 
servers[matchedIndex].cur_weight -= total;//④被選取的節(jié)點(diǎn)減去②的匯總值，以降低下一次被選舉時的初始權(quán)重值。 
return servers[matchedIndex];

這段代碼的過程如下圖的表格。"()"中的數(shù)字就是自增數(shù)，即代碼中的 cur_weight。

值得注意的是，加權(quán)輪詢本身還有不同的實(shí)現(xiàn)方式，雖說最終的比例都是 2：1：2。

但是在請求送達(dá)的先后順序上可以有所不同。比如「5-4，3，2-1」和上面的案例相比，最終比例是一樣的，但是效果不同。

「5-4，3，2-1」更容易產(chǎn)生并發(fā)問題，導(dǎo)致服務(wù)端擁塞，且這個問題隨著權(quán)重?cái)?shù)字越大越嚴(yán)重。

例子：10：5：3 的結(jié)果是「18-17-16-15-14-13-12-11-10-9，8-7-6-5-4，3-2-1」

最少連接數(shù)

這是一種根據(jù)實(shí)時的負(fù)載情況，進(jìn)行動態(tài)負(fù)載均衡的方式。維護(hù)好活動中的連接數(shù)量，然后取最小的返回即可。大致的代碼如下：

var matchedServer = servers.orderBy(e => e.active_conns).first(); 
 
matchedServer.active_conns += 1; 
 
return matchedServer; 
 
//在連接關(guān)閉時還需對active_conns做減1的動作。

最快響應(yīng)