1  了解負(fù)載均衡

      記得第一次接觸Nginx是在實驗室，那時候在服務(wù)器部署網(wǎng)站需要用Nginx。Nginx是一個服務(wù)組件，用來反向代理、負(fù)載平衡和HTTP緩存等。那么這里的負(fù)載均衡是什么？

      負(fù)載均衡簡稱LB（Load Balance），確切的說是一種技術(shù)解決方案，用于在多個資源（泛指服務(wù)器）中分配負(fù)載，達(dá)到最優(yōu)化資源使用，避免設(shè)備過載。

      資源等于每個服務(wù)實例的執(zhí)行操作單元，負(fù)載均衡就是將大量的數(shù)據(jù)處理操作分?jǐn)偟蕉鄠€操作單元進(jìn)行執(zhí)行，用來解決互聯(lián)網(wǎng)分布式系統(tǒng)的大流量、高并發(fā)和高可用的問題。

那么，什么是高可用呢？

2  高可用的含義

      首先讓我們了解一下什么是高可用？

      高可用是CAP定理是分布式系統(tǒng)的基礎(chǔ)，也是分布式系統(tǒng)的3個指標(biāo)：

那High Availability-高可用是什么？

      高可用簡稱HA，是系統(tǒng)一種特征或者指標(biāo)，通常是指提供一定性能上的服務(wù)運行時間，高于平均正常時間段。反之，消除系統(tǒng)服務(wù)不可用的時間。

      衡量系統(tǒng)是否滿足高可用，就是當(dāng)一臺或者多臺服務(wù)器宕機(jī)的時候，系統(tǒng)整體和服務(wù)依然正?？捎?。

      比如下單服務(wù)，可以使用帶有負(fù)載均衡的多個下單服務(wù)實例，代替單一的下單服務(wù)實例，即使用冗余的方式來提高可靠性。

      總而言之，負(fù)載均衡（Load Balance）是分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一。一般通過負(fù)載均衡，冗余同一個服務(wù)實例的方式，解決分布式系統(tǒng)的大流量、高并發(fā)和高可用的問題。負(fù)載均衡核心關(guān)鍵：在于是否分配均勻。

3 兩個負(fù)載均衡案例分享

案例1

      微服務(wù)架構(gòu)中，網(wǎng)關(guān)路由到具體的服務(wù)實例hello：

案例2

      微服務(wù)架構(gòu)中，A服務(wù)調(diào)用B服務(wù)的集群。通過了Ribbon客戶端負(fù)載均衡組件：

 ● 負(fù)載均衡策略算法并不高級，最簡單的是隨機(jī)選擇和輪循。

4互聯(lián)網(wǎng)分布式系統(tǒng)解決方案

      常見的幾個互聯(lián)網(wǎng)分布式系統(tǒng)架構(gòu)分層如下：

      一個請求從第1層到第4層，層層訪問都需要負(fù)載均衡。即每個上游調(diào)用下游多個業(yè)務(wù)方的時候，需要均勻調(diào)用。這樣整體系統(tǒng)來看，就比較負(fù)載均衡。

第 一 層

客戶端層 -> 反向代理層的負(fù)載均衡

      客戶端層 -> 反向代理層的負(fù)載均衡如何實現(xiàn)呢？

      答案是：DNS的輪詢。DNS可以通過A（Address，返回域名指向的IP地址）設(shè)置多個IP地址。比如這里訪問bysocket.com的DNS配置了ip1和ip2。為了反向代理層的高可用，至少會有兩條A記錄。這樣冗余的兩個ip對應(yīng)的nginx服務(wù)實例，防止單點故障。

      每次請求bysocket.com域名的時候，通過DNS輪詢，返回對應(yīng)的ip地址，每個ip對應(yīng)的反向代理層的服務(wù)實例，也就是nginx的外網(wǎng)ip。這樣可以做到每一個反向代理層實例得到的請求分配是均衡的。

第 二 層

反向代理層 -> Web層的負(fù)載均衡

      反向代理層 -> Web層的負(fù)載均衡如何實現(xiàn)呢？

      是通過反向代理層的負(fù)載均衡模塊處理。比如nginx有多種均衡方法：

1請求輪詢

      請求按時間順序，逐一分配到web層服務(wù)，然后周而復(fù)始。如果web層服務(wù)down掉，自動剔除。

2ip 哈希

      按照ip的哈希值，確定路由到對應(yīng)的web層。只要是用戶的ip是均勻的，那么請求到Web層也是均勻的。
還有個好處就是同一個ip的請求會分發(fā)到相同的web層服務(wù)。這樣每個用戶固定訪問一個web層服務(wù)，可以解決session的問題。

3weight權(quán)重、fair、url_hash等

第 三 層

Web 層 -> 業(yè)務(wù)服務(wù)層的負(fù)載均衡

      Web 層 -> 業(yè)務(wù)服務(wù)層的負(fù)載均衡如何實現(xiàn)呢？

      比如Dubbo是一個服務(wù)治理方案，包括服務(wù)注冊、服務(wù)降級、訪問控制、動態(tài)配置路由規(guī)則、權(quán)重調(diào)節(jié)、負(fù)載均衡。其中一個特性就是智能負(fù)載均衡：內(nèi)置多種負(fù)載均衡策略，智能感知下游節(jié)點健康狀況，顯著減少調(diào)用延遲，提高系統(tǒng)吞吐量。

      為了避免單點故障和支持服務(wù)的橫向擴(kuò)容，一個服務(wù)通常會部署多個實例，即Dubbo集群部署。會將多個服務(wù)實例成為一個服務(wù)提供方，然后根據(jù)配置的隨機(jī)負(fù)載均衡策略，在20個Provider中隨機(jī)選擇了一個來調(diào)用，假設(shè)隨機(jī)到了第7個Provider。LoadBalance組件從提供者地址列表中，使用均衡策略，選擇選一個提供者進(jìn)行調(diào)用，如果調(diào)用失敗，再選另一臺調(diào)用。

Dubbo內(nèi)置了4種負(fù)載均衡策略:

 ● RandomLoadBalance:隨機(jī)負(fù)載均衡。隨機(jī)的選擇一個。是Dubbo的默認(rèn)負(fù)載均衡策略。

 ● RoundRobinLoadBalance:輪詢負(fù)載均衡。輪詢選擇一個。

 ● LeastActiveLoadBalance:最少活躍調(diào)用數(shù)，相同活躍數(shù)的隨機(jī)?；钴S數(shù)指調(diào)用前后計數(shù)差。使慢的Provider收到更少請求，因為越慢的Provider的調(diào)用前后計數(shù)差會越大。

 ● ConsistentHashLoadBalance:一致性哈希負(fù)載均衡。相同參數(shù)的請求總是落在同一臺機(jī)器上。

同樣，因為業(yè)務(wù)的需要，也可以實現(xiàn)自己的負(fù)載均衡策略。

第 四 層

業(yè)務(wù)服務(wù)層 -> 數(shù)據(jù)存儲層的負(fù)載均衡

      數(shù)據(jù)存儲層的負(fù)載均衡，一般通過DBProxy實現(xiàn)。比如MySQL分庫分表。

      當(dāng)單庫或者單表訪問太大，數(shù)據(jù)量太大的情況下，需要進(jìn)行垂直拆分和水平拆分兩個維度。比如水平切分規(guī)則：

      但伴隨著這塊的負(fù)載會出現(xiàn)下面的問題，需要解決：

      現(xiàn)狀分庫分表的產(chǎn)品方案很多，包括阿里的Cobar、當(dāng)當(dāng)sharding-jdbc等都是。

5小結(jié)

      對外看來，負(fù)載均衡是一個系統(tǒng)或軟件的整體。對內(nèi)看來，層層上下游調(diào)用。只要存在調(diào)用，就需要考慮負(fù)載均衡這個因素。所以負(fù)載均衡（Load Balance）是分布式系統(tǒng)架構(gòu)設(shè)計中必須考慮的因素之一。考慮主要是如何讓下游接收到的請求是均勻分布的：

文章來源于泥瓦匠：https://mp.weixin.qq.com/s/AdCtiXBLTJrWfcNV9LO2wA