負(fù)載均衡在服務(wù)端開發(fā)中算是一個(gè)比較重要的特性。因?yàn)镹ginx除了作為常規(guī)的Web服務(wù)器外，還會(huì)被大規(guī)模的用于反向代理前端，因?yàn)镹ginx的異步框架可以處理很大的并發(fā)請(qǐng)求，把這些并發(fā)請(qǐng)求hold住之后就可以分發(fā)給后臺(tái)服務(wù)端(backend servers，也叫做服務(wù)池， 后面簡(jiǎn)稱backend)來(lái)做復(fù)雜的計(jì)算、處理和響應(yīng)，這種模式的好處是相當(dāng)多的：隱藏業(yè)務(wù)主機(jī)更安全，節(jié)約了公網(wǎng)IP地址，并且在業(yè)務(wù)量增加的時(shí)候可以方便地?cái)U(kuò)容后臺(tái)服務(wù)器。
負(fù)載均衡可以分為硬件負(fù)載均衡和軟件負(fù)載均衡，前者一般是專用的軟件和硬件相結(jié)合的設(shè)備，設(shè)備商會(huì)提供完整成熟的解決方案，通常也會(huì)更加昂貴。軟件的復(fù)雜均衡以Nginx占據(jù)絕大多數(shù)，本文也是基于其手冊(cè)做相應(yīng)的學(xué)習(xí)研究的。

一、基本簡(jiǎn)介
負(fù)載均衡涉及到以下的基礎(chǔ)知識(shí)。
(1) 負(fù)載均衡算法
a. RoundRobin: 對(duì)所有的backend輪訓(xùn)發(fā)送請(qǐng)求，算是最簡(jiǎn)單的方式了，也是默認(rèn)的分配方式；
b. LeastConnections(least_conn): 跟蹤和backend當(dāng)前的活躍連接數(shù)目，最少的連接數(shù)目說(shuō)明這個(gè)backend負(fù)載最輕，將請(qǐng)求分配給他，這種方式會(huì)考慮到配置中給每個(gè)upstream分配的weight權(quán)重信息；
c. LeastTime(least_time): 請(qǐng)求會(huì)分配給響應(yīng)最快和活躍連接數(shù)最少的backend；
d. IPHash(ip_hash): 對(duì)請(qǐng)求來(lái)源IP地址計(jì)算hash值，IPv4會(huì)考慮前3個(gè)octet，IPv6會(huì)考慮所有的地址位，然后根據(jù)得到的hash值通過(guò)某種映射分配到backend；
e.Generic Hash(hash): 以用戶自定義資源(比如URL)的方式計(jì)算hash值完成分配，其可選consistent關(guān)鍵字支持一致性hash特性；
(2) 會(huì)話一致性　
用戶(瀏覽器)在和服務(wù)端交互的時(shí)候，通常會(huì)在本地保存一些信息，而整個(gè)過(guò)程叫做一個(gè)會(huì)話(Session)并用唯一的Session ID進(jìn)行標(biāo)識(shí)。會(huì)話的概念不僅用于購(gòu)物車這種常見情況，因?yàn)镠TTP協(xié)議是無(wú)狀態(tài)的，所以任何需要邏輯上下文的情形都必須使用會(huì)話機(jī)制，此外HTTP客戶端也會(huì)額外緩存一些數(shù)據(jù)在本地，這樣就可以減少請(qǐng)求提高性能了。如果負(fù)載均衡可能將這個(gè)會(huì)話的請(qǐng)求分配到不同的后臺(tái)服務(wù)端上，這肯定是不合適的，必須通過(guò)多個(gè)backend共享這些數(shù)據(jù)，效率肯定會(huì)很低下，最簡(jiǎn)單的情況是保證會(huì)話一致性——相同的會(huì)話每次請(qǐng)求都會(huì)被分配到同一個(gè)backend上去。