作者：牛浩帆
連結：http://www.zhihu.com/question/20657269/answer/15763722
來源：知乎
著作權歸作者所有。商業轉載請聯絡作者獲得授權，非商業轉載請註明出處。

初級篇：（單機模式）

假設配置：（Dual core 2.0GHz,4GB ram,SSD）

基礎框架：apache(PHP) + Mysql / IIS + MSSQL
（最基礎框架，處理一般訪問請求）

進階1：替換Apache為Nginx，並在資料庫前加上cache層【資料庫的速度是最大的瓶頸】
Nginx(PHP) + Memcache + Mysql
（此時已經具備處理小型訪問量的能力）

進階2：隨著訪問量的上漲，最先面臨的問題就來了：CGI無法匹配上Nginx的高IO效能，這時候可以通過寫擴充套件來替代指令碼程式來提升效能，C擴充套件是個好辦法，但是大家更喜歡用簡單的指令碼語言完成任務，Taobao團隊開源了一個Nginx_lua模組，可以用lua寫Nginx擴充套件，這時候可處理的併發已經超越進階1 一個檔次了。
Nginx(nginx_lua or C) + Memcache + Mysql
（此時處理個同時線上三四千人沒有問題了）

進階3：隨著使用者的增多，Mysql的寫入速度成了又一大瓶頸，讀取有memcache做快取，但寫入是直接面對Mysql，效能受到了很大阻礙，這時候，要在Nginx和Mysql中間加入一層寫快取，佇列系統就出場了,就以RabbitMQ為例，所有寫入操作全部丟到這隻兔子的胃裡面，然後屁股後面寫個接應程式，一條條的拉出來再寫入mysql。而RabbitMQ的寫入效率是Mysql的N倍，此時架構的處理能力又上一階層。
|----write------>RabbitMQ--------
Nginx（lua or c）----- |--------->Mysql
|----read------>Memcache--------

(此時的併發吞吐能力已經可以處理萬人左右線上)


中級篇：（分而治之）

此時我們在單機優化上已經算是達到極限，接下來就要叢集來顯示作用了。

資料庫篇： 資料庫總是在整個環節中是吞吐能力最弱的，最常見的方法就是sharding。
sharding可以按多種方法來分，沒有定式，看情況。可以按使用者ID區段分，按讀寫分等等，可用參考軟體：mysql proxy（工作原理類似lvs）

快取篇：memcache一般採用的是構建memcache pool，將快取分散到多臺memcache節點上，如何將快取資料均勻分散在各節點，一般採用將各節點順序編號，然後hash取餘對應到各個節點上去。這樣可以做到比較均勻的分散，但是有一個致命點就是，如果節點數增加或減少，將會帶來幾乎80%的資料遷移，解決方案我們在高階篇再提。

WEB伺服器篇： web伺服器叢集的建設，最常見的就是lvs方式(memcache pool同樣可以如此組建)，lvs的核心就是排程節點，排程節點負責將流量通過演算法分散到各個節點上，因排程所耗資源很少，所以可以產生很高的吞吐率，後臺節點數量可以任意增刪，但此法弊病就是如果排程節點掛了，則整個叢集都掛了，解決方案我們在高階篇提。
方法2:參見 HAProxy - The Reliable, High Performance TCP/HTTP Load Balancer


高階篇：（高可用性+高可擴充套件性的叢集）


單點排程故障解決：
叢集的好處顯而易見，但是有一個弊端就是單節點進行排程，如果節點出現故障，則整個叢集全部都無法服務，對此的解決方案，我們使用keepalived來解決。Keepalived for Linux
keepalived是基於VRRP協議（VRRP協議介紹）的，請一定先了解VRRP協議後再進行配置。
keepalived可以把多臺裝置虛擬出一個IP，並自動在故障節點與備用節點之間實現failover切換。這樣我們配置兩臺貨多臺lvs排程節點，然後配置好keepalived就可以做到lvs排程節點出現故障後，自動切換到備用排程節點。（同樣適用於mysql）

memcache叢集擴充套件解決：
memcache因為我們一般採用的都是hash後除以節點數取餘，然後分配到對應節點上，如果節點數出現變化，以前的快取資料將基本都不能命中。
解決方法：consistent hashing 簡介：一致性雜湊

consistent hashing大概的思路就是，把hash後的值保證在 0 ~ (2^32)-1 的數值上，然後把這一連串數字對應對映到一個想象的圓上。 <img src="https://pic2.zhimg.com/c3cd8e6cf787c82d6f7e011e882ce27d_b.jpg" data-rawwidth="95" data-rawheight="108" class="content_image" width="95">
把要儲存的各個值hash後，放到圓上，如圖
<img src="https://pic2.zhimg.com/77a5474913b2017a9c64e877940ca625_b.jpg" data-rawwidth="238" data-rawheight="257" class="content_image" width="238">
然後把cache節點也用同樣的hash方法，對映到圓上，然後每個剛才hash過的value順時針尋找離自己最近的節點，這個節點就是儲存它的節點。
<img src="https://pic2.zhimg.com/cf3a58c791488b89d6bda4f6c8c43d55_b.jpg" data-rawwidth="287" data-rawheight="257" class="content_image" width="287">
為了提高儲存的平衡性，演算法還可以加入虛擬節點的概念，即每個實際cache節點，會在圓上對應N個虛擬的節點，這樣可以提高演算法的命中率，更加平衡。

consistent hashing原理：Consistent hashing and random trees