一、先說一下為什麼要分表：

當一張的資料達到幾百萬時，你查詢一次所花的時間會變多，如果有聯合查詢的話，有可能會死在那兒了。分表的目的就在於此，減小資料庫的負擔，縮短查詢時間。日常開發中我們經常會遇到大表的情況，所謂的大表是指儲存了百萬級乃至千萬級條記錄的表。這樣的表過於龐大，導致資料庫在查詢和插入的時候耗時太長，效能低下，如果涉及聯合查詢的情況，效能會更加糟糕。分表和表分割槽的目的就是減少資料庫的負擔，提高資料庫的效率，通常點來講就是提高表的增刪改查效率。資料庫中的資料量不一定是可控的，在未進行分庫分表的情況下，隨著時間和業務的發展，庫中的表會越來越多，表中的資料量也會越來越大，相應地，資料操作，增刪改查的開銷也會越來越大；另外，由於無法進行分散式式部署，而一臺伺服器的資源（CPU、磁碟、記憶體、IO等）是有限的，最終資料庫所能承載的資料量、資料處理能力都將遭遇瓶頸。

mysql執行一個sql的過程如下：

1、接收到sql;

2、把sql放到排隊佇列中;

3、執行sql;

4、返回執行結果。

在這個執行過程中最花時間在什麼地方呢？第一，是排隊等待的時間，第二，sql的執行時間。其實這兩個是一回事，等待的同時，肯定有sql在執行。所以我們要縮短sql的執行時間。

mysql中有一種機制是表鎖定和行鎖定，為什麼要出現這種機制，是為了保證資料的完整性，我舉個例子來說吧，如果有二個sql都要修改同一張表的同一條資料，這個時候怎麼辦呢，是不是二個sql都可以同時修改這條資料呢？很顯然mysql對這種情況的處理是，一種是表鎖定（myisam儲存引擎），一個是行鎖定（innodb儲存引擎）。表鎖定表示你們都不能對這張表進行操作，必須等我對錶操作完才行。行鎖定也一樣，別的sql必須等我對這條資料操作完了，才能對這條資料進行操作。如果資料太多，一次執行的時間太長，等待的時間就越長，這也是我們為什麼要分表的原因。

二、分表的方案

1、叢集

1，做mysql叢集，有人會問mysql叢集，根分表有什麼關係嗎？雖然它不是實際意義上的分表，但是它啟到了分表的作用，做叢集的意義是什麼呢？為一個數據庫減輕負擔，說白了就是減少sql排隊佇列中的sql的數量，舉個例子：有10個sql請求，如果放在一個數據庫伺服器的排隊佇列中，他要等很長時間，如果把這10個sql請求，分配到5個數據庫伺服器的排隊佇列中，一個數據庫伺服器的佇列中只有2個，這樣等待時間是不是大大的縮短了呢？這已經很明顯了。所以我把它列到了分表的範圍以內，我做過一些mysql的叢集：

linux mysql proxy 的安裝，配置，以及讀寫分離

mysql replication 互為主從的安裝及配置，以及資料同步

優點：擴充套件性好，沒有多個分表後的複雜操作（php程式碼）

缺點：單個表的資料量還是沒有變，一次操作所花的時間還是那麼多，硬體開銷大。

2、分表

分表的2種方式：

講欄位拆分到不同表中，將原表中的string型別欄位拆分到其他表，能夠加快主表的查詢。

2.垂直分割就是按欄位分.

一個數據庫有3000W使用者記錄.包括欄位id,user,password,first_name,last_name,email,addr,等幾十欄位.使用者登入時需要user,password欄位,需要查詢user,password欄位比較慢,若是把它user,password單建立一表,速度會快.使用者的其它欄位獨立再建立一個表.這僅是一個例子.

把資料拆分到多個同樣結構的表中。

水平.就是按記錄分.一個數據庫有3000W使用者記錄.處理速度比較慢.這時可以把3000W.分成五份.每份都是600W.分別放在不同的機器上.

水平分表：

就是預先估計會出現大資料量並且訪問頻繁的表，將其分為若干個表，這種預估大差不差的，論壇裡面發表帖子的表，時間長了這張表肯定很大，幾十萬，幾百萬都有可能。聊天室裡面資訊表，幾十個人在一起一聊一個晚上，時間長了，這張表的資料肯定很大。像這樣的情況很多。所以這種能預估出來的大資料量表，我們就事先分出個N個表，這個N是多少，根據實際情況而定。以聊天資訊表為例：

我事先建100個這樣的表，message_00,message_01,message_02……….message_98,message_99.然後根據使用者的ID來判斷這個使用者的聊天資訊放到哪張表裡面，可以用求餘的方式來獲得

3、實際應用中：

需要把垂直分表和水平分表結合起來使用，如果一個數據庫有3000w使用者的話，可以先考慮垂直拆，拆完之後在進行水平拆分。

就是先將其他欄位拆分到user_info表中，使用者主表只留下使用者id，密碼，使用者名稱等關鍵欄位。

之後在進行水平拆分，將使用者和使用者資訊表分為多個同樣結構的表。

接下來我們來看下MYSQL在分表儲存資料的時候是如何運作的：

1、簡單的MySQL主從複製:

MySQL的主從複製解決了資料庫的讀寫分離，並很好的提升了讀的效能，其圖如下：

其主從複製的過程如下圖所示：

但是，主從複製也帶來其他一系列效能瓶頸問題：

1. 寫入無法擴充套件

2. 寫入無法快取

3. 複製延時

4. 鎖表率上升

5. 表變大，快取率下降

那問題產生總得解決的，這就產生下面的優化方案，一起來看看。

2、MySQL垂直分割槽

如果把業務切割得足夠獨立，那把不同業務的資料放到不同的資料庫伺服器將是一個不錯的方案，而且萬一其中一個業務崩潰了也不會影響其他業務的正常進行，並且也起到了負載分流的作用，大大提升了資料庫的吞吐能力。經過垂直分割槽後的資料庫架構圖如下：

然而，儘管業務之間已經足夠獨立了，但是有些業務之間或多或少總會有點聯絡，如使用者，基本上都會和每個業務相關聯，況且這種分割槽方式，也不能解決單張表資料量暴漲的問題，因此為何不試試水平分割呢？

3、MySQL水平分片（Sharding）

這是一個非常好的思路，將使用者按一定規則（按id雜湊）分組，並把該組使用者的資料儲存到一個數據庫分片中，即一個sharding，這樣隨著使用者數量的增加，只要簡單地配置一臺伺服器即可，原理圖如下：

如何來確定某個使用者所在的shard呢，可以建一張使用者和shard對應的資料表，每次請求先從這張表找使用者的shard id，再從對應shard中查詢相關資料，如下圖所示：

單庫單表

單庫單表是最常見的資料庫設計，例如，有一張使用者(user)表放在資料庫db中，所有的使用者都可以在db庫中的user表中查到。

單庫多表

隨著使用者數量的增加，user表的資料量會越來越大，當資料量達到一定程度的時候對user表的查詢會漸漸的變慢，從而影響整個DB的效能。如果使用mysql,還有一個更嚴重的問題是，當需要新增一列的時候，mysql會鎖表，期間所有的讀寫操作只能等待。

可以通過某種方式將user進行水平的切分，產生兩個表結構完全一樣的user_0000,user_0001等表，user_0000 + user_0001 + …的資料剛好是一份完整的資料。

多庫多表

隨著資料量增加也許單臺DB的儲存空間不夠，隨著查詢量的增加單臺數據庫伺服器已經沒辦法支撐。這個時候可以再對資料庫進行水平區分。

分庫分表規則

設計表的時候需要確定此表按照什麼樣的規則進行分庫分表。例如，當有新使用者時，程式得確定將此使用者資訊新增到哪個表中；同理，當登入的時候我們得通過使用者的賬號找到資料庫中對應的記錄，所有的這些都需要按照某一規則進行。

路由

通過分庫分表規則查詢到對應的表和庫的過程。如分庫分表的規則是user_id mod 4的方式，當用戶新註冊了一個賬號，賬號id的123,我們可以通過id mod 4的方式確定此賬號應該儲存到User_0003表中。當用戶123登入的時候，我們通過123 mod 4後確定記錄在User_0003中。

分庫分表產生的問題，及注意事項

1. 分庫分表維度的問題

假如使用者購買了商品,需要將交易記錄儲存取來，如果按照使用者的緯度分表，則每個使用者的交易記錄都儲存在同一表中，所以很快很方便的查詢到某使用者的 購買情況，但是某商品被購買的情況則很有可能分佈在多張表中，查詢起來比較麻煩。反之，按照商品維度分表，可以很方便的查詢到此商品的購買情況，但要查詢 到買人的交易記錄比較麻煩。

所以常見的解決方式有：

a.通過掃表的方式解決，此方法基本不可能，效率太低了。

b.記錄兩份資料，一份按照使用者緯度分表，一份按照商品維度分表。

c.通過搜尋引擎解決，但如果實時性要求很高，又得關係到實時搜尋。

2. 聯合查詢的問題

聯合查詢基本不可能，因為關聯的表有可能不在同一資料庫中。

3. 避免跨庫事務

避免在一個事務中修改db0中的表的時候同時修改db1中的表，一個是操作起來更復雜，效率也會有一定影響。

4. 儘量把同一組資料放到同一DB伺服器上

例如將賣家a的商品和交易資訊都放到db0中，當db1掛了的時候，賣家a相關的東西可以正常使用。也就是說避免資料庫中的資料依賴另一資料庫中的資料。

一主多備

在實際的應用中，絕大部分情況都是讀遠大於寫。Mysql提供了讀寫分離的機制，所有的寫操作都必須對應到Master，讀操作可以在 Master和Slave機器上進行，Slave與Master的結構完全一樣，一個Master可以有多個Slave,甚至Slave下還可以掛 Slave,通過此方式可以有效的提高DB叢集的 QPS.

所有的寫操作都是先在Master上操作，然後同步更新到Slave上，所以從Master同步到Slave機器有一定的延遲，當系統很繁忙的時候，延遲問題會更加嚴重，Slave機器數量的增加也會使這個問題更加嚴重。

此外，可以看出Master是叢集的瓶頸，當寫操作過多，會嚴重影響到Master的穩定性，如果Master掛掉，整個叢集都將不能正常工作。

所以，1. 當讀壓力很大的時候，可以考慮新增Slave機器的分式解決，但是當Slave機器達到一定的數量就得考慮分庫了。 2. 當寫壓力很大的時候，就必須得進行分庫操作。

MySQL使用為什麼要分庫分表

可以用說用到MySQL的地方,只要資料量一大,馬上就會遇到一個問題,要分庫分表.

這裡引用一個問題為什麼要分庫分表呢?MySQL處理不了大的表嗎?

其實是可以處理的大表的.我所經歷的專案中單表物理上檔案大小在80G多,單表記錄數在5億以上,而且這個表

屬於一個非常核用的表:朋友關係表.

但這種方式可以說不是一個最佳方式. 因為面臨檔案系統如Ext3檔案系統對大於大檔案處理上也有許多問題.

這個層面可以用xfs檔案系統進行替換.但MySQL單表太大後有一個問題是不好解決: 表結構調整相關的操作基

本不在可能.所以大項在使用中都會面監著分庫分表的應用.

從Innodb本身來講資料檔案的Btree上只有兩個鎖,葉子節點鎖和子節點鎖,可以想而知道,當發生頁拆分或是新增

新葉時都會造成表裡不能寫入資料.

所以分庫分表還就是一個比較好的選擇了.

那麼分庫分表多少合適呢?

經測試在單表1000萬條記錄一下,寫入讀取效能是比較好的. 這樣在留點buffer,那麼單表全是資料字型的保持在

800萬條記錄以下,有字元型的單表保持在500萬以下.

如果按 100庫100表來規劃,如使用者業務:

500萬*100*100 = 50000000萬 = 5000億記錄.

心裡有一個數了,按業務做規劃還是比較容易的.