## 寫在前面 冰河曾經經歷過一個完整電商系統使用者從零到上億的研發過程，在業務的不斷髮展與變化過程中，演化出電商系統和基於大資料的商品精準實時推薦平臺，關於MySQL資料庫的架構演進，小夥伴們可以參考《[從零到千萬使用者，我是如何一步步優化MySQL資料庫的？](https://mp.weixin.qq.com/s?__biz=Mzg4MjU0OTM1OA==&mid=2247489128&idx=1&sn=bfd3e00d8c8f8e4f259bf5e6b9e49f16&chksm=cf55a169f822287ffc79194e3b8103fb04ec7391d2a89ab3fb9d7c046243d2a04f414917253e&token=1924668976&lang=zh_CN#rd)》，關於系統的架構演進，小夥伴們可以參考《[系統從初期到支撐億級流量，都經歷了哪些架構上的演變？](https://mp.weixin.qq.com/s?__biz=Mzg4MjU0OTM1OA==&mid=2247489097&idx=1&sn=21c5805bea64cad0d9d2e280abe74b2b&chksm=cf55a148f822285e5fc8e48ba9a18743e8515292ab3c5c15fefd3251e4598265ef1289eda239&token=1924668976&lang=zh_CN#rd)》。在系統的研發過程中，隨著資料量的不斷增長，單庫單表已無法滿足資料的儲存需求，此時，我們就需要對資料庫進行分庫分表操作。那在網際網路大廠，分庫分表通常有哪些思路和技巧呢？今天，我就將這些思路和技巧分享給大家。 注：本文已收錄到：[https://github.com/sunshinelyz/technology-binghe](https://github.com/sunshinelyz/technology-binghe ) 和 [https://gitee.com/binghe001/technology-binghe](https://gitee.com/binghe001/technology-binghe) ## 分庫分表 分庫分表是隨著業務的不斷髮展，單庫單表無法承載整體的資料儲存時，採取的一種將整體資料分散儲存到不同伺服器上的不同資料庫中的不同資料表的儲存方案。分庫分表能夠有效的緩解資料的儲存壓力，分庫分表是資料儲存達到一定規模時必然會遇到的問題。掌握分庫分表的思路和技巧有助於小夥伴們更好的解決實際工作中，有關資料拆分的問題。  接下來，我們就分別對分表和分庫來談談一些使用的思路和技巧。 ## 分表 分表，最直白的意思，就是將一個表結構分為多個表，然後，可以再同一個庫裡，也可以放到不同的庫。 當然，首先要知道什麼情況下，才需要分表。個人覺得單表記錄條數達到百萬到千萬級別時就要使用分表了。 ### 分表的分類 **1.縱向分表** 將本來可以在同一個表的內容，人為劃分為多個表。（所謂的本來，是指按照關係型資料庫的第三正規化要求，是應該在同一個表的。） **分表技巧：** 根據資料的活躍度進行分離，（因為不同活躍的資料，處理方式是不同的） **案例：** 對於一個部落格系統，文章標題，作者，分類，建立時間等，是變化頻率慢，查詢次數多，而且最好有很好的實時性的資料，我們把它叫做冷資料。而部落格的瀏覽量，回覆數等，類似的統計資訊，或者別的變化頻率比較高的資料，我們把它叫做活躍資料。所以，在進行資料庫結構設計的時候，就應該考慮分表，首先是縱向分表的處理。 這樣縱向分表後： （1）首先，儲存引擎的使用不同，冷資料使用MyIsam 可以有更好的查詢資料。活躍資料，可以使用Innodb ,可以有更好的更新速度。 （2）其次，對冷資料進行更多的從庫配置，因為更多的操作時查詢，這樣來加快查詢速度。對熱資料，可以相對有更多的主庫的橫向分表處理。 其實，對於一些特殊的活躍資料，也可以考慮使用memcache ,redis之類的快取，等累計到一定量再去更新資料庫。或者mongodb 一類的nosql 資料庫，這裡只是舉例，就先不說這個。 **2.橫向分表** 字面意思，就可以看出來，是把大的表結構，橫向切割為同樣結構的不同表，如，使用者資訊表，user_1,user_2 等。表結構是完全一樣，但是，根據某些特定的規則來劃分的表，如根據使用者ID來取模劃分。 **分表技巧：** 根據資料量的規模來劃分，保證單表的容量不會太大，從而來保證單表的查詢等處理能力。 **案例：** 同上面的例子，部落格系統。當部落格的量達到很大的時候，就應該採取橫向分割來降低每個單表的壓力，來提升效能。例如部落格的冷資料表，假如分為100個表，當同時有100萬個使用者在瀏覽時，如果是單表的話，會進行100萬次請求，而現在分表後，就可能是每個表進行1萬個資料的請求（因為，不可能絕對的平均，只是假設），這樣壓力就降低了很多。 **注意：資料庫的複製能解決訪問問題，並不能解決大規模的併發寫入問題，要解決這個問題就要考慮MySQL資料切分了。** ### 資料切分 顧名思義，就是資料分散，將一臺主機上的資料分攤到多臺，減輕單臺主機的負載壓力，有兩種切分方式，一種是分庫，即按照業務模組分多個庫，每個庫中的表不一樣，還有一種就是分表，按照一定的業務規則或者邏輯將資料拆分到不同的主機上，每個主機上的表是一樣的，這個有點類似於Oracle的表分割槽。 ## 分割槽 分庫又叫垂直分割槽，這種方式實現起來比較簡單，重要的是對業務要細化，分庫時候要想清楚各個模組業務之間的互動情況，避免將來寫程式時出現過多的跨庫讀寫操作。 分表又叫水平分割槽，這種方式實現起來就比垂直分割槽複雜些，但是它能解決垂直分割槽所不能解決的問題，即單張表的訪問及寫入很頻繁，這時候就可以根據一定的業務規則（PS：如網際網路BBS論壇的會員等級概念，根據會員等級來分表）來分表，這樣就能減輕單表壓力，並且還能解決各個模組的之間的頻繁互動問題。 **分庫的優點是：** 實現簡單，庫與庫之間界限分明，便於維護，缺點是不利於頻繁跨庫操作，不能解決單表資料量大的問題。 **分表的優點是：** 能解決分庫的不足點，但是缺點卻恰恰是分庫的優點，分表實現起來比較複雜，特別是分表規則的劃分，程式的編寫，以及後期的資料庫拆分移植維護。 ## 實際應用 實際應用中，一般網際網路企業的路線都是先分庫再分表，兩者結合使用，取長補短，這樣發揮了MySQL擴充套件的最大優勢，但是缺點是架構很大，很複雜，應用程式的編寫也比較複雜。 以上是MySQL的資料切分的一些概念，資料切完了，現在要做的是怎麼樣在整合起來以便於外界訪問，因為程式訪問的入口永遠只有一個，現在比較常用的解決方案是通過中間代理層來統一管控所有資料來源。例如，可以使用冰河深度參與開發的Mycat中介軟體，也可以使用亮總開源的ShardingSphere中介軟體。 **好了，今天就到這兒吧，我是冰河，我們下期見~~** ## 寫在最後 **如果小夥伴們覺得我寫的不錯，可以加我微信【sun_shine_lyz】，我拉你進技術交流群哦，這裡有很多技術大牛每天分享自己的技術乾貨