mysql中介軟體研究
mysql-proxy是官方提供的mysql中介軟體產品可以實現負載平衡,讀寫分離,failover等,但其不支援大資料量的分庫分表且效能較差。下面介紹幾款能代替其的mysql開源中介軟體產品,Atlas,cobar,tddl,讓我們看看它們各自有些什麼優點和新特性吧。
Atlas
Atlas是由 Qihoo 360, Web平臺部基礎架構團隊開發維護的一個基於MySQL協議的資料中間層專案。它是在mysql-proxy 0.8.2版本的基礎上,對其進行了優化,增加了一些新的功能特性。360內部使用Atlas執行的mysql業務,每天承載的讀寫請求數達幾十億條。
Altas架構:
Atlas是一個位於應用程式與MySQL之間,它實現了MySQL的客戶端與服務端協議,作為服務端與應用程式通訊,同時作為客戶端與MySQL通訊。它對應用程式遮蔽了DB的細節,同時為了降低MySQL負擔,它還維護了連線池。
以下是一個可以參考的整體架構,LVS前端做負載均衡,兩個Altas做HA,防止單點故障。
Altas的一些新特性:
1.主庫宕機不影響讀
主庫宕機,Atlas自動將宕機的主庫摘除,寫操作會失敗,讀操作不受影響。從庫宕機,Atlas自動將宕機的從庫摘除,對應用沒有影響。在mysql官方的proxy中主庫宕機,從庫亦不可用。
2.通過管理介面,簡化管理工作,DB的上下線對應用完全透明,同時可以手動上下線。
圖1是手動新增一臺從庫的示例。
圖1
3.自己實現讀寫分離
(1)為了解決讀寫分離存在寫完馬上就想讀而這時可能存在主從同步延遲的情況,Altas中可以在SQL語句前增加 /*master*/ 就可以將讀請求強制發往主庫。
(2)如圖2中,主庫可設定多項,用逗號分隔,從庫可設定多項和權重,達到負載均衡。
圖2
4.自己實現分表(圖3)
(1)需帶有分表字段。
(2)支援SELECT、INSERT、UPDATE、DELETE、REPLACE語句。
(3)支援多個子表查詢結果的合併和排序。
圖3
這裡不得不吐槽Atlas的分表功能,不能實現分散式分表,所有的子表必須在同一臺DB的同一個database裡且所有的子表必須事先建好,Atlas沒有自動建表的功能。
5.之前官方主要功能邏輯由使用lua指令碼編寫,效率低,Atlas用C改寫,QPS提高,latency降低。
6.安全方面的提升
(1)通過配置檔案中的pwds引數進行連線Atlas的使用者的許可權控制。
(2)通過client-ips引數對有許可權連線Atlas的ip進行過濾。
(3)日誌中記錄所有通過Altas處理的SQL語句,包括客戶端IP、實際執行該語句的DB、執行成功與否、執行所耗費的時間 ,如下面例子(圖4)。
圖4
7.平滑重啟
通過配置檔案中設定lvs-ips引數實現平滑重啟功能,否則重啟Altas的瞬間那些SQL請求都會失敗。該引數前面掛接的lvs的物理網絡卡的ip,注意不是虛ip。平滑重啟的條件是至少有兩臺配置相同的Atlas且掛在lvs之後。
source:https://github.com/Qihoo360/Atlas
alibaba.cobar
Cobar是阿里巴巴(B2B)部門開發的一種關係型資料的分散式處理系統,它可以在分散式的環境下看上去像傳統資料庫一樣為您提供海量資料服務。那麼具體說說我們為什麼要用它,或說cobar--能幹什麼?以下是我們業務執行中會存在的一些問題:
1.隨著業務的進行資料庫的資料量和訪問量的劇增,需要對資料進行水平拆分來降低單庫的壓力,而且需要高效且相對透明的來遮蔽掉水平拆分的細節。
2.為提高訪問的可用性,資料來源需要備份。
3.資料來源可用性的檢測和failover。
4.前臺的高併發造成後臺資料庫連線數過多,降低了效能,怎麼解決。
針對以上問題就有了cobar施展自己的空間了,cobar中介軟體以proxy的形式位於前臺應用和實際資料庫之間,對前臺的開放的介面是mysql通訊協議。將前臺SQL語句變更並按照資料分佈規則轉發到合適的後臺資料分庫,再合併返回結果,模擬單庫下的資料庫行為。
Cobar應用舉例
應用架構:
應用介紹:
1.通過Cobar提供一個名為test的資料庫,其中包含t1,t2兩張表。後臺有3個MySQL例項(ip:port)為其提供服務,分別為:A,B,C。
2.期望t1表的資料放置在例項A中,t2表的資料水平拆成四份並在例項B和C中各自放兩份。t2表的資料要具備HA功能,即B或者C例項其中一個出現故障,不影響使用且可提供完整的資料服務。
cabar優點總結:
1.資料和訪問從集中式改變為分佈:
(1)Cobar支援將一張表水平拆分成多份分別放入不同的庫來實現表的水平拆分
(2)Cobar也支援將不同的表放入不同的庫
(3) 多數情況下,使用者會將以上兩種方式混合使用
注意!:Cobar不支援將一張表,例如test表拆分成test_1,test_2, test_3.....放在同一個庫中,必須將拆分後的表分別放入不同的庫來實現分散式。
2.解決連線數過大的問題。
3.對業務程式碼侵入性少。
4.提供資料節點的failover,HA:
(1)Cobar的主備切換有兩種觸發方式,一種是使用者手動觸發,一種是Cobar的心跳語句檢測到異常後自動觸發。那麼,當心跳檢測到主機異常,切換到備機,如果主機恢復了,需要使用者手動切回主機工作,Cobar不會在主機恢復時自動切換回主機,除非備機的心跳也返回異常。
(2)Cobar只檢查MySQL主備異常,不關心主備之間的資料同步,因此使用者需要在使用Cobar之前在MySQL主備上配置雙向同步。
cobar缺點:
開源版本中資料庫只支援mysql,並且不支援讀寫分離。
source:http://code.alibabatech.com/wiki/display/cobar/Home
TDDL
淘寶根據自己的業務特點開發了TDDL(Taobao Distributed Data Layer 外號:頭都大了 ©_Ob)框架,主要解決了分庫分表對應用的透明化以及異構資料庫之間的資料複製,它是一個基於集中式配置的 jdbc datasource實現,具有主備,讀寫分離,動態資料庫配置等功能。
TDDL所處的位置(tddl通用資料訪問層,部署在客戶端的jar包,用於將使用者的SQL路由到指定的資料庫中):
淘寶很早就對資料進行過分庫的處理, 上層系統連線多個數據庫,中間有一個叫做DBRoute的路由來對資料進行統一訪問。DBRoute對資料進行多庫的操作、資料的整合,讓上層系統像操作一個數據庫一樣操作多個庫。但是隨著資料量的增長,對於庫表的分法有了更高的要求,例如,你的商品資料到了百億級別的時候,任何一個庫都無法存放了,於是分成2個、4個、8個、16個、32個……直到1024個、2048個。好,分成這麼多,資料能夠存放了,那怎麼查詢它?這時候,資料查詢的中介軟體就要能夠承擔這個重任了,它對上層來說,必須像查詢一個數據庫一樣來查詢資料,還要像查詢一個數據庫一樣快(每條查詢在幾毫秒內完成),TDDL就承擔了這樣一個工作。在外面有些系統也用DAL(資料訪問層)
這個概念來命名這個中介軟體。
下圖展示了一個簡單的分庫分表資料查詢策略:
主要優點:
1.資料庫主備和動態切換
2.帶權重的讀寫分離
3.單執行緒讀重試
4.集中式資料來源資訊管理和動態變更
5.剝離的穩定jboss資料來源
6.支援mysql和oracle資料庫
7.基於jdbc規範,很容易擴充套件支援實現jdbc規範的資料來源
8.無server,client-jar形式存在,應用直連資料庫
9.讀寫次數,併發度流程控制,動態變更
10.可分析的日誌列印,日誌流控,動態變更
TDDL必須要依賴diamond配置中心(diamond是淘寶內部使用的一個管理持久配置的系統,目前淘寶內部絕大多數系統的配置,由diamond來進行統一管理,同時diamond也已開源)。
TDDL動態資料來源使用示例說明:http://rdc.taobao.com/team/jm/archives/1645
diamond簡介和快速使用:http://jm.taobao.org/tag/diamond%E4%B8%93%E9%A2%98/
TDDL原始碼:https://github.com/alibaba/tb_tddl
TDDL複雜度相對較高。當前公佈的文件較少,只開源動態資料來源,分表分庫部分還未開源,還需要依賴diamond,不推薦使用。
終其所有,我們研究中介軟體的目的是使資料庫實現效能的提高。具體使用哪種還要經過深入的研究,嚴謹的測試才可決定。
MyCAT
什麼是MyCAT?簡單的說,MyCAT就是: 一個徹底開源的,面向企業應用開發的“大資料庫叢集” 支援事務、ACID、可以替代Mysql的加強版資料庫 ? 一個可以視為“Mysql”叢集的企業級資料庫,用來替代昂貴的Oracle叢集 ? 一個融合記憶體快取技術、Nosql技術、HDFS大資料的新型SQL Server ? 結合傳統資料庫和新型分散式資料倉庫的新一代企業級資料庫產品 ? 一個新穎的資料庫中介軟體產品。
目標
低成本的將現有的單機資料庫和應用平滑遷移到“雲”端,解決資料儲存和業務規模迅速增長情況下的資料瓶頸問題。
關鍵特性
1. 支援 SQL 92標準 支援Mysql叢集,可以作為Proxy使用 支援JDBC連線ORACLE、DB2、SQL Server,將其模擬為MySQL Server使用 支援galera for mysql叢集,percona-cluster或者mariadb cluster,提供高可用性資料分片叢集,自動故障切換,高可用性 。
2. 支援讀寫分離。
3. 支援Mysql雙主多從,以及一主多從的模式 。
4. 支援全域性表。
5. 支援資料自動分片到多個節點,用於高效表關聯查詢 。
6. 垮褲join,支援獨有的基於E-R 關係的分片策略,實現了高效的表關聯查詢多平臺支援,部署和實施簡單。
優勢
基於阿里開源的Cobar產品而研發,Cobar的穩定性、可靠性、優秀的架構和效能,以及眾多成熟的使用案例使得MyCAT一開始就擁有一個很好的起點,站在巨人的肩膀上,我們能看到更遠。廣泛吸取業界優秀的開源專案和創新思路,將其融入到MyCAT的基因中,使得MyCAT在很多方面都領先於目前其他一些同類的開源專案,甚至超越某些商業產品。MyCAT背後有一隻強大的技術團隊,其參與者都是5年以上資深軟體工程師、架構師、DBA等,優秀的技術團隊保證了MyCAT的產品質量。 MyCAT並不依託於任何一個商業公司,因此不像某些開源專案,將一些重要的特性封閉在其商業產品中,使得開源專案成了一個擺設,目前在持續維護更新。
長期規劃
在支援Mysql的基礎上,後端增加更多的開源資料庫和商業資料庫的支援,包括原生支援PosteSQL、FireBird等開源資料庫,以及通過JDBC等方式間接支援其他非開源的資料庫如Oracle、DB2、SQL Server等實現更為智慧的自我調節特性,如自動統計分析SQL,自動建立和調整索引,根據資料表的讀寫頻率,自動優化快取和備份策略等實現更全面的監控管理功能與HDFS整合,提供SQL命令,將資料庫裝入HDFS中並能夠快速分析整合優秀的開源報表工具,使之具備一定的資料分析的能力。
heisenberg
強大好用的mysql分庫分表中介軟體,來自百度
其優點: 分庫分表與應用脫離,分庫表如同使用單庫表一樣 減少db 連線數壓力 熱重啟配置 可水平擴容 遵守Mysql原生協議 讀寫分離 無語言限制,mysqlclient,c,java等都可以使用 Heisenberg伺服器通過管理命令可以檢視,如連線數,執行緒池,結點等,並可以調整 採用velocity的分庫分表指令碼進行自定義分庫表,相當的靈活
分庫分表與應用脫離,分庫表如同使用單庫表一樣 減少db 連線數壓力 熱重啟配置 可水平擴容 遵守Mysql原生協議 無語言限制,mysqlclient,c,java等都可以使用
Heisenberg伺服器通過管理命令可以檢視,如連線數,執行緒池,結點等,並可以調整
Oceanus:
Oceanus致力於打造一個功能簡單、可依賴、易於上手、易於擴充套件、易於整合的解決方案,甚至是平臺化系統。擁抱開源,提供各類外掛機制整合其他開源專案,新手可以在幾分鐘內上手程式設計,分庫分表邏輯不再與業務緊密耦合,擴容有標準模式,減少意外錯誤的發生。
Oceanus內部名詞定義
-
datanode:資料來源節點。為一個數據源命名,配置連結屬性、報警實現
-
namenode:資料來源的簇。為一組資料來源命名,指定這組資料來源的負載方式、訪問模式、權重
-
table:對映表。匹配解析sql中的table名稱,命中table標籤的name屬性值後,會執行約定的路由邏輯
-
bean:實體。由其他標籤引用,實體類必須有無參的建構函式
-
tracker:監控埋點。涉及到計算和IO的功能點都有監控點,自定義一個埋點實現類,當功能耗時超出預期時會執行其中的回撥函式,便於監控和優化系統
為什麼說Oceanus是非常易用的
Oceanus在設計時非常注重使用者的評價,配置結構近乎於和使用者交流約定業務規則,便於不同的人看同一套配置,互相理解流程。當配置檔案編寫 完成後,編碼就變得更加簡單,只調用Oceanus客戶端的幾個方法就可以實現資料庫操作,不再關心HA、報警、負載均衡、效能監控等問題。良好的使用者視 覺減少了分庫分表在業務場景中的耦合度,對於編碼者就像只對一個table操作,Oceanus負責進行sql解析、路由、sql重寫。
如提交: select * from user; 改寫成: select * from user0; select * from user1; select * from user2; select * from user3;開源整合
“接地氣,擁抱開源” 是Oceanus的設計原則之一,可以很好的整合到mybatis和hibernate中,只要引用其中的外掛,編寫Oceanus配置檔案,然後改寫各 自的DataSource實現或ConnectionProvider即可做到整合。這樣既用到了熟悉的ORM,又藉助Oceanus實現了分庫分表等功 能。
待開發
不得不說Oceanus在設計上非常靈活,使得每一個細小的功能點都有極高的切入價值,比如Cache機制、全域性的ID生成規則、資源視覺化監控等等,把其中某一個點做得足夠好,都會為整體產品帶來質的提升,簡化實際生產環境中的配套系統研發維護成本。
vitess:
谷歌開發的資料庫中介軟體,叢集基於ZooKeeper管理,通過RPC方式進行資料處理,總體分為,server,command line,gui監控 3部分。
Vitess is a set of servers and tools meant to facilitate scaling of MySQL databases for the web. It's been developed since 2011, and is currently used as a fundamental component of YouTube's MySQL infrastructure, serving thousands of QPS (per server). If you want to find out whether Vitess is a good fit for your project, please read our helicopter overview.
Vitess consists of a number servers, command line utilities, and a consistent metadata store. Taken together, they allow you to serve more database traffic, and add features like sharding, which normally you would have to implement in your application.
vttablet is a server that sits in front of a MySQL database, making it more robust and available in the face of high traffic. Among other things, it adds a connection pool, has a row based cache, and it rewrites SQL queries to be safer and nicer to the underlying database.
vtgate is a very light proxy that routes database traffic from your app to the right vttablet, basing on the sharding scheme, latency required, and health of the vttablets. This allows the client to be very simple, as all it needs to be concerned about is finding the closest vtgate.
The topology is a metadata store that contains information about running servers, the sharding scheme, and replication graph. It is backed by a consistent data store, like Apache ZooKeeper. The topology backends are plugin based, allowing you to write your own if ZooKeeper doesn't fit your needs. You can explore the topology through vtctld, a webserver (not shown in the diagram).
vtctl is a command line utility that allows a human or a script to easily interact with the system.
All components communicate using a lightweight RPC system based on BSON. The RPC system is plugin based, so you can easily write your own backend (at Google we use a Protocol Buffers based protocol). We provide a client implementation for three languages: Python, Go, and Java. Writing a client for your language should not be difficult, as it's a matter of implementing only a few API calls (please send us a pull request if you do!).
OneProxy
OneProxy是由原支付寶首席架構師樓方鑫開發,目前由樓方鑫創立的杭州平民軟體公司(@平民架構)提供技術支援。它保留了MySQL-Proxy 0.8.4官方版本上其協議處理和軟體框架,然後對軟體做了大量優化,極大增強了系統的併發能力。目前已有多家公司在生成環境中使用,其中包括了支付、電商等行業。 OneProxy的主要功能有: 1. 垂直分庫 2. 水平分表 3. Proxy叢集【暫無文件】 4. 讀高可用 5. 讀寫分離(master不參與讀) 6. 讀寫分離(master參與讀) 7. 寫高可用 8. 讀寫隨機 9. SQL檢查 10. SQL統計【暫無文件】 11. 任務佇列監控【暫無文件】 12. 連線池管理【暫無文件】最新博文在http://www.cnblogs.com/youge-OneSQL/articles/4208583.html