Mysql分散式叢集主從
MySQL Cluster 是MySQL適合於分散式計算環境的高實用、高冗餘版本。它採用了NDB Cluster 儲存引擎,允許在1個 Cluster 中執行多個MySQL伺服器。在MyQL 5.0及以上的二進位制版本中、以及與最新的Linux版本相容的RPM中提供了該儲存引擎。(注意,要想獲得MySQL Cluster 的功能,必須安裝 mysql-server 和 mysql-max RPM)。
目前能夠執行MySQL Cluster 的作業系統有Linux、Mac OS X和Solaris(一些使用者通報成功地在FreeBSD上運行了MySQL Cluster ,但MySQL AB公司尚未正式支援該特性)。
一、MySQL Cluster概述
MySQL Cluster 是一種技術,該技術允許在無共享的系統中部署“記憶體中”資料庫的 Cluster 。通過無共享體系結構,系統能夠使用廉價的硬體,而且對軟硬體無特殊要求。此外,由於每個元件有自己的記憶體和磁碟,不存在單點故障。
MySQL Cluster 由一組計算機構成,每臺計算機上均執行著多種程序,包括MySQL伺服器,NDB Cluster 的資料節點,管理伺服器,以及(可能)專門的資料訪問程式。關於 Cluster 中這些元件的關係,請參見下圖:
所有的這些節點構成一個完成的MySQL叢集體系。資料儲存在“NDB儲存伺服器”的儲存引擎中,表(結構)則儲存在“MySQL伺服器”中。應用程式通過“MySQL伺服器”訪問這些資料表,叢集管理伺服器通過管理工具(ndb_mgmd)來管理“NDB儲存伺服器”。
通過將MySQL Cluster 引入開放原始碼世界,MySQL為所有需要它的人員提供了具有高可用性、高效能和可縮放性的 Cluster 資料管理。
二、MySQL Cluster 基本概念
“NDB” 是一種“記憶體中”的儲存引擎,它具有可用性高和資料一致性好的特點。
MySQL Cluster 能夠使用多種故障切換和負載平衡選項配置NDB儲存引擎,但在 Cluster 級別上的儲存引擎上做這個最簡單。MySQL Cluster的NDB儲存引擎包含完整的資料集,僅取決於 Cluster本身內的其他資料。
目前,MySQL Cluster的 Cluster部分可獨立於MySQL伺服器進行配置。在MySQL Cluster中, Cluster的每個部分被視為1個節點。
- 管理(MGM)節點:這類節點的作用是管理MySQL Cluster內的其他節點,如提供配置資料、啟動並停止節點、執行備份等。由於這類節點負責管理其他節點的配置,應在啟動其他節點之前首先啟動這類節點。MGM節點是用命令“ndb_mgmd”啟動的。
- 資料節點:這類節點用於儲存 Cluster的資料。資料節點的數目與副本的數目相關,是片段的倍數。例如,對於兩個副本,每個副本有兩個片段,那麼就有4個數據節點。不過沒有必要設定多個副本。資料節點是用命令“ndbd”啟動的。
- SQL節點:這是用來訪問 Cluster資料的節點。對於MySQL Cluster,客戶端節點是使用NDB Cluster儲存引擎的傳統MySQL伺服器。通常,SQL節點是使用命令“mysqld –ndbcluster”啟動的,或將“ndbcluster”新增到“my.cnf”後使用“mysqld”啟動。
註釋:在很多情況下,術語“節點”用於指計算機,但在討論MySQL Cluster時,它表示的是程序。在單臺計算機上可以有任意數目的節點,為此,我們採用術語“ Cluster主機”。
管理伺服器(MGM節點)負責管理 Cluster配置檔案和 Cluster日誌。 Cluster中的每個節點從管理伺服器檢索配置資料,並請求確定管理伺服器所在位置的方式。當資料節點內出現新的事件時,節點將關於這類事件的資訊傳輸 到管理伺服器,然後,將這類資訊寫入 Cluster日誌。
此外,可以有任意數目的 Cluster客戶端程序或應用程式。它們分為兩種型別:
- 標準MySQL客戶端:對於MySQL Cluster,它們與標準的(非 Cluster類)MySQL沒有區別。換句話講,能夠從用PHP、Perl、C、C++、Java、Python、Ruby等編寫的現有MySQL應用程式訪問MySQL Cluster。
- 管理客戶端:這類客戶端與管理伺服器相連,並提供了啟動和停止節點、啟動和停止訊息跟蹤(僅除錯版本)、顯示節點版本和狀態、啟動和停止備份等的命令。
三、開始準備
1、準備伺服器
現在,我們計劃建立有5個節點的MySQL CLuster體系,因此需要用到5臺機器,分別做如下用途:
節點(用途) IP地址(主機名)
管理節點(MGM) 192.168.0.1(db1)
SQL節點1(SQL1) 192.168.0.2(db2)
SQL節點2(SQL2) 192.168.0.3(db3)
資料節點1(NDBD1) 192.168.0.4(db4)
資料節點2(NDBD2) 192.168.0.5(db5)
2、注意事項及其他
每個節點的作業系統都是Linux,下面的描述中將使用主機名,不再使用IP地址來表示。由於MySQL Cluster採用TCP/IP方式連線,並且節點之間的資料傳輸沒有加密,因此這個體系最好只在單獨的子網中執行,並且考慮到傳輸的速率,強烈建議不要 跨越公網使用這個體系
實際上整個體系可以在一個單獨的實體計算機上執行成功,當然了,必須設定不同的目錄以及埠等,只能作為測試時使用。
四、開始安裝
1、假定條件
在每個節點計算機上都採用 nobody 使用者來執行Cluster,因此執行如下命令新增相關使用者(如果已經存在則略過,且用root使用者執行):
root# /usr/sbin/groupadd nobody
root# /usr/sbin/useradd nobody -g nobody
假設已經下載了mysql可直接使用的二進位制安裝包,且放在 /tmp 下了。
2、SQL節點和儲存節點(NDB節點)安裝(即4個機器重複執行以下步驟)
root# cd /tmp/
root# tar zxf mysql-max-5.0.24-linux-i686.tar.gz
root# mv mysql-max-5.0.24-linux-i686 /usr/local/mysql/
root# cd /usr/local/mysql/
root# ./configure --prefix=/usr/local/mysql
root# ./scripts/mysql_install_db
root# chown -R nobody:nobody /usr/local/mysql/
3、配置SQL節點
root# vi /usr/local/mysql/my.cnf
然後輸入如下內容:
[mysqld]
basedir = /usr/local/mysql/
datadir = /usr/local/mysql/data
user = nobody
port = 3306
socket = /tmp/mysql.sock
ndbcluster
ndb-connectstring=db1
[MYSQL_CLUSTER]
ndb-connectstring=db1
4、配置儲存節點(NDB節點)
root# vi /usr/local/mysql/my.cnf
然後輸入如下內容:
[mysqld]
ndbcluster
ndb-connectstring=db1
[MYSQL_CLUSTER]
ndb-connectstring=db1
5、安裝管理節點
root# cd /tmp/
root# tar zxf mysql-max-5.0.24-linux-i686.tar.gz
root# mkdir /usr/local/mysql/
root# mkdir /usr/local/mysql/data/
root# cd mysql-max-5.0.24-linux-i686/bin/
root# cp ndb_mgm* /usr/local/mysql/
root# chown -R nobody:nobody /usr/local/mysql
6、配置管理節點
root# vi /usr/local/mysql/config.ini
然後輸入如下內容:
[NDBD DEFAULT]
NoOfReplicas=1
[TCP DEFAULT]
portnumber=3306
#設定管理節點伺服器
[NDB_MGMD]
hostname=db1
#MGM上儲存日誌的目錄
datadir=/usr/local/mysql/data/
#設定儲存節點伺服器(NDB節點)
[NDBD]
hostname=db4
datadir=/usr/local/mysql/data/
#第二個NDB節點
[NDBD]
hostname=db5
datadir=/usr/local/mysql/data/
#設定SQL節點伺服器
[MYSQLD]
hostname=db2
#第二個SQL節點
[MYSQLD]
hostname=db3
註釋: Cluster管理節點的預設埠是1186,資料節點的預設埠2202。從MySQL 5.0.3開始,該限制已被放寬, Cluster能夠根據空閒的埠自動地為資料節點分配埠。如果你的版本低於5.0.22,請注意這個細節。
五、啟動MySQL Cluster
較為合理的啟動順序是,首先啟動管理節點伺服器,然後啟動儲存節點伺服器,最後才啟動SQL節點伺服器:
- 在管理節點伺服器上,執行以下命令啟動MGM節點程序:
root# /usr/local/mysql/ndb_mgmd -f /usr/local/mysql/config.ini
必須用引數“-f”或“--config-file”告訴 ndb_mgm 配置檔案所在位置,預設是在ndb_mgmd相同目錄下。
- 在每臺儲存節點伺服器上,如果是第一次啟動ndbd程序的話,必須先執行以下命令:
root# /usr/local/mysql/bin/ndbd --initial
注意,僅應在首次啟動ndbd時,或在備份/恢復資料或配置檔案發生變化後重啟ndbd時使用“--initial”引數。因為該引數會使節點刪除由早期ndbd例項建立的、用於恢復的任何檔案,包括用於恢復的日誌檔案。
如果不是第一次啟動,直接執行如下命令即可:root# /usr/local/mysql/bin/ndbd
- 最後,執行以下命令啟動SQL節點伺服器:
root# /usr/local/mysql/bin/mysqld_safe --defaults-file=/usr/local/mysql/my.cnf &
如果一切順利,也就是啟動過程中沒有任何錯誤資訊出現,那麼就在管理節點伺服器上執行如下命令:
root# /usr/local/mysql/ndb_mgm
-- NDB Cluster -- Management Client --
ndb_mgm> SHOW
Connected to Management Server at: localhost:1186
Cluster Configuration
---------------------
[ndbd(NDB)] 2 node(s)
id=2 @192.168.0.4 (Version: 5.0.22, Nodegroup: 0, Master)
id=3 @192.168.0.5 (Version: 5.0.22, Nodegroup: 0)
[ndb_mgmd(MGM)] 1 node(s)
id=1 @192.168.0.1 (Version: 5.0.22)
[mysqld(SQL)] 1 node(s)
id=2 (Version: 5.0.22)
id=3 (Version: 5.0.22)
具體的輸出內容可能會略有不同,這取決於你所使用的MySQL版本。
注意:如果你正在使用較早的MySQL版本,你或許會看到引用為‘[mysqld(API)]’的SQL節點。這是一種早期的用法,現已放棄。
現在,應能在MySQL Cluster中處理資料庫,表和資料。
六、建立資料庫表
與沒有使用 Cluster的MySQL相比,在MySQL Cluster內操作資料的方式沒有太大的區別。執行這類操作時應記住兩點:
- 表必須用ENGINE=NDB或ENGINE=NDBCLUSTER選項建立,或用ALTER TABLE選項更改,以使用NDB Cluster儲存引擎在 Cluster內複製它們。如果使用mysqldump的輸出從已有資料庫匯入表,可在文字編輯器中開啟SQL指令碼,並將該選項新增到任何表建立語句,或 用這類選項之一替換任何已有的ENGINE(或TYPE)選項。
- 另外還請記住,每個NDB表必須有一個主鍵。如果在建立表時使用者未定義主鍵,NDB Cluster儲存引擎將自動生成隱含的主鍵。(註釋:該隱含 鍵也將佔用空間,就像任何其他的表索引一樣。由於沒有足夠的記憶體來容納這些自動建立的鍵,出現問題並不罕見)。
下面是一個例子:
在db2上,建立資料表,插入資料:
[db2~]root# mysql -uroot test
[db2~]mysql> create table city(
[db2~]mysql> id mediumint unsigned not null auto_increment primary key,
[db2~]mysql> name varchar(20) not null default ''
[db2~]mysql> ) engine = ndbcluster default charset utf8;
[db2~]mysql> insert into city values(1, 'city1');
[db2~]mysql> insert into city values(2, 'city2');
在db3上,查詢資料:
[db3~]root# mysql -uroot test
[db2~]mysql> select * from city;
+-----------+
|id | name |
+-----------+
|1 | city1 |
+-----------+
|2 | city2 |
+-----------+
七、安全關閉
要想關閉 Cluster,可在MGM節點所在的機器上,在Shell中簡單地輸入下述命令:
[db1~]root# /usr/local/mysql/ndb_mgm -e shutdown
執行以下命令關閉SQL節點的mysqld服務:
[db2~]root# /usr/local/mysql/bin/mysqladmin -uroot shutdown