1. 程式人生 > 其它 >MySQL 主從同步(1) - 概念和原理介紹 以及 主從/主主模式 部署記錄

MySQL 主從同步(1) - 概念和原理介紹 以及 主從/主主模式 部署記錄

Mysql複製概念

Mysql內建的複製功能是構建大型高效能應用程式的基礎, 將Mysql資料分佈到多個系統上,這種分佈機制是通過將Mysql某一臺主機資料複製到其它主機(slaves)上,並重新執行一遍來實現的。複製過程中一個伺服器充當主伺服器,而一個或多個其它伺服器充當從伺服器。主伺服器將更新寫入二進位制日誌檔案,並維護檔案的一個索引以跟蹤日誌迴圈。這些日誌可以記錄傳送到從伺服器的更新。當一個從伺服器連線主伺服器時,它通知主伺服器從伺服器在日誌中讀取的最後一次成功更新的位置。從伺服器接收從那時起發生的任何更新,然後封鎖並等待主伺服器通知新的更新。

Mysql支援哪些複製
- 基於語句的複製: 在主伺服器執行SQL語句,在從伺服器執行同樣語句。MySQL預設採用基於語句的複製,效率較高。一旦發現沒法精確複製時, 會自動選基於行的複製。
- 基於行的複製: 把改變的內容複製過去,而不是把命令在從伺服器上執行一遍. 從mysql5.0開始支援
- 混合型別的複製: 預設採用基於語句的複製,一旦發現基於語句的無法精確的複製時,就會採用基於行的複製。

Mysql複製解決的問題
- 資料分佈 (Data distribution )
- 負載平衡(load balancing)
- 據備份(Backups) ,保證資料安全
- 高可用性和容錯行(High availability and failover)
- 實現讀寫分離,緩解資料庫壓力

Mysql主從複製原理
master伺服器將資料的改變都記錄到二進位制binlog日誌中,只要master上的資料發生改變,則將其改變寫入二進位制日誌;salve伺服器會在一定時間間隔內對master二進位制日誌進行探測其是否發生改變,如果發生改變,則開始一個I/O Thread請求master二進位制事件,同時主節點為每個I/O執行緒啟動一個dump執行緒,用於向其傳送二進位制事件,並儲存至從節點本地的中繼日誌中,從節點將啟動SQL執行緒從中繼日誌中讀取二進位制日誌,在本地重放,使得其資料和主節點的保持一致,最後I/O Thread和SQL Thread將進入睡眠狀態,等待下一次被喚醒。

需要理解:
- 從庫會生成兩個執行緒,一個I/O執行緒,一個SQL執行緒;
- I/O執行緒會去請求主庫的binlog,並將得到的binlog寫到本地的relay-log(中繼日誌)檔案中;
- 主庫會生成一個log dump執行緒,用來給從庫I/O執行緒傳binlog;
- SQL執行緒,會讀取relay log檔案中的日誌,並解析成sql語句逐一執行;

這裡注意幾點:
- master將操作語句記錄到binlog日誌中,然後授予slave遠端連線的許可權(master要開啟binlog二進位制日誌功能;通常為了資料安全考慮,slave也開啟binlog);
- slave開啟兩個執行緒:IO執行緒和SQL執行緒。其中:IO執行緒負責讀取master的binlog內容到中繼日誌relay log裡;SQL執行緒負責從relay log日誌裡讀出binlog內容,並更新到slave的資料庫裡,這樣就能保證slave資料和master資料保持一致了;
- mysql複製至少需要兩個Mysql的服務,當然Mysql服務可以分佈在不同的伺服器上,也可以在一臺伺服器上啟動多個服務;
- mysql複製最好確保master和slave伺服器上的Mysql版本相同(如果不能滿足版本一致,那麼要保證master主節點的版本低於slave從節點的版本);
- master和slave兩節點間時間需同步;

Mysql複製流程圖

如上圖所示:
- Mysql複製過程的第一部分就是master記錄二進位制日誌。在每個事務更新資料完成之前,master在二日誌記錄這些改變。MySQL將事務序列的寫入二進位制日誌,即使事務中的 語句都是交叉執行的。在事件寫入二進位制日誌完成後,master通知儲存引擎提交事務;
- 第二部分就是slave將master的binary log拷貝到它自己的中繼日誌。首先,slave開始一個工作執行緒(I/O執行緒)。I/O執行緒在master上開啟一個普通的連線,然後開始binlog dump process。Binlog dump process從master的二進位制日誌中讀取事件,如果已經跟上master,它會睡眠並等待master產生新的事件。I/O執行緒將這些事件寫入中繼日誌;
- SQL slave thread(SQL從執行緒)處理該過程的最後一步。SQL執行緒從中繼日誌讀取事件,並重放其中的事件而更新slave的資料,使其與master中的資料一致。只要該執行緒與 I/O執行緒保持一致,中繼日誌通常會位於OS的快取中,所以中繼日誌的開銷很小;
- 此外,在master中也有一個工作執行緒:和其它MySQL的連線一樣,slave在master中開啟一個連線也會使得master開始一個執行緒。複製過程有一個很重要的限制, 即複製在slave上是序列化的,也就是說master上的並行更新操作不能在slave上並行操作。

Mysql複製模式
主從複製: 主庫授權從庫遠端連線,讀取binlog日誌並更新到本地資料庫的過程;主庫寫資料後,從庫會自動同步過來(從庫跟著主庫變);
主主複製: 主從相互授權連線,讀取對方binlog日誌並更新到本地資料庫的過程;只要對方資料改變,自己就跟著改變;

Mysql主從複製優點
在從伺服器可以執行查詢工作(即我們常說的讀功能),降低主伺服器壓力;(主庫寫,從庫讀,降壓)
在從主伺服器進行備份,避免備份期間影響主伺服器服務;(確保資料安全)
當主伺服器出現問題時,可以切換到從伺服器。(提升效能)

Mysql主從複製工作流程關鍵細節
1) MySQL支援單向、非同步複製,複製過程中一個伺服器充當主伺服器,而一個或多個其它伺服器充當從伺服器。MySQL複製基於主伺服器在二進位制日誌中跟蹤所有對資料庫的更改(更新、刪除等等)。因此,要進行復制,必須在主伺服器上啟用二進位制日誌。每個從伺服器從主伺服器接收主伺服器上已經記錄到其二進位制日誌的儲存的更新。當一個從伺服器連線主伺服器時,它通知主伺服器定位到從伺服器在日誌中讀取的最後一次成功更新的位置。從伺服器接收從那時起發生的任何更新,並在本機上執行相同的更新。然後封鎖並等待主伺服器通知新的更新。從伺服器執行備份不會干擾主伺服器,在備份過程中主伺服器可以繼續處理更新。

2) MySQL使用3個執行緒來執行復制功能,其中兩個執行緒(Sql執行緒和IO執行緒)在從伺服器,另外一個執行緒(IO執行緒)在主伺服器。當發出START SLAVE時,從伺服器建立一個I/O執行緒,以連線主伺服器並讓它傳送記錄在其二進位制日誌中的語句。主伺服器建立一個執行緒將二進位制日誌中的內容傳送到從伺服器。該執行緒可以即為主伺服器上SHOW PROCESSLIST的輸出中的Binlog Dump執行緒。從伺服器I/O執行緒讀取主伺服器Binlog Dump執行緒傳送的內容並將該資料拷貝到從伺服器資料目錄中的本地檔案中,即中繼日誌。第3個執行緒是SQL執行緒,由從伺服器建立,用於讀取中繼日誌並執行日誌中包含的更新。在從伺服器上,讀取和執行更新語句被分成兩個獨立的任務。當從伺服器啟動時,其I/O執行緒可以很快地從主伺服器索取所有二進位制日誌內容,即使SQL執行緒執行更新的遠遠滯後。

                      mysql 主從複製注意事項小結                       

Mysql主從資料完成同步的過程
1) 在Slave 伺服器上執行sart slave命令開啟主從複製開關,開始進行主從複製。
2) 此時,Slave伺服器的IO執行緒會通過在master上已經授權的複製使用者許可權請求連線master伺服器,並請求從執行binlog日誌檔案的指定位置(日誌檔名和位置就是在配置主從複製服務時執行change master命令指定的)之後開始傳送binlog日誌內容
3) Master伺服器接收到來自Slave伺服器的IO執行緒的請求後,其上負責複製的IO執行緒會根據Slave伺服器的IO執行緒請求的資訊分批讀取指定binlog日誌檔案指定位置之後的binlog日誌資訊,然後返回給Slave端的IO執行緒。返回的資訊中除了binlog日誌內容外,還有在Master伺服器端記錄的IO執行緒。返回的資訊中除了binlog中的下一個指定更新位置。
4) 當Slave伺服器的IO執行緒獲取到Master伺服器上IO執行緒傳送的日誌內容、日誌檔案及位置點後,會將binlog日誌內容依次寫到Slave端自身的Relay Log(即中繼日誌)檔案(Mysql-relay-bin.xxx)的最末端,並將新的binlog檔名和位置記錄到master-info檔案中,以便下一次讀取master端新binlog日誌時能告訴Master伺服器從新binlog日誌的指定檔案及位置開始讀取新的binlog日誌內容
5) Slave伺服器端的SQL執行緒會實時檢測本地Relay Log 中IO執行緒新增的日誌內容,然後及時把Relay LOG 檔案中的內容解析成sql語句,並在自身Slave伺服器上按解析SQL語句的位置順序執行應用這樣sql語句,並在relay-log.info中記錄當前應用中繼日誌的檔名和位置點.

主從複製條件
- 開啟Binlog功能
- 主庫要建立賬號
- 從庫要配置master.info (CHANGE MASTER to...相當於配置密碼檔案和Master的相關資訊)
- start slave 開啟複製功能

主從複製時需要理解
- 3個執行緒,主庫IO,從庫IO和SQL及作用
- master.info(從庫)作用
- relay-log 作用
- 非同步複製
- binlog作用 (如果需要級聯需要開啟Binlog)

主從複製時注意事項
- 主從複製是非同步邏輯的SQL語句級的複製
- 複製時,主庫有一個I/O執行緒,從庫有兩個執行緒,I/O和SQL執行緒
- 實現主從複製的必要條件是主庫要開啟記錄binlog功能
- 作為複製的所有Mysql節點的server-id都不能相同
- binlog檔案只記錄對資料庫有更改的SQL語句(來自主庫內容的變更),不記錄任何查詢(select,show)語句

徹底解除主從複製關係
- stop slave;
- reset slave; 或直接刪除master.info和relay-log.info這兩個檔案;
- 修改my.cnf刪除主從相關配置引數。

讓slave不隨MySQL自動啟動

1 修改my.cnf 在[mysqld]中增加"skip-slave-start"選項。

主從複製實現後,使用mysqldump備份資料時,注意按照下面方式

1 2 # mysqldump --master-data --single-transaction --user=username --password=password dbname> dumpfilename 這樣就可以保留file和 position 的資訊,在新搭建一個slave時,還原完資料庫,file和 position 的資訊也隨之更新,接著再執行"start slave"就可以很迅速的完成增量同步!

需要限定同步哪些資料庫,有3個思路
- 在執行grant授權的時候就限定資料庫;
- 在主伺服器上限定binlog_do_db = 資料庫名;
- 主伺服器上不限定資料庫,在從伺服器上限定replicate-do-db = 資料庫名;

如果想實現"主-從(主)-從" 這樣的鏈條式結構,需要設定

1 2 3 4 log-slave-updates#只有加上它,從前一臺機器上同步過來的資料才能同步到下一臺機器。 log-bin=/opt/mysql/binlogs/bin-log#二進位制日誌也必須開啟 log-bin-index=/opt/mysql/binlogs/bin-log.index expire_logs_days=14# 還可以設定一個log儲存週期

                      Mysql主從同步時過濾部分庫或表的設定                    

Mysql複製過濾
讓從節點僅僅複製指定的資料庫,或指定資料庫的指定資料表。主伺服器有10個數據庫,而從節點只需要同步其中的一兩個資料庫。這個時候就需要複製過濾。複製過濾器可以在主節點中實現,也可以在從節點中實現。Mysql主從同步部分資料有兩個思路:master只發送需要的;Slave只接收想要的。

master主節點
在主節點的二進位制事件日誌中僅記錄與指定資料庫(資料表)相關的事件日誌,但是主節點的二進位制日誌不完整,沒有記錄所有對主節點的修改操作。如果要使用該方式,則在主節點的配置檔案中新增如下引數:

1 2 binlog_do_db="***,***,***";#資料庫白名單列表,二進位制日誌記錄的資料庫(多資料庫用逗號隔開或重複設定多行),即需要同步的庫.不在內的不同步。(不新增這行表示同步所有) binlog_ingore_db="***,***,***";#資料庫黑名單列表, 二進位制日誌中忽略的資料庫 (多資料庫用逗號隔開或重複設定多行),即不需要同步,要過濾掉的庫.

slave從節點
從伺服器SQL Thread在Replay中繼日誌中的事件時僅讀取於特定資料庫相關的事件,並應用於本地. (但是浪費I/O ,浪費頻寬) 推薦使用從節點複製過濾相關設定項:

1 2 3 4 5 6 7 replicate_do_db ="webdb";#複製庫的白名單. 設定需要複製的資料庫(多資料庫使用逗號隔開或重複設定多行) replicate_ingore_db ="mysql";#複製庫的黑名單. 設定需要忽略的複製資料庫 (多資料庫使用逗號隔開或重複設定多行) replicate_do_table="webdb.user";#複製表的白名單. 設定需要複製的表(多資料庫使用逗號隔開或重複設定多行) relicate_ingore_table="webdb.uw";#複製表的黑名單. 設定需要忽略的複製的表(多資料庫使用逗號隔開或重複設定多行) replicate-wild-do-table#同replication-do-table功能一樣,但是可以萬用字元. 更高級別的應用,萬用字元,應用到哪一類表的。 replicate-wild-ignore-table#同replication-ignore-table功能一樣,但是可以加萬用字元.

當在主庫存在的庫而從庫不存在的庫同步時,會出現sql錯誤,這時候可以排除或者從庫手動匯入主庫資料庫;

從庫可以使用萬用字元"庫名.%"方式過濾主從同步時某個庫的設定

1 2 replicate-wild-do-table=webdb.%#只複製webdb庫下的所有表 replicate-wild-ignore-table=mysql.%#忽略mysql庫下的所有表

特別注意:生產庫上一般不建議設定過濾規則, 如果非要設定, 強烈建議從庫使用萬用字元方式過濾某個庫

1 2 replicate-wild-do-table="庫名.%" replicate-wild-ignore-table="庫名.%"

而不建議從庫使用DB方式過濾某個庫:

1 2 replicate_do_db ="庫名" replicate_ingore_db ="庫名"

mysql主從/主主同步環境部署記錄

1)環境描述

1 2 3 4 5 6 7 8 9 mysql的安裝可以參考:http://www.cnblogs.com/kevingrace/p/6109679.html Centos6.8版本 master:182.148.15.238 slave: 182.148.15.237 注意下面幾點: 1)要保證同步服務期間之間的網路聯通。即能相互ping通,能使用對方授權資訊連線到對方資料庫(防火牆開放3306埠)。 2)關閉selinux。 3)同步前,雙方資料庫中需要同步的資料要保持一致。這樣,同步環境實現後,再次更新的資料就會如期同步了。

2)主從複製實現過程記錄

為了測試效果,先在master機器上建立測試庫 mysql> CREATE DATABASE huanqiu CHARACTER SET utf8 COLLATE utf8_general_ci; Query OK, 1 row affected (0.00 sec) mysql> use huanqiu; Database changed mysql> create tableifnot exists haha (idint(10) PRIMARY KEY AUTO_INCREMENT,name varchar(50) NOT NULL); Query OK, 0 rows affected (0.02 sec) mysql> insert into huanqiu.haha values(1,"wangshibo"),(2,"guohuihui"); Query OK, 2 rows affected (0.00 sec) Records: 2 Duplicates: 0 Warnings: 0 mysql>select* from huanqiu.haha; +----+-----------+ |id| name | +----+-----------+ | 1 | wangshibo | | 2 | guohuihui | +----+-----------+ 2 rowsinset(0.00 sec) -------------------------------------------------------------------- 溫馨提示: 修改庫或表的字符集 mysql> alter database huanqiu default charactersetutf8;//修改huanqiu庫的字符集 mysql> alter table huanqiu.haha default charactersetutf8;//修改huanqiu.haha表的字符集 新增主鍵 mysql> Alter table huanqiu.haha add primary key(id);//將huanqiu.haha表的id新增主鍵 mysql> Alter table huanqiu.haha changeididint(10) not null auto_increment;//自增長屬性 刪除主鍵時要先刪除自增長,再刪除主鍵 mysql> Alter table huanqiu.haha changeididint(10);//刪除自增長 mysql> Alter table huanqiu.haha drop primary key;//刪除主建 -------------------------------------------------------------------- 下面是master資料庫上的操作: 1)設定master資料庫的my.cnf檔案(在[mysqld]配置區域新增下面內容) [root@master ~]# vim /usr/local/mysql/my.cnf ....... server-id=1#資料庫唯一ID,主從的標識號絕對不能重複。 log-bin=mysql-bin#開啟bin-log,並指定檔案目錄和檔名字首 binlog-do-db=huanqiu#需要同步的資料庫。如果是多個同步庫,就以此格式另寫幾行即可。如果不指明對某個具體庫同步,就去掉此行,表示同步所有庫(除了ignore忽略的庫)。 binlog-ignore-db=mysql#不同步mysql系統資料庫。如果是多個不同步庫,就以此格式另寫幾行;也可以在一行,中間逗號隔開。 sync_binlog = 1 #確保binlog日誌寫入後與硬碟同步 binlog_checksum = none #跳過現有的採用checksum的事件,mysql5.6.5以後的版本中binlog_checksum=crc32,而低版本都是binlog_checksum=none binlog_format = mixed #bin-log日誌檔案格式,設定為MIXED可以防止主鍵重複。 -------------------------------------------------------------------------------- 溫馨提示:在主伺服器上最重要的二進位制日誌設定是sync_binlog,這使得mysql在每次提交事務的時候把二進位制日誌的內容同步到磁碟上,即使伺服器崩潰也會把事件寫入日誌中。 sync_binlog這個引數是對於MySQL系統來說是至關重要的,他不僅影響到Binlog對MySQL所帶來的效能損耗,而且還影響到MySQL中資料的完整性。對於"sync_binlog"引數的各種設定的說明如下: sync_binlog=0,當事務提交之後,MySQL不做fsync之類的磁碟同步指令重新整理binlog_cache中的資訊到磁碟,而讓Filesystem自行決定什麼時候來做同步,或者cache滿了之後才同步到磁碟。 sync_binlog=n,當每進行n次事務提交之後,MySQL將進行一次fsync之類的磁碟同步指令來將binlog_cache中的資料強制寫入磁碟。 在MySQL中系統預設的設定是sync_binlog=0,也就是不做任何強制性的磁碟重新整理指令,這時候的效能是最好的,但是風險也是最大的。因為一旦系統Crash,在binlog_cache中的所有binlog資訊都會被丟失。而當設定為“1”的時候,是最安全但是效能損耗最大的設定。因為當設定為1的時候,即使系統Crash,也最多丟失binlog_cache中未完成的一個事務,對實際資料沒有任何實質性影響。 從以往經驗和相關測試來看,對於高併發事務的系統來說,“sync_binlog”設定為0和設定為1的系統寫入效能差距可能高達5倍甚至更多。 -------------------------------------------------------------------------------- 2)匯出master資料庫多餘slave資料庫中的資料,然後匯入到slave資料庫中。保證雙方在同步環境實現前的資料一致。 匯出資料庫之前先鎖定資料庫 mysql> flush tables withreadlock;#資料庫只讀鎖定命令,防止匯出資料庫的時候有資料寫入。unlock tables命令解除鎖定 匯出master資料庫中多餘的huanqiu庫(master資料庫的root使用者登陸密碼:123456) [root@master ~]# mysqldump -uroot huanqiu -p123456 >/opt/huanqiu.sql [root@master ~]# rsync -e "ssh -p22" -avpgolr /opt/huanqiu.sql 182.148.15.237:/opt/ #將匯出的sql檔案上傳到slave機器上 3)設定資料同步許可權 mysql> grant replication slave,replication client on *.* to slave@'182.148.15.237'identified by"slave@123"; Query OK, 0 rows affected (0.02 sec) mysql> flush privileges; Query OK, 0 rows affected (0.00 sec) -------------------------------------------------------------------------------- 溫馨提示: 許可權檢視方式 mysql> show grants; mysql> show grantsforslave@'182.148.1115.237'; -------------------------------------------------------------------------------- 4)檢視主伺服器master狀態(注意File與Position項,從伺服器需要這兩項引數) mysql> show master status; +------------------+----------+--------------+------------------+-------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set | +------------------+----------+--------------+------------------+-------------------+ | mysql-bin.000007 | 120 | huanqiu | mysql | | +------------------+----------+--------------+------------------+-------------------+ 1 rowinset(0.00 sec) 下面是slave資料庫上的操作: 1)設定slave資料庫的my.cnf配置檔案 [root@master ~]# vim /usr/local/mysql/my.cnf ....... server-id=2#設定從伺服器id,必須於主伺服器不同 log-bin=mysql-bin#啟動MySQ二進位制日誌系統 replicate-do-db=huanqiu#需要同步的資料庫名。如果不指明同步哪些庫,就去掉這行,表示所有庫的同步(除了ignore忽略的庫)。 replicate-ignore-db=mysql#不同步mysql系統資料庫 slave-skip-errors = all#跳過所有的錯誤錯誤,繼續執行復制操作 ----------------------------------------------------------------------------------------------- 溫馨提示: 當只針對某些庫的某張表進行同步時,如下,只同步huanqiu庫的haha表和huanpc庫的heihei表: replicate-do-db = huanqiu replicate-wild-do-table = huanqiu.haha//當只同步幾個或少數表時,可以這樣設定。注意這要跟上面的庫指定配合使用; replicate-do-db = huanpc replicate-wild-do-table = huanpc.heihei//如果同步的庫的表比較多時,就不能這樣一一指定了,就把這個選項配置去掉,直接根據指定的庫進行同步。 ----------------------------------------------------------------------------------------------- 2)在slave資料庫中匯入從master傳過來的資料。 mysql> CREATE DATABASE huanqiu CHARACTER SET utf8 COLLATE utf8_general_ci;#先建立一個huanqiu空庫,否則下面匯入資料時會報錯說此庫不存在。 mysql> use huanqiu; mysql>source/opt/huanqiu.sql; #匯入master中多餘的資料。 ....... 3)配置主從同步指令 mysql> stop slave; #執行同步前,要先關閉slave mysql> change master to master_host='182.148.15.238',master_user='slave',master_password='slave@123',master_log_file='mysql-bin.000007',master_log_pos=120; mysql> start slave; mysql> show slave status \G; ....... *************************** 1. row *************************** Slave_IO_State: Waitingformaster to send event Master_Host: 182.148.15.238 Master_User: slave Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000007 Read_Master_Log_Pos: 120 Relay_Log_File: mysql-relay-bin.000002 Relay_Log_Pos: 279 Relay_Master_Log_File: mysql-bin.000007 Slave_IO_Running: Yes Slave_SQL_Running: Yes Replicate_Do_DB: huanqiu Replicate_Ignore_DB: mysql ............. Seconds_Behind_Master: 0 如上,當IO和SQL執行緒的狀態均為Yes,則表示主從已實現同步了! 檢視slave資料庫中的資料情況 mysql> show databases; +--------------------+ | Database | +--------------------+ | information_schema | | huanqiu | | mysql | | performance_schema | |test| +--------------------+ 5 rowsinset(0.00 sec) mysql>select* from huanqiu.haha; +----+-----------+ |id| name | +----+-----------+ | 1 | wangshibo | | 2 | guohuihui | +----+-----------+ 2 rowsinset(0.00 sec) 下面測試下Mysql主從同步的效果 現在主資料庫上寫入新資料 mysql> unlock tables;#解鎖,否則新資料無法寫入 mysql> insert into huanqiu.haha values(100,"anhui"); Query OK, 1 row affected (0.00 sec) 然後在slave資料庫上檢視,發現master上新寫入的資料已經同步過來了 mysql>select* from huanqiu.haha; +-----+-----------+ |id| name | +-----+-----------+ | 1 | wangshibo | | 2 | guohuihui | | 100 | anhui | +-----+-----------+ 3 rowsinset(0.00 sec) 至此,主從同步環境已經實現!


Mysql主從環境部署一段時間後,發現主從不同步時,如何進行資料同步至一致?
有以下兩種做法:
1)參考:mysql主從同步(2)-問題梳理中的第(4)步的第二種方法
2)參考:mysql主從同步(3)-percona-toolkit工具(資料一致性監測、延遲監控)使用梳理

溫馨提示:在實際業務場景中,mysq主從同步時最好別過濾庫,即最好進行基於整個資料庫的同步配置。如果業務庫比較多的情況下,可使用mysql多例項方式進行同步,一個業務庫對應一個mysql例項,每個mysql例項做基於它的整個資料庫的同步配置。使用過濾庫或過濾表的方式進行主從同步配置,後續會帶來一些比較麻煩的坑。

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 從庫同步主庫的命令調整為: "change master to master_host = '主資料庫ip', master_port = 主資料庫mysql埠, master_user ='同步的使用者', master_password ='同步的密碼';" 針對上面的主從配置,調整為基於整個資料庫的主從同步配置,調整後的配置: 主資料庫的my.cnf配置: server-id=1 log-bin=mysql-bin sync_binlog = 1 binlog_checksum = none binlog_format = mixed 從資料庫的my.cnf配置: server-id=2 log-bin=mysql-bin slave-skip-errors = all 從庫同步主庫的命令如下(即不需要跟master_log_file 和 master_log_pos=120) mysql> change master to master_host ='182.148.15.238', master_port = 3306, master_user ='slave', master_password ='slave@123';

3)主主複製實現過程記錄

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 根據上面的主從環境部署,master和slave已經實現同步,即在master上寫入新資料,自動同步到slave。而從庫只能讀不能寫,一旦從庫有寫入資料,就會造成主從資料不一致! 下面就說下Mysql主主複製環境,在slave上更新資料時,master也能自動同步過來。 --------------------------------------------------------------------------- 溫馨提示: 在做主主同步前,提醒下需要特別注意的一個問題: 主主複製和主從複製有一些區別,因為多主中都可以對伺服器有寫許可權,所以設計到自增長重複問題,例如: 出現的問題(多主自增長ID重複) 1)首先在A和B兩個庫上建立test表結構; 2)停掉A,在B上對資料表test(存在自增長屬性的ID欄位)執行插入操作,返回插入ID為1; 3)然後停掉B,在A上對資料表test(存在自增長屬性的ID欄位)執行插入操作,返回的插入ID也是1; 4)然後 同時啟動A,B,就會出現主鍵ID重複 解決方法: 只要保證兩臺伺服器上的資料庫裡插入的自增長資料不同就可以了 如:A插入奇數ID,B插入偶數ID,當然如果伺服器多的話,還可以自定義演算法,只要不同就可以了 在下面例子中,在兩臺主主伺服器上加入引數,以實現奇偶插入! 記住:在做主主同步時需要設定自增長的兩個相關配置,如下: auto_increment_offset 表示自增長欄位從那個數開始,取值範圍是1 .. 65535。這個就是序號。如果有n臺mysql機器,則從第一臺開始分為設1,2...n auto_increment_increment 表示自增長欄位每次遞增的量,其預設值是1,取值範圍是1 .. 65535。如果有n臺mysql機器,這個值就設定為n。 在主主同步配置時,需要將兩臺伺服器的: auto_increment_increment 增長量都配置為2 auto_increment_offset 分別配置為1和2。這是序號,第一臺從1開始,第二臺就是2,以此類推!這樣效果就是:master的資料id是1,3,5,7..., slave的資料id是2,4,6,8.... 這樣才可以避免兩臺伺服器同時做更新時自增長欄位的值之間發生衝突。(針對的是有自增長屬性的欄位) --------------------------------------------------------------------------- 現在記錄下主主同步的操作過程: 1)在master上的my.cnf配置: [root@master ~]# vim /usr/local/mysql/my.cnf server-id= 1 log-bin = mysql-bin binlog-ignore-db = mysql,information_schema sync_binlog = 1 binlog_checksum = none binlog_format = mixed auto-increment-increment = 2 auto-increment-offset = 1 slave-skip-errors = all [root@master ~]# /etc/init.d/mysql restart Shutting down MySQL. SUCCESS! Starting MySQL.. SUCCESS! 資料同步授權(iptables防火牆開啟3306埠,要確保對方機器能使用下面許可權連線到本機mysql) mysql> grant replication slave,replication client on *.* to slave@'182.148.15.237'identified by"slave@123"; mysql> flush privileges; 最好將庫鎖住,僅僅允許讀,以保證資料一致性;待主主同步環境部署後再解鎖;鎖住後,就不能往表裡寫資料,但是重啟mysql服務後就會自動解鎖! mysql> FLUSH TABLES WITH READ LOCK;//注意該引數設定後,如果自己同步對方資料,同步前一定要記得先解鎖! Query OK, 0 rows affected (0.00 sec) mysql> show master status; +------------------+----------+--------------+------------------+-------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set | +------------------+----------+--------------+------------------+-------------------+ | mysql-bin.000001 | 1970 | | | | +------------------+----------+--------------+------------------+-------------------+ 1 rowinset(0.00 sec) 2)slave資料庫上 [root@slave ~]# vim /usr/local/mysql/my.cnf server-id= 2 log-bin = mysql-bin binlog-ignore-db = mysql,information_schema sync_binlog = 1 binlog_checksum = none binlog_format = mixed auto-increment-increment = 2 auto-increment-offset = 2 slave-skip-errors = all [root@slave ~]# /etc/init.d/mysql restart Shutting down MySQL. SUCCESS! Starting MySQL.. SUCCESS! 資料同步授權(iptables防火牆開啟3306埠,要確保對方機器能使用下面許可權連線到本機mysql) 同理,slave也要授權給master機器遠端同步資料的許可權 mysql> grant replication slave ,replication client on *.* to slave@'182.148.15.238'identified by"slave@123"; mysql> flush privileges; mysql> FLUSH TABLES WITH READ LOCK; mysql> show master status; +------------------+----------+--------------+------------------+-------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set | +------------------+----------+--------------+------------------+-------------------+ | mysql-bin.000001 | 4136 | | | | +------------------+----------+--------------+------------------+-------------------+ 1 rowinset(0.00 sec) 3)執行主主同步操作 先在slave資料庫上做同步master的設定。(確保slave上要同步的資料,提前在master上存在。最好雙方資料保持一致) mysql> unlock tables;//先解鎖,將對方資料同步到自己的資料庫中 mysql> slave stop; mysql> change master to master_host='182.148.15.238',master_user='slave',master_password='slave@123',master_log_file='master-bin.000001',master_log_pos=1970; mysql> start slave; mysql> show slave status \G; *************************** 1. row *************************** Slave_IO_State: Waitingformaster to send event Master_Host: 182.148.15.238 Master_User: slave Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 1970 Relay_Log_File: mysql-relay-bin.000003 Relay_Log_Pos: 750 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: Yes Slave_SQL_Running: Yes .................. 這樣就實現了slave->master的同步環境。 再在master資料庫上做同步slave的設定。(確保slave上要同步的資料,提前在master上存在。最好雙方資料保持一致) mysql> unlock tables; mysql> slave stop; mysql> change master to master_host='182.148.15.237',master_user='slave',master_password='slave@123',master_log_file='master-bin.000001',master_log_pos=4136; mysql> start slave; mysql> show slave status \G; *************************** 1. row *************************** Slave_IO_State: Waitingformaster to send event Master_Host: 182.148.15.237 Master_User: slave Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000001 Read_Master_Log_Pos: 4136 Relay_Log_File: mysql-relay-bin.000003 Relay_Log_Pos: 750 Relay_Master_Log_File: mysql-bin.000001 Slave_IO_Running: Yes Slave_SQL_Running: Yes .................. 這樣就實現了master->slave的同步環境。至此,主主雙向同步環境已經實現! 測試下Mysql主主同步的效果 在master上寫入新資料 mysql>select* from huanqiu.haha; +-----+-----------+ |id| name | +-----+-----------+ | 1 | wangshibo | | 2 | guohuihui | | 100 | anhui | +-----+-----------+ 3 rowsinset(0.00 sec) mysql> insert into huanqiu.haha values(15,"guocongcong"); 在slave資料庫中檢視,發現master新寫入的資料已經同步過來了 mysql>select* from huanqiu.haha; +-----+------------+ |id| name | +-----+------------+ | 1 | wangshibo | | 2 | guohuihui | | 15 | guocongcong| | 100 | anhui | +-----+------------+ 3 rowsinset(0.00 sec) 在slave上刪除資料 mysql> delete from huanqiu.haha whereid=100; 在master資料庫中檢視 mysql>select* from huanqiu.haha; +-----+------------+ |id| name | +-----+------------+ | 1 | wangshibo | | 2 | guohuihui | | 15 | guocongcong| +-----+------------+ 3 rowsinset(0.00 sec)