Mysql半同步複製模式說明 - 運維小結
MySQL主從複製包括非同步模式、半同步模式、GTID模式以及多源複製模式,預設是非同步模式 (如之前詳細介紹的mysql主從複製)。所謂非同步模式指的是MySQL 主伺服器上I/O thread 執行緒將二進位制日誌寫入binlog檔案之後就返回客戶端結果,不會考慮二進位制日誌是否完整傳輸到從伺服器以及是否完整存放到從伺服器上的relay日誌中,這種模式一旦主服務(器)宕機,資料就可能會發生丟失。
非同步模式是一種基於偏移量的主從複製,實現原理是:主庫開啟binlog功能並授權從庫連線主庫,從庫通過change master得到主庫的相關同步資訊然後連線主庫進行驗證,主庫IO執行緒根據從庫slave執行緒的請求,從master.info開始記錄的位置點向下開始取資訊,同時把取到的位置點和最新的位置與binlog資訊一同發給從庫IO執行緒,從庫將相關的sql語句存放在relay-log裡面,最終從庫的sql執行緒將relay-log裡的sql語句應用到從庫上,至此整個同步過程完成,之後將是無限重複上述過程。
設定MySQL主從同步一般步驟為: 1) 主資料庫例項設定server-id和開啟bin-log; 2) 主資料庫例項建立用於同步的賬號; 3) 從資料庫例項設定server-id; 4) 從資料庫例項配置同步引數(change master to .....); 5) 從資料庫例項啟動同步開關。
這裡順便說下之前給過的一道面試題:描述msyql replication 機制的實現原理,如何在不停掉mysql主庫的情況下,恢復資料不一致的slave的資料庫節點?
MySQL的複製(replication)是一個非同步的複製,從一個MySQL instace(稱之為Master)複製到另一個MySQL instance(稱之Slave)。實現整個複製操作主要由三個程序完成的,其中兩個程序在Slave(Sql程序和IO程序),另外一個程序在Master(IO程序)上。簡單來說,Mysql複製就是一種基於binlog的單執行緒非同步複製過程!!
MySQL Replication複製的基本過程如下:
1) Slave上面的IO程序連線上Master,並請求從指定日誌檔案的指定位置(或者從最開始的日誌)之後的日誌內容
mysql> CHANGE MASTER TO -> MASTER_HOST='master_host_name', -> MASTER_USER='replication_user_name', -> MASTER_PASSWORD='replication_password', -> MASTER_LOG_FILE='recorded_log_file_name', -> MASTER_LOG_POS=recorded_log_position;
2) Master接收到來自Slave的IO程序的請求後,通過負責複製的IO程序根據請求資訊讀取制定日誌指定位置之後的日誌資訊,返回給Slave的IO程序。返回資訊中除了日誌所包含的資訊之外,還包括本次返回的資訊已經到Master端的bin-log檔案的名稱以及bin-log的位置;
3) Slave的IO程序接收到資訊後,將接收到的日誌內容依次新增到Slave端的relay-log檔案的最末端,並將讀取到的Master端的bin-log的檔名和位置記錄到master-info檔案中,以便在下一次讀取的時候能夠清楚的高速Maste “我需要從某個bin-log的哪個位置開始往後的日誌內容,請發給我”!
4) Slave的Sql程序檢測到relay-log中新增加了內容後,會馬上解析relay-log的內容成為在Master端真實執行時候的那些可執行的內容,並在自身執行
上面提到的是mysql預設的非同步同步模式,接下來重點說下Mysql半同步複製,從MySQL5.5開始,MySQL以外掛的形式支援半同步複製。先來區別下mysql幾個同步模式概念:
非同步複製(Asynchronous replication)
MySQL預設的複製即是非同步的,主庫在執行完客戶端提交的事務後會立即將結果返給給客戶端,並不關心從庫是否已經接收並處理,這樣就會有一個問題,主如果crash掉了,此時主上已經提交的事務可能並沒有傳到從上,如果此時,強行將從提升為主,可能導致新主上的資料不完整。
全同步複製(Fully synchronous replication)
指當主庫執行完一個事務,所有的從庫都執行了該事務才返回給客戶端。因為需要等待所有從庫執行完該事務才能返回,所以全同步複製的效能必然會收到嚴重的影響。
半同步複製(Semisynchronous replication)
介於非同步複製和全同步複製之間,主庫在執行完客戶端提交的事務後不是立刻返回給客戶端,而是等待至少一個從庫接收到並寫到relay log中才返回給客戶端。相對於非同步複製,半同步複製提高了資料的安全性,同時它也造成了一定程度的延遲,這個延遲最少是一個TCP/IP往返的時間。所以,半同步複製最好在低延時的網路中使用。
下面來看看半同步複製的原理圖:
半同步複製的潛在問題
客戶端事務在儲存引擎層提交後,在得到從庫確認的過程中,主庫宕機了,此時,可能的情況有兩種
- 事務還沒傳送到從庫上
此時,客戶端會收到事務提交失敗的資訊,客戶端會重新提交該事務到新的主上,當宕機的主庫重新啟動後,以從庫的身份重新加入到該主從結構中,會發現,該事務在從庫中被提交了兩次,一次是之前作為主的時候,一次是被新主同步過來的。
- 事務已經發送到從庫上
此時,從庫已經收到並應用了該事務,但是客戶端仍然會收到事務提交失敗的資訊,重新提交該事務到新的主上。
無資料丟失的半同步複製
針對上述潛在問題,MySQL 5.7引入了一種新的半同步方案:Loss-Less半同步複製。針對上面這個圖,"Waiting Slave dump"被調整到"Storage Commit"之前。當然,之前的半同步方案同樣支援,MySQL 5.7.2引入了一個新的引數進行控制: rpl_semi_sync_master_wait_point, 這個引數有兩種取值:1) AFTER_SYNC , 這個是新的半同步方案,Waiting Slave dump在Storage Commit之前。2) AFTER_COMMIT, 這個是老的半同步方案。
半同步複製的安裝部署條件
要想使用半同步複製,必須滿足以下幾個條件:
1)MySQL 5.5及以上版本!
2)變數have_dynamic_loading為YES (檢視命令:show variables like "have_dynamic_loading";)
3) 非同步複製已經存在!(即提前部署mysql主從複製環境)
- 首先載入外掛
因使用者需執行INSTALL PLUGIN, SET GLOBAL, STOP SLAVE和START SLAVE操作,所以使用者需有SUPER許可權。
主資料庫執行:
mysql> INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so';
從資料庫執行:
mysql> INSTALL PLUGIN rpl_semi_sync_slave SONAME 'semisync_slave.so';
- 檢視外掛是否載入成功的兩種方式:
1) 方式一
mysql> show plugins; ........ | rpl_semi_sync_master | ACTIVE | REPLICATION | semisync_master.so | GPL |
2) 方式二
mysql> SELECT PLUGIN_NAME, PLUGIN_STATUS FROM INFORMATION_SCHEMA.PLUGINS WHERE PLUGIN_NAME LIKE '%semi%'; +----------------------+---------------+ | PLUGIN_NAME | PLUGIN_STATUS | +----------------------+---------------+ | rpl_semi_sync_master | ACTIVE | +----------------------+---------------+ 1 row in set (0.00 sec)
- 啟動半同步複製
在安裝完外掛後,半同步複製預設是關閉的,這時需設定引數來開啟半同步
主資料庫執行:
mysql> SET GLOBAL rpl_semi_sync_master_enabled = 1;
從資料庫執行:
mysql> SET GLOBAL rpl_semi_sync_slave_enabled = 1;
以上的啟動方式是在登入mysql後的命令列操作,也可寫在my.cnf配置檔案中。
主資料庫的my.cnf配置檔案中新增:
plugin-load=rpl_semi_sync_master=semisync_master.so rpl_semi_sync_master_enabled=1
從資料庫的my.cnf配置檔案中新增:
plugin-load=rpl_semi_sync_slave=semisync_slave.so rpl_semi_sync_slave_enabled=1
在個別高可用架構下,master和slave需同時啟動,以便在切換後能繼續使用半同步複製!即在主從資料庫的my.cnf配置檔案中都要新增:
plugin-load = "rpl_semi_sync_master=semisync_master.so;rpl_semi_sync_slave=semisync_slave.so" rpl-semi-sync-master-enabled = 1 rpl-semi-sync-slave-enabled = 1
- 重啟從資料庫上的IO執行緒
mysql> STOP SLAVE IO_THREAD; mysql> START SLAVE IO_THREAD;
特別注意: 如果沒有重啟,則預設的還是非同步複製模式!,重啟後,slave會在master上註冊為半同步複製的slave角色。這時候,主的error.log中會列印如下資訊:
2019-01-05T10:03:40.104327Z 5 [Note] While initializing dump thread for slave with UUID <ce9aaf22-5af6-11e6-850b-000c2988bad2>, found a zombie dump thread with the same UUID. Master is killing the zombie dump thread(4). 2019-01-05T10:03:40.111175Z 4 [Note] Stop asynchronous binlog_dump to slave (server_id: 2) 2019-01-05T10:03:40.119037Z 5 [Note] Start binlog_dump to master_thread_id(5) slave_server(2), pos(mysql-bin.000003, 621) 2019-01-05T10:03:40.119099Z 5 [Note] Start semi-sync binlog_dump to slave (server_id: 2), pos(mysql-bin.000003, 621)
- 檢視半同步是否在執行
主資料庫:
mysql> show status like 'Rpl_semi_sync_master_status'; +-----------------------------+-------+ | Variable_name | Value | +-----------------------------+-------+ | Rpl_semi_sync_master_status | ON | +-----------------------------+-------+ 1 row in set (0.00 sec)
從資料庫:
mysql> show status like 'Rpl_semi_sync_slave_status'; +----------------------------+-------+ | Variable_name | Value | +----------------------------+-------+ | Rpl_semi_sync_slave_status | ON | +----------------------------+-------+ 1 row in set (0.20 sec)
這兩個變數常用來監控主從是否執行在半同步複製模式下。至此,MySQL半同步複製環境就部署完成了!
需要注意下,其實Mysql半同步複製並不是嚴格意義上的半同步複製。當半同步複製發生超時時(由rpl_semi_sync_master_timeout引數控制,單位是毫秒,預設為10000,即10s),會暫時關閉半同步複製,轉而使用非同步複製。當master dump執行緒傳送完一個事務的所有事件之後,如果在rpl_semi_sync_master_timeout內,收到了從庫的響應,則主從又重新恢復為半同步複製。
mysql> show variables like "rpl_semi_sync_master_timeout"; +------------------------------+-------+ | Variable_name | Value | +------------------------------+-------+ | rpl_semi_sync_master_timeout | 10000 | +------------------------------+-------+ 1 row in set (0.01 sec)
接下來可以測試下:
1) 主資料庫 (從資料庫在執行"stop slave"之前)
mysql> create database bobo; Query OK, 1 row affected (0.05 sec) mysql> create table bobo.ceshi(id int); Query OK, 0 row affected (0.28 sec) mysql> insert into bobo.ceshi values(1); Query OK, 1 row affected (0.09 sec)
2) 從資料執行"stop slave"
mysql> stop slave;
再觀察主資料庫
mysql> insert into bobo.ceshi values(2); Query OK, 1 row affected (10.01 sec) mysql> show status like 'Rpl_semi_sync_master_status'; +-----------------------------+-------+ | Variable_name | Value | +-----------------------------+-------+ | Rpl_semi_sync_master_status | OFF | +-----------------------------+-------+ 1 row in set (0.00 sec)
檢視從資料庫
mysql> show status like 'Rpl_semi_sync_slave_status'; +-----------------------------+-------+ | Variable_name | Value | +-----------------------------+-------+ | Rpl_semi_sync_slave_status | OFF | +-----------------------------+-------+ 1 row in set (0.01 sec)
3) 接著再在從資料庫執行"start slave"
mysql> start slave;
再觀察主資料
mysql> insert into bobo.ceshi values(3); Query OK, 1 row affected (0.00 sec) mysql> show status like 'Rpl_semi_sync_master_status'; +-----------------------------+-------+ | Variable_name | Value | +-----------------------------+-------+ | Rpl_semi_sync_master_status | ON | +-----------------------------+-------+ 1 row in set (0.00 sec)
檢視從資料庫
mysql> show status like 'Rpl_semi_sync_slave_status'; +-----------------------------+-------+ | Variable_name | Value | +-----------------------------+-------+ | Rpl_semi_sync_slave_status | ON | +-----------------------------+-------+ 1 row in set (0.00 sec)
以上驗證分為三個階段:
1) 在Slave執行stop slave之前,主的insert操作很快就能返回。
2) 在Slave執行stop slave後,主的insert操作需要10.01s才返回,而這與rpl_semi_sync_master_timeout引數的時間相吻合。這時,檢視兩個狀態的值,均為“OFF”了。同時,主的error.log中列印如下資訊:
2019-01-05T11:51:49.855452Z 6 [Warning] Timeout waiting for reply of binlog (file: mysql-bin.000003, pos: 1447), semi-sync up to file mysql-bin.000003, position 1196. 2019-01-05T11:51:49.855742Z 6 [Note] Semi-sync replication switched OFF.
3) 在Slave執行start slave後,主的insert操作很快就能返回,此時,兩個狀態的值也變為“ON”了。同時,主的error.log中會列印如下資訊:
2019-01-05T11:52:40.477098Z 7 [Note] Start binlog_dump to master_thread_id(7) slave_server(2), pos(mysql-bin.000003, 1196) 2019-01-05T11:52:40.477168Z 7 [Note] Start semi-sync binlog_dump to slave (server_id: 2), pos(mysql-bin.000003, 1196) 2019-01-05T11:52:40.523475Z 0 [Note] Semi-sync replication switched ON at (mysql-bin.000003, 1447)
其他變數說明
環境變數(show variables like '%Rpl%';)
mysql> show variables like '%Rpl%'; +-------------------------------------------+------------+ | Variable_name | Value | +-------------------------------------------+------------+ | rpl_semi_sync_master_enabled | ON | | rpl_semi_sync_master_timeout | 10000 | | rpl_semi_sync_master_trace_level | 32 | | rpl_semi_sync_master_wait_for_slave_count | 1 | | rpl_semi_sync_master_wait_no_slave | ON | | rpl_semi_sync_master_wait_point | AFTER_SYNC | | rpl_stop_slave_timeout | 31536000 | +-------------------------------------------+------------+ 7 rows in set (0.30 sec)
rpl_semi_sync_master_wait_for_slave_count
MySQL 5.7.3引入的,該變數設定主需要等待多少個slave應答,才能返回給客戶端,預設為1。
rpl_semi_sync_master_wait_no_slave
ON
預設值,當狀態變數Rpl_semi_sync_master_clients中的值小於rpl_semi_sync_master_wait_for_slave_count時,Rpl_semi_sync_master_status依舊顯示為ON。
OFF
當狀態變數Rpl_semi_sync_master_clients中的值於rpl_semi_sync_master_wait_for_slave_count時,Rpl_semi_sync_master_status立即顯示為OFF,即非同步複製。
簡單來說,如果mysql架構是1主2從,2個從都採用了半同步複製,且設定的是rpl_semi_sync_master_wait_for_slave_count=2,如果其中一個掛掉了,對於rpl_semi_sync_master_wait_no_slave設定為ON的情況,此時顯示的仍然是半同步複製,如果rpl_semi_sync_master_wait_no_slave設定為OFF,則會立刻變成非同步複製。
狀態變數(show status like '%Rpl_semi%';)
mysql> show status like '%Rpl_semi%'; +--------------------------------------------+-------+ | Variable_name | Value | +--------------------------------------------+-------+ | Rpl_semi_sync_master_clients | 1 | | Rpl_semi_sync_master_net_avg_wait_time | 0 | | Rpl_semi_sync_master_net_wait_time | 0 | | Rpl_semi_sync_master_net_waits | 6 | | Rpl_semi_sync_master_no_times | 1 | | Rpl_semi_sync_master_no_tx | 1 | | Rpl_semi_sync_master_status | ON | | Rpl_semi_sync_master_timefunc_failures | 0 | | Rpl_semi_sync_master_tx_avg_wait_time | 1120 | | Rpl_semi_sync_master_tx_wait_time | 4483 | | Rpl_semi_sync_master_tx_waits | 4 | | Rpl_semi_sync_master_wait_pos_backtraverse | 0 | | Rpl_semi_sync_master_wait_sessions | 0 | | Rpl_semi_sync_master_yes_tx | 4 | +--------------------------------------------+-------+ 14 rows in set (0.00 sec)
Rpl_semi_sync_master_clients
當前半同步複製從的個數,如果是一主多從的架構,並不包含非同步複製從的個數。
Rpl_semi_sync_master_no_tx
The number of commits that were not acknowledged successfully by a slave.
具體到上面的測試中,指的是insert into bobo.ceshi values(2)這個事務。
Rpl_semi_sync_master_yes_tx
The number of commits that were acknowledged successfully by a slave.
具體到上面的測試中,指的是以下四個事務:
mysql> create database bobo;
mysql> create table bobo.ceshi(id int);
mysql> insert into bobo.ceshi values(1);
mysql> insert into bobo.ceshi values(3);
簡單總結:
1) 在一主多從的架構中,如果要開啟半同步複製,並不要求所有的從都是半同步複製。
2) MySQL 5.7極大的提升了半同步複製的效能。
5.6版本的半同步複製,dump thread 承擔了兩份不同且又十分頻繁的任務:傳送binlog 給slave ,還需要等待slave反饋資訊,而且這兩個任務是序列的,dump thread 必須等待 slave 返回之後才會傳送下一個 events 事務。dump thread 已然成為整個半同步提高效能的瓶頸。在高併發業務場景下,這樣的機制會影響資料庫整體的TPS 。
5.7版本的半同步複製中,獨立出一個 ack collector thread ,專門用於接收slave 的反饋資訊。這樣master 上有兩個執行緒獨立工作,可以同時傳送binlog 到slave ,和接收slave的反饋。