MySQL中slave_exec_mode引數詳解
今天無意當中看到引數slave_exec_mode,從手冊裡的說明看出該引數和MySQL複製相關,是可以動態修改的變數,預設是STRICT模式(嚴格模式),可選值有IDEMPOTENT模式(冪等模式)。設定成IDEMPOTENT模式可以讓從庫避免1032(從庫上不存在的鍵)和1062(重複鍵,需要存在主鍵或則唯一鍵)的錯誤,該模式只有在ROW EVENT的binlog模式下生效,在STATEMENT EVENT的binlog模式下無效。IDEMPOTENT模式主要用於多主複製和NDB CLUSTER的情況下,其他情況不建議使用。從上面的介紹來看,這個引數的讓從庫跳過指定的錯誤,那問題來了:
1:和sql_slave_skip_counter 比,有什麼好處?
2:和 slave-skip-errors = N比,有什麼好處?
帶著這2個問題,本文來進行相關的測試和說明。
環境:
MySQL版本:Percona MySQL 5.7
複製模式:ROW,沒有開啟GTID
測試:
① 1062 錯誤:Could not execute ... event on table db.x; Duplicate entry 'xx' for key 'PRIMARY',Error_code: 1062;
主從上的測試表結構:
CREATE TABLE `x` ( `id` int(11) NOT NULL AUTO_INCREMENT,PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8
主從上的表記錄:
M:
select * from x; +----+ | id | +----+ | 2 | | 3 | +----+ 2 rows in set (0.01 sec)
S:
select * from x; +----+ | id | +----+ | 1 | | 2 | | 3 | +----+ 3 rows in set (0.00 sec)
主從上的表記錄本來就不一致了,主上缺少了id=1的記錄。
此時從上的slave_exec_mode為預設的STRICT模式:
show variables like 'slave_exec_mode'; +-----------------+--------+ | Variable_name | Value | +-----------------+--------+ | slave_exec_mode | STRICT | +-----------------+--------+ 1 row in set (0.00 sec)
M上的binlog模式為:
show variables like 'binlog_format'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | ROW | +---------------+-------+ 1 row in set (0.00 sec)
在M上執行:
insert into x values(1),(4),(5); Query OK,3 rows affected (0.00 sec) Records: 3 Duplicates: 0 Warnings: 0
因為從上已經存在了id=1的記錄,此時從的複製就報了1062的錯誤:
Last_SQL_Errno: 1062 Last_SQL_Error: Could not execute Write_rows event on table dba_test.x; Duplicate entry '1' for key 'PRIMARY',Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event's master log mysql-bin-3306.000006,end_log_pos 7124
出現這個錯誤時,大家的一致做法就是執行:sql_slave_skip_counter=N。
1、set global sql_slave_skip_counter=N中的N是指跳過N個event 2、最好記的是N被設定為1時,效果跳過下一個事務。 3、跳過第N個event後,位置若剛好落在一個事務內部,則會跳過這整個事務 4、一個insert/update/delete不一定只對應一個event,由引擎和日誌格式決定
sql_slave_skip_counter的單位是“event”,很多人認為該引數的單位是“事務”,其實是錯誤的,因為一個事務裡包含了多個event,跳過N個可能還是在同一個事務當中。對於上面出現1062的錯誤,把N設定成1~4效果是一樣的,都是跳過一個事務。因為執行的SQL生成了4個event:
show binlog events in 'mysql-bin-3306.000006' from 6950; +-----------------------+------+------------+-----------+-------------+---------------------------------+ | Log_name | Pos | Event_type | Server_id | End_log_pos | Info | +-----------------------+------+------------+-----------+-------------+---------------------------------+ | mysql-bin-3306.000006 | 6950 | Query | 169 | 7026 | BEGIN | | mysql-bin-3306.000006 | 7026 | Table_map | 169 | 7074 | table_id: 707 (dba_test.x) | | mysql-bin-3306.000006 | 7074 | Write_rows | 169 | 7124 | table_id: 707 flags: STMT_END_F | | mysql-bin-3306.000006 | 7124 | Xid | 169 | 7155 | COMMIT /* xid=74803 */ | +-----------------------+------+------------+-----------+-------------+---------------------------------+ 4 rows in set (0.00 sec)
所以處理該錯誤的方法有:
1:skip_slavesql_slave_skip_counter
stop slave; Query OK,0 rows affected (0.00 sec) set global sql_slave_skip_counter=[1-4]; Query OK,0 rows affected (0.00 sec) start slave; Query OK,0 rows affected (0.00 sec)
2:在配置檔案裡指定slave-skip-errors=1062(需要重啟)
這2種方法都能讓複製恢復正常,但是會讓主從資料不一致(謹慎使用),讓從庫丟失了id=4和5的記錄。並且第2種方法還需要重啟資料庫,這時本文介紹的slave_exec_mode引數就派上用場了。在從庫上設定該引數:
set global slave_exec_mode='IDEMPOTENT'; Query OK,0 rows affected (0.00 sec) stop slave; Query OK,0 rows affected (0.00 sec)
同樣在主上執行:
insert into x values(1),(5);
可以驚喜的發現主從資料是同步的,沒有出現複製異常:
M: select * from x; +----+ | id | +----+ | 1 | | 2 | | 3 | | 4 | | 5 | +----+ 5 rows in set (0.00 sec) S: select * from x; +----+ | id | +----+ | 1 | | 2 | | 3 | | 4 | | 5 | +----+ 5 rows in set (0.01 sec)
上面的測試可以看到,引數設定成slave_exec_mode='IDEMPOTENT' 後,可以跳過出一個錯誤的event。
② 1032錯誤:Could not execute ... event on table db.x; Can't find record in 'x',Error_code: 1032;
這個錯誤的出現是因為ROW模式下的複製,對資料的一致性有了很嚴的要求
主從上的測試表結構:
CREATE TABLE `x` ( `id` int(11) NOT NULL AUTO_INCREMENT,PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8
主從上的表記錄:
M:
select * from x; +----+ | id | +----+ | 1 | | 2 | | 3 | +----+ 3 rows in set (0.00 sec)
S:
select * from x; +----+ | id | +----+ | 1 | | 3 | +----+ 2 rows in set (0.00 sec)
主從上的表記錄本來就不一致了,從上缺少了id=2的記錄。此時從上的slave_exec_mode為預設的STRICT模式:
show variables like 'slave_exec_mode'; +-----------------+--------+ | Variable_name | Value | +-----------------+--------+ | slave_exec_mode | STRICT | +-----------------+--------+ 1 row in set (0.00 sec)
M上的binlog模式為:
show variables like 'binlog_format'; +---------------+-------+ | Variable_name | Value | +---------------+-------+ | binlog_format | ROW | +---------------+-------+ 1 row in set (0.00 sec)
在M上執行:
BEGIN; INSERT INTO x SELECT 4; DELETE FROM x WHERE id = 2; INSERT INTO x SELECT 5; COMMIT;
因為從上不存在了id=2的記錄,此時從的複製就報了1032的錯誤:
Last_SQL_Errno: 1032 Last_SQL_Error: Could not execute Delete_rows event on table dba_test.x; Can't find record in 'x',Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysql-bin-3306.000006,end_log_pos 12102
同樣的,在上面測試中說明的2種方法可以讓複製正常,但是資料也一樣會丟失。丟失了id=4和5的記錄,繼續在從庫上設定該引數:
set global slave_exec_mode='IDEMPOTENT'; Query OK,0 rows affected (0.00 sec)
在M上執行同樣的操作:
BEGIN; INSERT INTO x SELECT 4; DELETE FROM x WHERE id = 2; INSERT INTO x SELECT 5; COMMIT;
也可以驚喜的發現主從資料是同步的,沒有出現複製異常。
注意:slave_exec_mode='IDEMPOTENT'不能對DDL操作冪等,並且也不能對欄位長度不同導致的錯誤進行冪等,如把例子中的從庫表的id欄位型別int改成bigint。並且只能在binlog_format為ROW的模式下使用,而且只能對1032和1062進行冪等模式。
總結:
對於上面的測試總結,針對slave_exec_mode引數,它可以跳過1062和1032的錯誤,並且不影響同一個事務中正常的資料執行。如果是多個SQL組成的事務,則可以跳過有問題的event。
看著這個引數很不錯,但手冊上說明不建議在普通的複製環境中開啟。對於NDB以外的儲存引擎,只有在確定可以安全地忽略重複鍵錯誤和沒有鍵的錯誤時,才應使用IDEMPOTENT模式。這引數是專門針對NBD Cluster進行設計的,NBD Cluster模式下,該引數只能設定成IDEMPOTENT模式。所以要根據自己的應用場景來決定,正常情況下,主從是一致的,有任何錯誤發生都要報錯,不過在做特殊處理時,可以臨時開啟。
另外在GTID模式下的複製,sql_slave_skip_counter是不支援的,該模式下的複製可以自行測試。