1. 程式人生 > 資料庫 >MySQL中slave_exec_mode引數詳解

MySQL中slave_exec_mode引數詳解

今天無意當中看到引數slave_exec_mode,從手冊裡的說明看出該引數和MySQL複製相關,是可以動態修改的變數,預設是STRICT模式(嚴格模式),可選值有IDEMPOTENT模式(冪等模式)。設定成IDEMPOTENT模式可以讓從庫避免1032(從庫上不存在的鍵)和1062(重複鍵,需要存在主鍵或則唯一鍵)的錯誤,該模式只有在ROW EVENT的binlog模式下生效,在STATEMENT EVENT的binlog模式下無效。IDEMPOTENT模式主要用於多主複製和NDB CLUSTER的情況下,其他情況不建議使用。從上面的介紹來看,這個引數的讓從庫跳過指定的錯誤,那問題來了:

1:和sql_slave_skip_counter 比,有什麼好處?

2:和 slave-skip-errors = N比,有什麼好處?

帶著這2個問題,本文來進行相關的測試和說明。

環境:

MySQL版本:Percona MySQL 5.7

複製模式:ROW,沒有開啟GTID

測試:

① 1062 錯誤:Could not execute ... event on table db.x; Duplicate entry 'xx' for key 'PRIMARY',Error_code: 1062;

主從上的測試表結構:

CREATE TABLE `x` (
 `id` int(11) NOT NULL AUTO_INCREMENT,PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8

主從上的表記錄:

M:

select * from x;
+----+
| id |
+----+
| 2 |
| 3 |
+----+
2 rows in set (0.01 sec)

S:

select * from x;
+----+
| id |
+----+
| 1 |
| 2 |
| 3 |
+----+
3 rows in set (0.00 sec)

主從上的表記錄本來就不一致了,主上缺少了id=1的記錄。

此時從上的slave_exec_mode為預設的STRICT模式:

show variables like 'slave_exec_mode';
+-----------------+--------+
| Variable_name  | Value |
+-----------------+--------+
| slave_exec_mode | STRICT |
+-----------------+--------+
1 row in set (0.00 sec)

M上的binlog模式為:

show variables like 'binlog_format';                                                      +---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW  |
+---------------+-------+
1 row in set (0.00 sec)

在M上執行:

insert into x values(1),(4),(5);
Query OK,3 rows affected (0.00 sec)
Records: 3 Duplicates: 0 Warnings: 0

因為從上已經存在了id=1的記錄,此時從的複製就報了1062的錯誤:

Last_SQL_Errno: 1062
Last_SQL_Error: Could not execute Write_rows event on table dba_test.x; Duplicate entry '1' for key 'PRIMARY',Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event's master log mysql-bin-3306.000006,end_log_pos 7124

出現這個錯誤時,大家的一致做法就是執行:sql_slave_skip_counter=N。

1、set global sql_slave_skip_counter=N中的N是指跳過N個event
2、最好記的是N被設定為1時,效果跳過下一個事務。
3、跳過第N個event後,位置若剛好落在一個事務內部,則會跳過這整個事務
4、一個insert/update/delete不一定只對應一個event,由引擎和日誌格式決定

sql_slave_skip_counter的單位是“event”,很多人認為該引數的單位是“事務”,其實是錯誤的,因為一個事務裡包含了多個event,跳過N個可能還是在同一個事務當中。對於上面出現1062的錯誤,把N設定成1~4效果是一樣的,都是跳過一個事務。因為執行的SQL生成了4個event:

show binlog events in 'mysql-bin-3306.000006' from 6950;
+-----------------------+------+------------+-----------+-------------+---------------------------------+
| Log_name       | Pos | Event_type | Server_id | End_log_pos | Info              |
+-----------------------+------+------------+-----------+-------------+---------------------------------+
| mysql-bin-3306.000006 | 6950 | Query   |    169 |    7026 | BEGIN              |
| mysql-bin-3306.000006 | 7026 | Table_map |    169 |    7074 | table_id: 707 (dba_test.x)   |
| mysql-bin-3306.000006 | 7074 | Write_rows |    169 |    7124 | table_id: 707 flags: STMT_END_F |
| mysql-bin-3306.000006 | 7124 | Xid    |    169 |    7155 | COMMIT /* xid=74803 */     |
+-----------------------+------+------------+-----------+-------------+---------------------------------+
4 rows in set (0.00 sec)

所以處理該錯誤的方法有:

1:skip_slavesql_slave_skip_counter

stop slave;                                                                   Query OK,0 rows affected (0.00 sec)
set global sql_slave_skip_counter=[1-4];
Query OK,0 rows affected (0.00 sec)
start slave;
Query OK,0 rows affected (0.00 sec)

2:在配置檔案裡指定slave-skip-errors=1062(需要重啟)

這2種方法都能讓複製恢復正常,但是會讓主從資料不一致(謹慎使用),讓從庫丟失了id=4和5的記錄。並且第2種方法還需要重啟資料庫,這時本文介紹的slave_exec_mode引數就派上用場了。在從庫上設定該引數:

set global slave_exec_mode='IDEMPOTENT';
Query OK,0 rows affected (0.00 sec)
stop slave;                                                                   Query OK,0 rows affected (0.00 sec)

同樣在主上執行:

insert into x values(1),(5);

可以驚喜的發現主從資料是同步的,沒有出現複製異常:

M:
select * from x;                                                                +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
| 4 |
| 5 |
+----+
5 rows in set (0.00 sec)

S:
select * from x;                                                                +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
| 4 |
| 5 |
+----+
5 rows in set (0.01 sec)

上面的測試可以看到,引數設定成slave_exec_mode='IDEMPOTENT' 後,可以跳過出一個錯誤的event。

② 1032錯誤:Could not execute ... event on table db.x; Can't find record in 'x',Error_code: 1032;

這個錯誤的出現是因為ROW模式下的複製,對資料的一致性有了很嚴的要求

主從上的測試表結構:

CREATE TABLE `x` (
 `id` int(11) NOT NULL AUTO_INCREMENT,PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=4 DEFAULT CHARSET=utf8

主從上的表記錄:

M:

select * from x;                                                                +----+
| id |
+----+
| 1 |
| 2 |
| 3 |
+----+
3 rows in set (0.00 sec)

S:

select * from x;
+----+
| id |
+----+
| 1 |
| 3 |
+----+
2 rows in set (0.00 sec)

主從上的表記錄本來就不一致了,從上缺少了id=2的記錄。此時從上的slave_exec_mode為預設的STRICT模式:

show variables like 'slave_exec_mode';
+-----------------+--------+
| Variable_name  | Value |
+-----------------+--------+
| slave_exec_mode | STRICT |
+-----------------+--------+
1 row in set (0.00 sec) 

M上的binlog模式為:

show variables like 'binlog_format';                                                      +---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW  |
+---------------+-------+
1 row in set (0.00 sec)

在M上執行:

BEGIN;
INSERT INTO x SELECT 4;
DELETE FROM x WHERE id = 2;
INSERT INTO x SELECT 5;
COMMIT;

因為從上不存在了id=2的記錄,此時從的複製就報了1032的錯誤:

Last_SQL_Errno: 1032
Last_SQL_Error: Could not execute Delete_rows event on table dba_test.x; Can't find record in 'x',Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event's master log mysql-bin-3306.000006,end_log_pos 12102

同樣的,在上面測試中說明的2種方法可以讓複製正常,但是資料也一樣會丟失。丟失了id=4和5的記錄,繼續在從庫上設定該引數:

set global slave_exec_mode='IDEMPOTENT';
Query OK,0 rows affected (0.00 sec)

在M上執行同樣的操作:

BEGIN;
INSERT INTO x SELECT 4;
DELETE FROM x WHERE id = 2;
INSERT INTO x SELECT 5;
COMMIT;

也可以驚喜的發現主從資料是同步的,沒有出現複製異常。

注意:slave_exec_mode='IDEMPOTENT'不能對DDL操作冪等,並且也不能對欄位長度不同導致的錯誤進行冪等,如把例子中的從庫表的id欄位型別int改成bigint。並且只能在binlog_format為ROW的模式下使用,而且只能對1032和1062進行冪等模式。

總結:

對於上面的測試總結,針對slave_exec_mode引數,它可以跳過1062和1032的錯誤,並且不影響同一個事務中正常的資料執行。如果是多個SQL組成的事務,則可以跳過有問題的event。

看著這個引數很不錯,但手冊上說明不建議在普通的複製環境中開啟。對於NDB以外的儲存引擎,只有在確定可以安全地忽略重複鍵錯誤和沒有鍵的錯誤時,才應使用IDEMPOTENT模式。這引數是專門針對NBD Cluster進行設計的,NBD Cluster模式下,該引數只能設定成IDEMPOTENT模式。所以要根據自己的應用場景來決定,正常情況下,主從是一致的,有任何錯誤發生都要報錯,不過在做特殊處理時,可以臨時開啟。

另外在GTID模式下的複製,sql_slave_skip_counter是不支援的,該模式下的複製可以自行測試。