【搞定MySQL資料庫】第4篇：日誌系統：一條SQL更新語句是如何執行的？
本文為本人學習極客時間《MySQL實戰45講》的學習筆記。
原文連結：https://time.geekbang.org/column/article/68633
本文目錄：
上篇文章中我們瞭解了一個查詢語句的執行流程，並介紹了執行過程中涉及的處理模組。一條查詢語句的執行過程一般是經過聯結器、分析器、優化器、執行器等功能模組，最後到達儲存引擎。
那麼，一條更新語句的執行流程又是怎樣的呢？
之前你可能聽到過：MySQL 可以恢復到半個月內任意一秒的狀態，那麼它是如何實現的呢？
我們還是從一個表和一個更新語句說起，這個表有一個主鍵 ID 和一個整型欄位 c：
mysql> create table T(ID int primary key, c int);如果要將 ID = 2 這一行的值加1，那麼SQL 語句會這樣寫：
mysql> update T set c=c+1 where ID=2;前面講過查詢會走的那一套流程，更新語句也會走一遍。
執行語句前都是先要連線上資料庫。前面說過，在一個表上有更新時，跟這個表有關的查詢快取都會失效，所以這條更新語句會把表 T 上所有的快取結果都清空。
接下來，分析器會通過詞法和語法解析知道這是一條更新語句。優化器決定要用 ID 這個索引。
然後，執行器負責具體執行，找到這一行，則更新。
與查詢流程不一樣的是，更新流程還涉及到兩個重要的日誌模組：redo log（重做日誌）和 binlog（歸檔日誌）。
本篇文章其實主要就是為了講解這兩個日誌模組。
1、redo log：重做日誌
不知道你還記不記得《孔乙己》這篇文章，酒店掌櫃有一個粉板，專門用來記錄客人的賒賬記錄。如果賒賬的人不多，那麼他可以把顧客名和賬目寫在板上。但是如果賒賬的人多了，粉板會有記不下的時候，這個時候掌櫃一定還要有一個專門記錄賒賬的賬本。
因此，如果有人要賒賬或者還賬的話，掌櫃一般有兩種做法：
1、一種做法是直接把賬本翻出來，把這次賒的帳加上去或者扣除掉；
2、另一種做法是先在粉板上記下這次的賬，等打烊以後再把賬本翻出來核算。
在生意紅火，櫃檯很忙的時候，掌櫃一定選擇後者，因為前者的操作實在太麻煩了。首先，你要找到這個人的賒賬總額那條記錄。你想想，密密麻麻的幾十頁，要找到這個名字，找到之後再計算，最後再將新的結果寫回到賬本。這個過程想想都很麻煩。所以相比這下，這個時候還是先在粉板上記錄下比較方便。
同樣，在 MySQL 裡也有這個問題，如果每一次的更新操作都需要寫進磁碟，然後磁碟也要找到對應的那條記錄，然後更新，整個過程的 IO 成本、查詢成本都很高。為了解決這個問題，MySQL的設計者就使用了類似酒店掌櫃粉板的思路來提升效率。
而粉板和賬本配合的過程，其實就是 MySQL 裡經常說的 WAL(Write-Ahead Logging) 技術，它的關鍵點就是先寫日誌，再寫磁碟，也就是先寫粉板，等不忙的時候再寫賬本。
具體來說，當有一條記錄需要更新的時候，InnoDB 引擎就會先把記錄寫到 redo log（粉板）裡面，並更新記憶體，這個時候更新就算完成了。同時， InnoDB 引擎會在合適的時候，將這個操作記錄更新到磁碟中，而這個更新往往是在系統比較空閒的時候做，這就像掌櫃在打烊的時候將粉板上的記錄更新到賬本上一樣。
與此類似，InnoDB 的 redo log 是固定大小的，比如可以配置為一組 4 個檔案，每個檔案大小是 1GB ，那麼這塊“粉板”總共就可以記錄 4GB 的操作。從頭開始寫，寫到末尾就又回到開頭迴圈寫，如下圖所示：
write pos 是當前記錄的位置，一邊寫一邊後移，寫到第3號檔案末尾就回到 0 號檔案的開頭。
checkpoint 是當前要擦除的位置，也是往後推移並且迴圈的，擦除記錄前要把記錄更新到資料檔案中。
write pos 和 checkpoint 之間（就是write pos 到3號檔案末尾，再加上0號檔案開頭到checkpoint 的部分）的是“粉板”上還空著的部分，可以用來記錄新的操作。如果 write pos 追上 checkpoint，表示“粉板”滿了，這時候不能再執行新的更新，得停下來先擦掉一些記錄，把 checkpoint 推進一下。
有了 redo log，InnoDB就可以保證即使資料庫發生異常重啟，之前提交的記錄都不會丟失，這個能力稱為“crash-safe”。
要理解 crash-safe 這個概念，可以想想我們賒賬記錄的例子。只要賒賬記錄記在了粉板或者賬本上，之後即使掌櫃忘了，比如突然停業幾天，恢復生意後依然可以通過賬本和粉板上的資料明確賒賬賬目。
2、binlog：歸檔日誌
MySQL 整體來看，其實就是兩塊：一塊是 Server 層，它主要做的是 MySQL 功能層面的事情；還有一塊是引擎層，負責儲存相關的具體事宜。而上面的 redo log 是 InnoDB 引擎特有的日誌（其他引擎沒有），而 Server 層也有自己的日誌，稱為 binlog：歸檔日誌。
binlog有兩種模式：
1、statement 格式的話是記 SQL 語句；
2、row格式會記錄行的內容，記兩條，更新前和更新後的 SQL 都有。
那麼為什麼會有兩份日誌呢？
因為最開始 MySQL 裡並沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM ，但是 MyISAM 沒有 crash-safe 能力，binlog 日誌只能用於歸檔。而 InnoDB 是另一家公司以外掛形式引入 MySQL 的，既然只依靠 binlog 是沒有 crash-safe 能力的，所以 InnoDB 使用另外一套日誌系統，也就是 redo log 來實現 crash-safe 能力。
這兩種日誌有以下三種區別：
1、redo log 是 InnoDB 引擎特有的，而 binlog 是 MySQL 的 Server 層實現的，所有引擎都可以使用；
2、redo log 是物理日誌，記錄的是“在某個資料寫上做了什麼修改”，而 binlog 是邏輯日誌，記錄的是這個語句的原始邏輯，比如“給 ID = 2 這一行的 c 欄位加1”。
3、redo log 是迴圈寫的，空間固定會用完，而 binlog 是可以追加寫入的。“追加寫”是指 binlog 檔案寫到一定大小後會切換到下一個新檔案，並不會覆蓋掉以前的日誌。
有了這兩個日誌的基礎，我們再來看看執行器和 InnoDB 引擎在執行這個簡單的 update 語句時的內部流程：
1、執行器先找引擎取 ID=2 這一行。ID 是主鍵，引擎直接用搜索樹找到這一行。如果 ID=2 這一行所在的資料頁本來就在記憶體中，就直接返回給執行器；否則，需要先從磁碟讀入記憶體，然後再返回；
2、執行器拿到引擎給的行資料，把這個值加上 1，比如原來是 N，那麼現在就是 N+1，得到新的一行資料，再呼叫引擎介面寫入這行新資料。
3、引擎將這行新資料更新到記憶體中，同時將這個更新記錄到 redo log 裡面，此時 redo log 處於 prepare 狀態。然後告知執行器執行完成了，隨時可以提交事務；
4、執行器生成這個操作的 binlog，並把 binlog 寫入磁碟；
5、執行器呼叫引擎的提交事務介面，引擎把剛剛寫入的 redo log 的prepare狀態改成提交 commit 狀態，更新完成。
下圖為這個 update 語句的執行流程圖，圖中淺色框表示在 InnoDB 內部執行的，深色框表示在執行器中執行的。
你可能注意到了，最後三步看上去有點“繞”，將 redo log 的寫入拆成了兩個步驟：prepare 和 commit，這就是"兩階段提交"。
3、兩階段提交
為什麼需要兩階段提交呢？----> 這是為了讓兩份日誌直接的邏輯一致。
要說明這個問題，我們得從文章開頭的那個問題說起：怎樣讓資料庫恢復到半個月內任意一秒的狀態？
前面我們說過了，binlog 會記錄所有的邏輯操作（所以資料庫恢復的時候用的是binlog），並且是採用“追加寫”的形式。如果你的 DBA 承諾說半個月內可以恢復，那麼備份系統中一定會儲存最近半個月的所有 binlog，同時系統會定期做整庫備份。這裡的“定期”取決於系統的重要性，可以是一天一備，也可以是一週一備。
當需要恢復到指定的某一秒時，比如某天下午兩點發現中午十二點有一次誤刪表，需要找回資料，那你可以這麼做：
1、首先，找到最近的一次全量備份，如果你運氣好，可能就是昨天晚上的一個備份，從這個備份恢復到臨時庫；
2、然後，從備份的時間點開始，將備份的 binlog 依次取出來，重放到中午誤刪表之前的那個時刻。 這樣你的臨時庫就跟誤刪之前的那個時刻。
這樣你的臨時庫就跟誤刪之前的線上庫一樣了，然後你可以把表資料從臨時庫取出來，按需要恢復到線上庫去。
好了，說完了資料恢復過程，我們回來說說，為什麼日誌需要“兩階段提交”。這裡不妨用反證法來進行解釋。
由於 redo log和 binlog 是兩個獨立的邏輯，如果不用兩階段提交，要麼就是先寫完 redo log 再寫 binlog，或者採用反過來的順序。我們看看這兩種方式會有什麼問題。
仍然用前面的 update 語句來做例子。假設當前 ID=2 的行，欄位 c 的值是0，再假設執行 uddate 語句的過程中在寫完第一個日誌後，第二個日誌還沒有寫完期間發生了 crash ，會出現什麼情況呢？
1、先寫 redo log 後寫 binlog：
假設在 redo log 寫完，binlog 還沒有寫完的時候，MySQL 進行異常重啟。由於我們前面說過，redo log 寫完之後，系統即使崩潰，仍然能夠把資料恢復回來，所以恢復後這一行 c 的值是 1。
但是由於 binlog 沒寫完就 crash 了，這時候 binlog 裡面就沒有記錄這個語句。因此，之後備份日誌的時候，存起來的 binlog 裡面就沒有這條語句。
然後你會發現，如果需要用這個 binlog 來恢復臨時庫的話，由於這個語句的 binlog 丟失，這個臨時庫就會少了這一次更新，恢復出來的這一行 c 的值就是 0，與原庫的值不同。
2、先寫 binlog 後寫 redo log
如果在 binlog 寫完之後 crash，由於 redo log 還沒寫，崩潰恢復以後這個事務無效，所以這一行 c 的值是 0。但是 binlog 裡面已經記錄了“把 c 從 0 改成 1”這個日誌。所以，在之後用 binlog 來恢復的時候就多了一個事務出來，恢復出來的這一行 c 的值就是 1，與原庫的值不同。
可以看到，如果不使用“兩階段提交”，那麼資料庫的狀態就有可能和用它的日誌恢復出來的庫的狀態不一致。redo log 執行成功的話，當前資料庫的值就會發生更新，但是 binlog 中記錄的值是用來恢復資料庫記錄用的。
實際情況中除了誤刪資料庫資料後用“兩階段提交”這個過程來恢復資料。當你需要擴容的時候，也就是需要多搭建一些備庫來增加系統的讀能力的時候，現在最常見的是用全量備份加上應用 binlog 來實現的，這個“不一致” 就會導致你的線上出現主從資料庫不一致的情況。
簡單說，redo log 和 binlog 都可以用於表示事務的提交狀態，而兩階段提交就是讓這兩個狀態保持邏輯上的一致，即要麼都成功，要麼都失敗。
4、小結
MySQL 裡面最重要的兩個日誌，即物理日誌 redo log 和邏輯日誌 binlog。
redo log 用於保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個引數設定成 1 的時候，表示每次事務的 redo log 都直接持久化到磁碟。這個引數我建議你設定成 1，這樣可以保證 MySQL 異常重啟之後資料不會丟失。
sync_binlog 這個引數設定成 1 的時候，表示每次事務的 binlog 都持久化到磁碟。這個引數我也建議你設定1，這樣可以保證 MySQL 異常重啟之後 binlog 不丟失。
本文最後還介紹了與 MySQL 日誌系統密切相關的“兩階段提交”。兩階段提交是跨系統維持資料邏輯一致性時常用的一個方案，即使你不做資料庫核心開發，日常開發中也有可能會用到。