1. 程式人生 > 其它 >MySQL 中的幾種日誌瞭解

MySQL 中的幾種日誌瞭解

轉載 :https://www.cnblogs.com/myseries/p/10728533.html

MySQL 中有以下日誌檔案,分別是:

  1、 重做日誌 (redo log)

  2、 回滾日誌 (undo log)

  3、 二進位制日誌 (binlog)

  4、 錯誤日誌 (errorlog)

  5、 慢查詢日誌 (slow query log)

  6、 一般查詢日誌 (general log)

  7、 中繼日誌 (relay log)

  其中 重做日誌 和 回滾日誌與事務操作息息相關, 二進位制日誌也與事務操作有一定聯絡, 這三種日誌, 對理解 MySQL 中的事務操作有著重要意義。

一、 重做日誌 (redo log)

作用:

  確保事務的永續性。 redo日誌記錄事務執行後的狀態, 用來恢復未寫入 data file 的已成功事務更新的資料。防止再發生故障的時間點,尚有髒頁未寫入磁碟, 在重啟 mysql 服務的時候,根據 redo log 進行重做, 從而達到事務的永續性這一特徵。

內容:

  物理格式的日誌, 記錄的是物理資料頁面的修改的資訊, 其 redo log 是順序寫入 redo log file 的物理檔案中去的。

什麼時候產生:

  事務開始之後就產生redo log, redo log 的落盤並不是隨著事務的提交才寫入的, 而是在事務的執行過程中, 便開始寫入 redo log 檔案中。

什麼時候釋放:

  當對應事務的髒頁寫入到磁碟之後, redo log 的使命也就完成了,重做日誌佔用的空間就可以重用(被覆蓋)。

對應的物理檔案:

  預設情況下, 對應的物理檔案位於資料庫 的 data 目錄下的 ib_logfile1&ib_logfile2

  innodb_log_group_home_dir 指定日誌檔案組所在的路徑, 預設 ./ ,表示資料庫的資料目錄下。

  innodb_log_files_in_group 指定重做日誌檔案組中檔案的數量, 預設 2

關於檔案的大小和數量,有以下兩個引數配置:

  innodb_log_file_size 重做日誌檔案的大小

  innodb_mirrored_log_groups 指定了日誌映象檔案組的數量,預設 1

其他:

  很重要的一點, redo log 是什麼時候寫盤的? 前面說了是在事務開始之後逐步寫盤的。

  之所以說重做日誌是在事務開始之後逐步寫入重做日誌檔案,而不一定是事務提交才寫入重做日誌快取,原因就是, 重做日誌有一個快取區 Innodb_log_buffer, Innodb_log_buffer 的預設大小為 8M,Innodb 儲存引擎現將重做日誌寫入 innodb_log_buffer中。

show variables like 'innodb_log_buffer_size'
------------------------------------------------
Variable_name               |    Value     |
------------------------------------------------
innodb_log_buffer_size    |   8388608  |
------------------------------------------------    

  然後通過以下三種方式將 innodb 日誌緩衝區的日誌重新整理到磁碟

  1、Master Thread 每秒執行一次重新整理 Innodb_log_buffer 到重做日誌檔案。

  2、每個事務提交時會將重做日誌快取重新整理到重做日誌檔案。

  3、當重做日誌快取可用空間 少於一半時, 重做日誌快取被重新整理到重做日誌檔案。

  由此可以看出,重做日誌通過不止一種方式寫入到磁碟,尤其是對於第一種方式,Innodb_log_buffer 到重做日誌檔案是 Master Thread 執行緒的定時任務。

  因此重做日誌的寫盤,並不一定是隨著事務提交才寫入重做日誌檔案的,二是隨著事務的開始,逐步開始的。 另外引用《MySQL技術內幕 Innodb 儲存引擎》(page37)上的原話:

    即使某個事物還沒有提交, Innodb 儲存引擎仍然每秒會將重做日誌快取重新整理到重做日誌檔案。

    這一點是必須要知道的, 因為這可以很好的解釋再大的事務的提交(commit) 的時間也是很短暫的。

二、回滾日誌 (undo log)

作用:

  保證資料的原子性,儲存了事物發生之前的資料的一個版本,可以用於回滾, 同時可提供多版本併發控制下的讀(MVCC), 也即非鎖定讀。

內容:

  邏輯格式的日誌,在執行 undo 的時候,僅僅是將資料從邏輯上恢復至十五之前的狀態,而不是從物理頁面上操作實現的,這一點是不同於redo log 的。

什麼時候產生:

  事務開始之前,將當前是的版本生成 undo log, undo 也會產生 redo 來保證 undo log 的可靠性

什麼時候釋放:

  當事務提交之後,undo log 並不能立馬被刪除,而是放入待清理的連結串列, 由 purge 執行緒判斷是否由其他事務在使用 undo 段中表的上一個事務之前的版本資訊,決定是否可以清理undo log 的日誌空間

對應的物理檔案:

  MySQL 5.6 之前, undo 表空間位於共享表空間的回滾段中, 共享表空間的預設的名稱是 ibdata, 位於資料檔案目錄中。

  MySQL5.6 之後,undo 表空間可以配置成獨立的檔案,但是提前需要在配置檔案中配置,完成資料庫初始化後生效且不可改變 undo log 檔案的個數

  如果初始化資料庫之前沒有進行相關的配置,那麼就無法配置成獨立的表空間了。

關於MySQL5.7 之後獨立 undo 表空間配置的引數如下:

  innodb_undo_directory = /data/undospace/ -- 獨立表空間的存放目錄

  innodb_undo_logs = 128 -- 回滾段為128KB

  innodb_undo_tablespaces = 4 -- 指定有 4 個 undo log 檔案

  如果 undo 使用的共享表空間, 這個共享表空間中不僅僅是儲存了 undo 的資訊, 共享表空間的預設為 與 MySQL 的資料目錄下面,其屬性由引數 innodb_data_file_path 配置。

show variables like '%innodb_data_file_path%';

--------------------------------------------------------
 Variable_name                        |     Value
--------------------------------------------------------
innodb_data_file_path               |  ibdata1:12M:autoextend
--------------------------------------------------------

其他:

  undo 是在事務開始之前儲存的被修改資料的一個版本,產生 undo 日誌的時候,同時會伴隨類似於保護事務持久化機制的 redolog 產生。

  預設情況下,undo檔案是儲存在共享表空間的,也即 ibdatafile 檔案中, 當資料庫中發生一些大的事務性操作的時候,要生成大量的undo 資訊, 全部儲存在共享表空間中的。

  因此共享表空間可能會變得很大,預設情況下,也就是 undo 日誌使用共享表空間的時候,被“撐大” 的共享表空間是不會也不能自動收縮的。

  因此, Mysql 5.7 之後的 “獨立 undo 表空間” 的配置就顯得很有必要了。

三、 二進位制日誌 (binlog)

作用:

  用於複製,在主從復置中,從庫利用主庫上的 binlog 進行重播, 實現主從同步。

  用於資料庫的基於時間點的還原。

內容:

  邏輯格式的日誌,也可以簡單認為就是執行過的事務中的sql語句。

  但又不完全是sql 語句這麼簡單, 而是包括了執行的sql 語句(增刪改) 反向的資訊, 也就意味著 delete 對應著 delete 本身和其反向的 insert; update 對應著 update 執行前後的版本資訊; insert對應著delete 和 insert 本身的資訊。

  在使用 mysql binlog 解析 binlog 之後一切都會真相大白。

  因此可以基於 binlog 做到類似於 oracle 的閃回宮呢功能,其實都是依賴於 binlog 中的日誌記錄。

什麼時候產生:

  事務提交的時候,一次性將事務中的sql 語句(一個事務可能對應多個 sql 語句) 按照一定的格式記錄到 binlog 中。

  這裡與 redo log 很明顯的差異就是 redo log 並不一定是在事務提交的時候重新整理到磁碟,redo log 是在事務開始之後就開始逐步寫入磁碟。

  因此對於事務的提交, 即便是較大的事務, 提交(commit) 都是很快的, 但是在開啟了 bin_log 的情況下, 對於較大的事務的提交,可能會變得比較慢一些。

  這是因為 binlog 是在事務提交的時候一次性寫入造成的,這些可以通過測試驗證。

什麼時候釋放:

  binlog 的預設 是保持時間由引數 expire_log_days 配置, 也就是說對於非活動的日誌檔案,在生成時間超過 expire_logs_days 配置的天數之後,會被自動刪除。 

show variables like '%expire_logs_days%';

----------------------------------------------
Variable_name                   |   Value
----------------------------------------------
expire_logs_days                | 0
----------------------------------------------

對應的物理檔案:

  配置檔案的路徑為 log_bin_basename, binlog 日誌檔案按照指定大小,當日志文件達到指定的最大的大小之後, 進行滾動更新, 生成新的日誌檔案

  對於每個 binlog日誌檔案, 通過一個統一的 index 檔案來組織。

show variables like '%log_bin_basename%';

---------------------------------------------------
Variable_name          |   Value
---------------------------------------------------
log_bin_basename     |  /usr/local/mysql/binlog/binlog
---------------------------------------------------

其他:

  二進位制日誌的作用之一是還原資料庫的, 這與 redo log 很類似, 很多人混淆過, 但是兩者有著本質的不同。

  作用不同: redo log 是保證事務的永續性的, 是事務層面的, binlog 作為還原的功能,是資料庫層面的(當然也可以精確到事務層面的), 雖然都有還原的意思, 但是其保護的資料的層次是不一樣的

  內容不同:redo log 是物理日誌, 是資料頁面的修改之後的物理記錄, binlog 是邏輯日誌, 可以簡單認為記錄的就是 sql語句。

  另外,兩者 日誌產生的時間可以釋放的時間在可釋放的情況下清理機制,都是完全不同的。

  恢復資料的時候的效率,基於物理日誌的 redo log 恢復資料的效率要高於語句邏輯日誌的 bin log。

  關於事務提交時, redo log 和 binlog 的寫入順序,為了保證主從複製的時候主從一致,(當然也包括使用 binlog 進行基於時間點還原的情況), 要是在嚴格一致的, Mysql 通過兩階段提交過程來完成事務的一致性的, 也即 redo log 和 binlog 的一致性的,理論上是先寫 redo log, 在寫 bin log, 兩個日誌都提交成功(刷入磁碟), 事務才算真正的完成。

四、錯誤日誌 (errorlog)

錯誤日誌記錄著mysqld啟動和停止,以及伺服器在執行過程中發生的錯誤的相關資訊。在預設情況下,系統記錄錯誤日誌的功能是關閉的,錯誤資訊被輸出到標準錯誤輸出。
  指定日誌路徑兩種方法:
    編輯my.cnf 寫入 log-error=[path]
    通過命令引數錯誤日誌 mysqld_safe –user=mysql –log-error=[path] &

顯示錯誤日誌的命令(如下圖所示)

show variables like '%err%';

五、普通查詢日誌 (general query log)

記錄了伺服器接收到的每一個查詢或是命令,無論這些查詢或是命令是否正確甚至是否包含語法錯誤,general log 都會將其記錄下來 ,記錄的格式為 {Time ,Id ,Command,Argument }。也正因為mysql伺服器需要不斷地記錄日誌,開啟General log會產生不小的系統開銷。 因此,Mysql預設是把General log關閉的。

檢視日誌的存放方式:show variables like ‘log_output’;

show variables like '%log_output%';

如果設定mysql> set global log_output=’table’ 的話,則日誌結果會記錄到名為gengera_log的表中,這表的預設引擎都是CSV
  如果設定表資料到檔案set global log_output=file;
  設定general log的日誌檔案路徑:
    set global general_log_file=’/tmp/general.log’;
    開啟general log: set global general_log=on;
    關閉general log: set global general_log=off;

set global general_log=on;
show variables like 'general_log';

六、慢查詢日誌 (slow query log )

慢日誌記錄執行時間過長和沒有使用索引的查詢語句,包括select、update、delete以及insert語句,慢日誌只會記錄執行成功的語句。

1. 檢視慢查詢時間:

show variables like "long_query_time" ;  -- 預設 10s

2. 檢視慢查詢配置情況:

show status like '%slow_queries%';

3. 檢視慢查詢日誌路徑:

show variables like '%slow%';

4、開啟慢日誌

set global slow_query_log=1;
show variables like '%slow_query_log%';