MySQL performance-schema學習筆記三

阿新 • • 發佈：2021-10-12

前一篇文章我們分析了Performance-Schema中每個表的用途，以及主要欄位的含義，比較側重於理論的介紹。這篇文章我主要從DBA的角度出發，詳細介紹如何通過Performance-Schema得到DBA關心的資料，比如哪個SQL執行次數最多，哪個表訪問最頻繁，哪個鎖最熱等資訊。通過充分利用Performance-Schema表的資料，讓DBA更瞭解DB的執行狀態，也更有助於排查定位問題。本文主要從兩方面展開討論，第一方面是統計資訊維度，包括SQL維度，物件維度和等待事件維度三小點；第二方面是定位分析問題維度，結合實際應用場景，利用Performance-Schema蒐集的資料進行分析。

統計資訊(SQL維度)
關於SQL維度的統計資訊主要集中在events_statements_summary_by_digest表中，通過將SQL語句抽象出digest，可以統計某類SQL語句在各個維度的統計資訊(比如：執行次數，排序次數，使用臨時表等)
(1).哪類SQL執行最多？

SELECT
DIGEST_TEXT,
COUNT_STAR,
FIRST_SEEN,
LAST_SEEN
FROM events_statements_summary_by_digest
ORDER BY COUNT_STAR DESC limit 1\G
*************************** 1. row ***************************
DIGEST_TEXT: SELECT `pay_order_id` , `total_fee` , `pay_seller_id` , `pay_buyer_id` , `buyer_id` , `seller_id` FROM `pay_order` WHERE `pay_order_id` = ? 
COUNT_STAR: 5282893
FIRST_SEEN: 2015-12-15 18:25:38
LAST_SEEN: 2015-12-18 16:20:59

可以看到執行次數最多的SQL是“SELECT `pay_order_id` , `total_fee` , `pay_seller_id` , pay_buyer_id , buyer_id , seller_id FROM tc_pay_order WHERE pay_order_id = ?”，FIRST_SEEN和LAST_SEEN分別顯示了語句第一次執行和最後一次執行的時間點。
(2).哪類SQL的平均響應時間最多？
AVG_TIMER_WAIT
(3).哪類SQL排序記錄數最多？
SUM_SORT_ROWS
(4).哪類SQL掃描記錄數最多？
SUM_ROWS_EXAMINED
(5).哪類SQL使用臨時表最多？
SUM_CREATED_TMP_TABLES,SUM_CREATED_TMP_DISK_TABLES
(6).哪類SQL返回結果集最多？
SUM_ROWS_SENT
通過上述指標我們可以間接獲得某類SQL的邏輯IO(SUM_ROWS_EXAMINED)，CPU消耗(SUM_SORT_ROWS)，網路頻寬(SUM_ROWS_SENT)的對比，但還無法得到某類SQL的物理IO消耗，以及某類SQL訪問資料的buffer命中率。

統計資訊(物件維度)
(1).哪個表物理IO最多？

SELECT
file_name,
event_name,
SUM_NUMBER_OF_BYTES_READ,
SUM_NUMBER_OF_BYTES_WRITE
FROM file_summary_by_instance
ORDER BY SUM_NUMBER_OF_BYTES_READ + SUM_NUMBER_OF_BYTES_WRITE DESC LIMIT 1\G
*************************** 1. row ***************************
file_name: /u01/my3306/data/chuck/test_01.ibd
event_name: wait/io/file/innodb/innodb_data_file
SUM_NUMBER_OF_BYTES_READ: 2168078336
SUM_NUMBER_OF_BYTES_WRITE: 1390761934848

通過file_summary_by_instance表，可以獲得系統執行到現在，哪個檔案(表)物理IO最多，這可能意味著這個表經常需要訪問磁碟IO，從結果來看chuck庫裡面的test_01的資料檔案訪問最多。

(2).哪個表邏輯IO最多?

SELECT
object_name,
COUNT_READ,
COUNT_WRITE,
COUNT_FETCH,
SUM_TIMER_WAIT
FROM table_io_waits_summary_by_table
ORDER BY sum_timer_wait DESC limit 1\G
*************************** 1. row ***************************
object_name: test_slow
COUNT_READ: 1986130
COUNT_WRITE: 393222
COUNT_FETCH: 1986130
SUM_TIMER_WAIT: 925309746633072

通過table_io_waits_summary_by_table表，可以獲得系統執行到現在，哪個表邏輯IO最多，亦即最“熱”的表，從結果來看chuck庫裡面的test_slow表訪問次數最多。

(3).哪個索引訪問最多？

SELECT
OBJECT_NAME,
INDEX_NAME,
COUNT_FETCH,
COUNT_INSERT,
COUNT_UPDATE,
COUNT_DELETE
FROM table_io_waits_summary_by_index_usage
ORDER BY SUM_TIMER_WAIT DESC limit 1\G
*************************** 1. row ***************************
OBJECT_NAME: test_slow
INDEX_NAME: PRIMARY
COUNT_FETCH: 393247
COUNT_INSERT: 0
COUNT_UPDATE: 393222
COUNT_DELETE: 0

通過table_io_waits_summary_by_index_usage表，可以獲得系統執行到現在，哪個表的具體哪個索引(包括主鍵索引，二級索引)使用最多，從結果來看，我們知道test_slow表訪問最多，並且都是通過主鍵訪問。

(4).哪個索引從來沒有使用過？

SELECT
OBJECT_SCHEMA,
OBJECT_NAME,
INDEX_NAME
FROM table_io_waits_summary_by_index_usage
WHERE INDEX_NAME IS NOT NULL
AND COUNT_STAR = 0
AND OBJECT_SCHEMA <> 'mysql'
ORDER BY OBJECT_SCHEMA,OBJECT_NAME;
*************************** 1. row ***************************
OBJECT_SCHEMA: chuck
OBJECT_NAME: test_icp
INDEX_NAME: idx_y_z

通過table_io_waits_summary_by_index_usage表，我們還可以獲得系統執行到現在，哪些索引從來沒有被用過。由於索引也會佔用大量的空間，我們可以利用這個統計資訊，結合一定的時間策略將無用的索引刪除。上面的結果顯示，chuck庫test_icp表的idx_y_z從來沒有被使用過。

統計資訊(等待事件維度)
(1).哪個等待事件消耗的時間最多？

SELECT
EVENT_NAME,
COUNT_STAR,
SUM_TIMER_WAIT,
AVG_TIMER_WAIT
FROM events_waits_summary_global_by_event_name
WHERE event_name != 'idle'
ORDER BY SUM_TIMER_WAIT DESC LIMIT 1;
*************************** 1. row ***************************
EVENT_NAME: wait/synch/cond/threadpool/worker_cond
COUNT_STAR: 26369820
SUM_TIMER_WAIT: 1604134685750586132
AVG_TIMER_WAIT: 60832219664

通過events_waits_summary_global_by_event_name表，可以獲取到系統執行到現在，消耗時間最多的事件，當然還可以根據其它維度排序，比如平均等待時間，從結果來看wait/synch/cond/threadpool/worker_cond這個事件消耗的累計時間最長。

具體場景分析
前面我們討論的基本都是彙總資訊，有點類似與ORACLE-AWR(AutomaticWorkloadRepository)的味道，那麼我們如何利用peformance schema來定位問題呢？或者對於的發生的問題，比如抖動，我們是否有辦法知道當時發生了什麼？
(1).剖析某條SQL的執行情況，包括statement資訊，stage資訊和wait資訊。
有時候我們需要分析具體某條SQL，該SQL在執行各個階段的時間消耗，通過events_statements_xxx表和events_stages_xxx表，就可以達到目的。兩個表通過event_id與nesting_event_id關聯，stages表的nesting_event_id為對應statements表的event_id。比如分析包含count(*)的某條SQL語句，具體如下：

SELECT
EVENT_ID,
sql_text
FROM events_statements_history
WHERE sql_text LIKE '%count(*)%';
+----------+--------------------------------------+
| EVENT_ID | sql_text |
+----------+--------------------------------------+
| 1690 | select count(*) from chuck.test_slow |
+----------+--------------------------------------+

首先得到了語句的event_id為1690，通過查詢events_stages_xxx中nesting_event_id為1690的記錄，可以達到目的。
a.檢視每個階段的時間消耗

SELECT
event_id,
EVENT_NAME,
SOURCE,
TIMER_END - TIMER_START
FROM events_stages_history_long
WHERE NESTING_EVENT_ID = 1690;
+----------+--------------------------------+----------------------+-----------------------+
| event_id | EVENT_NAME | SOURCE | TIMER_END-TIMER_START |
+----------+--------------------------------+----------------------+-----------------------+
| 1691 | stage/sql/init | mysqld.cc:990 | 316945000 |
| 1693 | stage/sql/checking permissions | sql_parse.cc:5776 | 26774000 |
| 1695 | stage/sql/Opening tables | sql_base.cc:4970 | 41436934000 |
| 2638 | stage/sql/init | sql_select.cc:1050 | 85757000 |
| 2639 | stage/sql/System lock | lock.cc:303 | 40017000 |
| 2643 | stage/sql/optimizing | sql_optimizer.cc:138 | 38562000 |
| 2644 | stage/sql/statistics | sql_optimizer.cc:362 | 52845000 |
| 2645 | stage/sql/preparing | sql_optimizer.cc:485 | 53196000 |
| 2646 | stage/sql/executing | sql_executor.cc:112 | 3153000 |
| 2647 | stage/sql/Sending data | sql_executor.cc:192 | 7369072089000 |
| 4304138 | stage/sql/end | sql_select.cc:1105 | 19920000 |
| 4304139 | stage/sql/query end | sql_parse.cc:5463 | 44721000 |
| 4304145 | stage/sql/closing tables | sql_parse.cc:5524 | 61723000 |
| 4304152 | stage/sql/freeing items | sql_parse.cc:6838 | 455678000 |
| 4304155 | stage/sql/logging slow query | sql_parse.cc:2258 | 83348000 |
| 4304159 | stage/sql/cleaning up | sql_parse.cc:2163 | 4433000 |
+----------+--------------------------------+----------------------+-----------------------+

通過間接關聯，我們能分析得到SQL語句在每個階段的時間消耗，時間單位以皮秒錶示。這裡展示的結果很類似profiling功能，有了performance schema，就不再需要profiling這個功能了。另外需要注意的是，由於預設情況下events_stages_history表中只為每個連線記錄了最近10條記錄，為了確保獲取所有記錄，需要訪問events_stages_history_long表。

b.檢視某個階段的鎖等待情況
針對每個stage可能出現的鎖等待，一個stage會對應一個或多個wait，events_waits_history_long這個表容易爆滿[預設閥值10000]。由於select count(*)需要IO(邏輯IO或者物理IO)，所以在stage/sql/Sending data階段會有io等待的統計。通過stage_xxx表的event_id欄位與waits_xxx表的nesting_event_id進行關聯。

SELECT
event_id,
event_name,
source,
timer_wait,
object_name,
index_name,
operation,
nesting_event_id
FROM events_waits_history_long
WHERE nesting_event_id = 2647;
+----------+---------------------------+-----------------+------------+-------------+------------+-----------+------------------+
| event_id | event_name | source | timer_wait | object_name | index_name | operation | nesting_event_id |
+----------+---------------------------+-----------------+------------+-------------+------------+-----------+------------------+
| 190607 | wait/io/table/sql/handler | handler.cc:2842 | 1845888 | test_slow | idx_c1 | fetch | 2647 |
| 190608 | wait/io/table/sql/handler | handler.cc:2842 | 1955328 | test_slow | idx_c1 | fetch | 2647 |
| 190609 | wait/io/table/sql/handler | handler.cc:2842 | 1929792 | test_slow | idx_c1 | fetch | 2647 | 
| 190610 | wait/io/table/sql/handler | handler.cc:2842 | 1869600 | test_slow | idx_c1 | fetch | 2647 |
| 190611 | wait/io/table/sql/handler | handler.cc:2842 | 1922496 | test_slow | idx_c1 | fetch | 2647 |
+----------+---------------------------+-----------------+------------+-------------+------------+-----------+------------------+

通過上面的實驗，我們知道了statement,stage,wait的三級結構，通過nesting_event_id進行關聯，它表示某個事件的父event_id。

(2).模擬innodb行鎖等待的例子
會話A執行語句update test_icp set y=y+1 where x=1(x為primary key)，不commit；會話B執行同樣的語句update test_icp set y=y+1 where x=1，會話B堵塞，並最終報錯。通過連線連線查詢events_statements_history_long和events_stages_history_long，可以看到在updating階段花了大約60s的時間。這主要因為例項上的innodb_lock_wait_timeout設定為60，等待60s後超時報錯了。

SELECT
statement.EVENT_ID,
stages.event_id,
statement.sql_text,
stages.event_name,
stages.timer_wait
FROM events_statements_history_long statement 
join events_stages_history_long stages 
on statement.event_id=stages.nesting_event_id 
WHERE statement.sql_text = 'update test_icp set y=y+1 where x=1';
+----------+----------+-------------------------------------+--------------------------------+----------------+
| EVENT_ID | event_id | sql_text | event_name | timer_wait |
+----------+----------+-------------------------------------+--------------------------------+----------------+
| 5816 | 5817 | update test_icp set y=y+1 where x=1 | stage/sql/init | 195543000 |
| 5816 | 5819 | update test_icp set y=y+1 where x=1 | stage/sql/checking permissions | 22730000 |
| 5816 | 5821 | update test_icp set y=y+1 where x=1 | stage/sql/Opening tables | 66079000 |
| 5816 | 5827 | update test_icp set y=y+1 where x=1 | stage/sql/init | 89116000 |
| 5816 | 5828 | update test_icp set y=y+1 where x=1 | stage/sql/System lock | 218744000 |
| 5816 | 5832 | update test_icp set y=y+1 where x=1 | stage/sql/updating | 6001362045000 |
| 5816 | 5968 | update test_icp set y=y+1 where x=1 | stage/sql/end | 10435000 |
| 5816 | 5969 | update test_icp set y=y+1 where x=1 | stage/sql/query end | 85979000 |
| 5816 | 5983 | update test_icp set y=y+1 where x=1 | stage/sql/closing tables | 56562000 |
| 5816 | 5990 | update test_icp set y=y+1 where x=1 | stage/sql/freeing items | 83563000 |
| 5816 | 5992 | update test_icp set y=y+1 where x=1 | stage/sql/cleaning up | 4589000 |
+----------+----------+-------------------------------------+--------------------------------+----------------+

檢視wait事件

SELECT
event_id,
event_name,
source,
timer_wait,
object_name,
index_name,
operation,
nesting_event_id
FROM events_waits_history_long
WHERE nesting_event_id = 5832;
*************************** 1. row ***************************
event_id: 5832
event_name: wait/io/table/sql/handler
source: handler.cc:2782
timer_wait: 6005946156624
object_name: test_icp
index_name: PRIMARY
operation: fetch

從結果來看，waits表中記錄了一個fetch等待事件，但並沒有更細的innodb行鎖等待事件統計。

(3).模擬MDL鎖等待的例子
會話A執行一個大查詢select count(*) from test_slow，會話B執行表結構變更alter table test_slow modify c2 varchar(152);通過如下語句可以得到alter語句的執行過程，重點關注“stage/sql/Waiting for table metadata lock”階段。

SELECT
statement.EVENT_ID,
stages.event_id,
statement.sql_text,
stages.event_name as stage_name,
stages.timer_wait as stage_time
FROM events_statements_history_long statement 
left join events_stages_history_long stages 
on statement.event_id=stages.nesting_event_id
WHERE statement.sql_text = 'alter table test_slow modify c2 varchar(152)';
+-----------+-----------+----------------------------------------------+----------------------------------------------------+---------------+
| EVENT_ID | event_id | sql_text | stage_name | stage_time |
+-----------+-----------+----------------------------------------------+----------------------------------------------------+---------------+
| 326526744 | 326526745 | alter table test_slow modify c2 varchar(152) | stage/sql/init | 216662000 |
| 326526744 | 326526747 | alter table test_slow modify c2 varchar(152) | stage/sql/checking permissions | 18183000 |
| 326526744 | 326526748 | alter table test_slow modify c2 varchar(152) | stage/sql/checking permissions | 10294000 |
| 326526744 | 326526750 | alter table test_slow modify c2 varchar(152) | stage/sql/init | 4783000 |
| 326526744 | 326526751 | alter table test_slow modify c2 varchar(152) | stage/sql/Opening tables | 140172000 |
| 326526744 | 326526760 | alter table test_slow modify c2 varchar(152) | stage/sql/setup | 157643000 |
| 326526744 | 326526769 | alter table test_slow modify c2 varchar(152) | stage/sql/creating table | 8723217000 |
| 326526744 | 326526803 | alter table test_slow modify c2 varchar(152) | stage/sql/After create | 257332000 |
| 326526744 | 326526832 | alter table test_slow modify c2 varchar(152) | stage/sql/Waiting for table metadata lock | 1000181831000 |
| 326526744 | 326526835 | alter table test_slow modify c2 varchar(152) | stage/sql/After create | 33483000 |
| 326526744 | 326526838 | alter table test_slow modify c2 varchar(152) | stage/sql/Waiting for table metadata lock | 1000091810000 |
| 326526744 | 326526841 | alter table test_slow modify c2 varchar(152) | stage/sql/After create | 17187000 |
| 326526744 | 326526844 | alter table test_slow modify c2 varchar(152) | stage/sql/Waiting for table metadata lock | 1000126464000 |
| 326526744 | 326526847 | alter table test_slow modify c2 varchar(152) | stage/sql/After create | 27472000 |
| 326526744 | 326526850 | alter table test_slow modify c2 varchar(152) | stage/sql/Waiting for table metadata lock | 561996133000 |
| 326526744 | 326526853 | alter table test_slow modify c2 varchar(152) | stage/sql/After create | 124876000 |
| 326526744 | 326526877 | alter table test_slow modify c2 varchar(152) | stage/sql/System lock | 30659000 |
| 326526744 | 326526881 | alter table test_slow modify c2 varchar(152) | stage/sql/preparing for alter table | 40246000 |
| 326526744 | 326526889 | alter table test_slow modify c2 varchar(152) | stage/sql/altering table | 36628000 |
| 326526744 | 326526912 | alter table test_slow modify c2 varchar(152) | stage/sql/committing alter table to storage engine | 11846511000 |
| 326526744 | 326528280 | alter table test_slow modify c2 varchar(152) | stage/sql/end | 43824000 |
| 326526744 | 326528281 | alter table test_slow modify c2 varchar(152) | stage/sql/query end | 112557000 |
| 326526744 | 326528299 | alter table test_slow modify c2 varchar(152) | stage/sql/closing tables | 27707000 |
| 326526744 | 326528305 | alter table test_slow modify c2 varchar(152) | stage/sql/freeing items | 201614000 |
| 326526744 | 326528308 | alter table test_slow modify c2 varchar(152) | stage/sql/cleaning up | 3584000 |
+-----------+-----------+----------------------------------------------+----------------------------------------------------+---------------+

從結果可以看到，出現了多次stage/sql/Waiting for table metadata lock階段，並且間隔1s，說明每隔1s鍾會重試判斷。找一個該階段的event_id,通過nesting_event_id關聯，確定到底在等待哪個wait事件。

SELECT
event_id,
event_name,
source,
timer_wait,
object_name,
index_name,
operation,
nesting_event_id
FROM events_waits_history_long
WHERE nesting_event_id = 326526850;
+-----------+---------------------------------------------------+------------------+--------------+-------------+------------+------------+------------------+
| event_id | event_name | source | timer_wait | object_name | index_name | operation | nesting_event_id |
+-----------+---------------------------------------------------+------------------+--------------+-------------+------------+------------+------------------+
| 326526851 | wait/synch/cond/sql/MDL_context::COND_wait_status | mdl.cc:1327 | 562417991328 | NULL | NULL | timed_wait | 326526850 |
| 326526852 | wait/synch/mutex/mysys/my_thread_var::mutex | sql_class.h:3481 | 733248 | NULL | NULL | lock | 326526850 |
+-----------+---------------------------------------------------+------------------+--------------+-------------+------------+------------+------------------+

通過結果可以知道，產生阻塞的是條件變數MDL_context::COND_wait_status，並且顯示了程式碼的位置。

小結
本文簡單舉例說明了如何通過Performance Schema得到資料庫執行的統計資訊，以及如何利用這些統計資訊分析定位問題。通過Performance Schema，DBA可以能深入的理解系統，也能進一步定位問題的源頭和本質。

螃蟹在剝我的殼，筆記本在寫我，漫天的我落在楓葉上雪花上，而你在想我。 --章懷柔

MySQL performance-schema學習筆記三

MySQL performance-schema學習筆記三

MySQL學習筆記三：MySQL安裝後的一些設定

mysql學習筆記(三)

MySQL資料庫學習筆記(三)

Redis學習筆記(三) Redis的資料結構介紹

MySQL主從配置學習筆記

《javascript設計模式》學習筆記三：Javascript面向物件程式設計單例模式原理與實現方法分析

學習筆記三：基礎篇Linux基礎

Git學習筆記(三) git submodule

C語言學習筆記三-----選擇與迴圈語句

C++學習筆記三

SpringBoot學習筆記三

MySQL資料庫基礎學習筆記

Mybatis基礎學習筆記(三)——自定義Mybtis

演算法圖解學習筆記三

SpringMVC學習筆記(三)-SSM整合開發

Vue的學習筆記三：Vue常用指令

ASP.NET學習筆記三

Redis學習筆記(三)：Redis應用之投票、紅包

MySql的初學習 -- 第三章使用DML執行簡單的SQL

MySQL performance-schema學習筆記三

相關推薦