Mysql分頁實現及優化
通常，我們會採用ORDER BY LIMIT start, offset 的方式來進行分頁查詢。例如下面這個SQL：
SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10;
或者像下面這個不帶任何條件的分頁SQL：
SELECT * FROM `t1` ORDER BY id DESC LIMIT 100, 10;
一般而言，分頁SQL的耗時隨著 start 值的增加而急劇增加，我們來看下面這2個不同起始值的分頁SQL執行耗時：
[email protected]> SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10; … 10 rows in set (0.05 sec)[email protected]> SELECT * FROM `t1` WHERE ftype=6 ORDER BY id DESC LIMIT 935500, 10; … 10 rows in set (2.39 sec)
可以看到，隨著分頁數量的增加，SQL查詢耗時也有數十倍增加，顯然不科學。今天我們就來分析下，如何能優化這個分頁方案。 一般滴，想要優化分頁的終極方案就是：沒有分頁，哈哈哈~~~，不要說我講廢話，確實如此，可以把分頁演算法交給Sphinx、Lucence等第三方解決方案，沒必要讓MySQL來做它不擅長的事情。 當然了，有小夥伴說，用第三方太麻煩了，我們就想用MySQL來做這個分頁，咋辦呢？莫急，且待我們慢慢分析，先看下錶DDL、資料量、查詢SQL的執行計劃等資訊：
[email protected]> SHOW CREATE TABLE `t1`; CREATE TABLE `t1` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT, ... `ftype` tinyint(3) unsigned NOT NULL, ... PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8; [email protected]> select count(*) from t1; +----------+ | count(*) | +----------+ | 994584 | +----------+[email protected]> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 510 Extra: Using where [email protected]> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935510 Extra: Using where
可以看到，雖然通過主鍵索引進行掃描了，但第二個SQL需要掃描的記錄數太大了，而且需要先掃描約935510條記錄，然後再根據排序結果取10條記錄，這肯定是非常慢了。 針對這種情況，我們的優化思路就比較清晰了，有兩點：
1、儘可能從索引中直接獲取資料，避免或減少直接掃描行資料的頻率
2、儘可能減少掃描的記錄數，也就是先確定起始的範圍，再往後取N條記錄即可
據此，我們有兩種相應的改寫方法：子查詢、表連線，即下面這樣的：
#採用子查詢的方式優化，在子查詢裡先從索引獲取到最大id，然後倒序排，再取10行結果集 #注意這裡採用了2次倒序排，因此在取LIMIT的start值時，比原來的值加了10，即935510，否則結果將和原來的不一致 [email protected]> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 10 Extra: Using filesort *************************** 2. row *************************** id: 2 select_type: DERIVED table: t1 type: ALL possible_keys: PRIMARY key: NULL key_len: NULL ref: NULL rows: 973192 Extra: Using where *************************** 3. row *************************** id: 3 select_type: SUBQUERY table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935511 Extra: Using where #採用INNER JOIN優化，JOIN子句裡也優先從索引獲取ID列表，然後直接關聯查詢獲得最終結果，這裡不需要加10 [email protected]> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 935510 Extra: NULL *************************** 2. row *************************** id: 1 select_type: PRIMARY table: t1 type: eq_ref possible_keys: PRIMARY key: PRIMARY key_len: 4 ref: t2.id rows: 1 Extra: NULL *************************** 3. row *************************** id: 2 select_type: DERIVED table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 973192 Extra: Using where
然後我們來對比下這2個優化後的新SQL執行時間：
[email protected]> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) T ORDER BY id DESC; ... rows in set (1.86 sec) #採用子查詢優化，從profiling的結果來看，相比原來的那個SQL快了：28.2% [email protected]> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 935500,10) t2 USING (id); ... 10 rows in set (1.83 sec) #採用INNER JOIN優化，從profiling的結果來看，相比原來的那個SQL快了：30.8%
我們再來看一個不帶過濾條件的分頁SQL對比：
#原始SQL [email protected]> EXPLAIN SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10\G *************************** 1. row *************************** id: 1 select_type: SIMPLE table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935510 Extra: NULL [email protected]> SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10; ... 10 rows in set (2.22 sec) #採用子查詢優化 [email protected]> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC; *************************** 1. row *************************** id: 1 select_type: PRIMARY table: <derived2> type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 10 Extra: Using filesort *************************** 2. row *************************** id: 2 select_type: DERIVED table: t1 type: ALL possible_keys: PRIMARY key: NULL key_len: NULL ref: NULL rows: 973192 Extra: Using where *************************** 3. row *************************** id: 3 select_type: SUBQUERY table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 935511 Extra: Using index [email protected]> SELECT * FROM (SELECT * FROM `t1` WHERE id > ( SELECT id FROM `t1` ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC; … 10 rows in set (2.01 sec) #採用子查詢優化，從profiling的結果來看，相比原來的那個SQL快了：10.6% #採用INNER JOIN優化 [email protected]> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G *************************** 1. row *************************** id: 1 select_type: PRIMARY table: type: ALL possible_keys: NULL key: NULL key_len: NULL ref: NULL rows: 935510 Extra: NULL *************************** 2. row *************************** id: 1 select_type: PRIMARY table: t1 type: eq_ref possible_keys: PRIMARY key: PRIMARY key_len: 4 ref: t1.id rows: 1 Extra: NULL *************************** 3. row *************************** id: 2 select_type: DERIVED table: t1 type: index possible_keys: NULL key: PRIMARY key_len: 4 ref: NULL rows: 973192 Extra: Using index [email protected]> SELECT * FROM `t1` INNER JOIN ( SELECT id FROM `t1`ORDER BY id DESC LIMIT 935500,10) t2 USING (id); … 10 rows in set (1.70 sec) #採用INNER JOIN優化，從profiling的結果來看，相比原來的那個SQL快了：30.2%
至此，我們看到採用子查詢或者INNER JOIN進行優化後，都有大幅度的提升，這個方法也同樣適用於較小的分頁，雖然LIMIT開始的 start 位置小了很多，SQL執行時間也快了很多，但採用這種方法後，帶WHERE條件的分頁分別能提高查詢效率：24.9%、156.5%，不帶WHERE條件的分頁分別提高查詢效率：554.5%、11.7%，各位可以自行進行測試驗證。單從提升比例說，還是挺可觀的，確保這些優化方法可以適用於各種分頁模式，就可以從一開始就是用。 我們來看下各種場景相應的提升比例是多少：
| 大分頁，帶WHERE | 大分頁，不帶WHERE | 大分頁平均提升比例 | 小分頁，帶WHERE | 小分頁，不帶WHERE | 總體平均提升比例 | |
| 子查詢優化 | 28.20% | 10.60% | 19.40% | 24.90% | 554.40% | 154.53% |
| INNER JOIN優化 | 30.80% | 30.20% | 30.50% | 156.50% | 11.70% | 57.30% |
結論：這樣看就和明顯了，尤其是針對大分頁的情況，因此我們優先推薦使用INNER JOIN方式優化分頁演算法。
上述每次測試都重啟mysqld例項，並且加了SQL_NO_CACHE，以保證每次都是直接資料檔案或索引檔案中讀取。如果資料經過預熱後，查詢效率會一定程度提升，但但上述相應的效率提升比例還是基本一致的。
相關推薦
Mysql分頁實現及優化
通常，我們會採用ORDER BY LIMIT start, offset 的方式來進行分頁查詢。例如下面這個SQL： SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10; 或者像下面這個不帶任
MySQL分頁查詢效能優化
當需要從資料庫查詢的表有上萬條記錄的時候，一次性查詢所有結果會變得很慢，特別是隨著資料量的增加特別明顯，這時需要使用分頁查詢。對於資料庫分頁查詢，也有很多種方法和優化的點。下面簡單說一下我知道的一些方法。 準備工作 為了對下面列舉的一些優化進行測試，下面針對已有的一張表進行說明。 表名：order
從官方文件中探索MySQL分頁的幾種方式及分頁優化
### 概覽 相比於Oracle，SQL Server 等資料庫，MySQL分頁的方式簡單得多了，官方自帶了分頁語法 `limit` 語句: ```sql select * from test_t LIMIT {[offset,] row_count | row_count OFFSET offset}
MySQL分頁優化中的“INNER JOIN方式優化分頁算法”到底在什麽情況下會生效？
表結構 files key 效率 ref 兩個 ges 參考 如果 本文出處：http://www.cnblogs.com/wy123/p/7003157.html 最近無意間看到一個MySQL分頁優化的測試案例，並沒有非常具體地說明測試場景的情況下，給出了
SpringMVC+Mybatis實現的Mysql分頁數據查詢
space round nbsp sub hid append app return utf 周末這天手癢，正好沒事幹，想著寫一個分頁的例子出來給大家分享一下。 這個案例分前端和後臺兩部分，前端使用面向對象的方式寫的，裏面用到了一些回調函數和事件代理，有興趣的朋友可
MySQL分頁查詢優化
插入 hist shel 使用範圍 表優化 方便 歷史 生成器 速度 當需要從數據庫查詢的表有上萬條記錄的時候，一次性查詢所有結果會變得很慢，特別是隨著數據量的增加特別明顯，這時需要使用分頁查詢。對於數據庫分頁查詢，也有很多種方法和優化的點。下面簡單說一下我知道的一些方法。
Mysql分頁優化
mce 及其 過大 order by 意義 可能 就是 處理 con 在mysql中limit可以實現快速分頁，但是如果數據到了幾百萬時我們的limit必須優化才能有效的合理的實現分頁了，否則可能卡死你的服務器。當一個數據表中有幾百萬條數據的時候，就成問題了！ 例
MySQL 分頁優化
明顯 並不是 sql log family soft blog offset device MySQL 用 LIMIT offset, length 進行分頁。但當表記錄數很大，會發現大頁數的查詢時間明顯比小頁數的查詢時間大。 MySQL並不是跳過 offset 行，而是取
MySQL分頁查詢性能優化
記錄 高並發 分頁查詢 容易 千萬 查詢方式 大數 測試的 業務 當需要從數據庫查詢的表有上萬條記錄的時候，一次性查詢所有結果會變得很慢，特別是隨著數據量的增加特別明顯，這時需要使用分頁查詢。對於數據庫分頁查詢，也有很多種方法和優化的點。下面簡單說一下我知道的一些方法。 準
mysql分頁儲存過程一步一步實現
1. CREATE DEFINER=`root`@`localhost` PROCEDURE `P_HoverTreePages`( IN `TableName` VARCHAR(200), IN `FieldList` VARCHAR(2000) , IN `Pr
mysql分頁存儲過程一步一步實現
hid eterm limit roo host start count ini uri 1. CREATE DEFINER=`root`@`localhost` PROCEDURE `P_HoverTreePages`( IN `TableName` VARC
JDBC分頁查詢及實現
當資料過多時，一頁之內是無法顯示的，因此需要進行分頁顯示。 （一）分頁技術實現： 物理分頁： - 在資料庫執行查詢時（實現分頁查詢），查詢需要的資料—-依賴資料庫的SQL語句 - 在sql查詢時，從資料庫只檢索分頁需要的資料 - 通常不同的資料庫有著不同的物理分頁語句 - 物理分頁：Mysql/SQL Ser
mybatis實現MySQL分頁顯示
SQL語句 select * from table_name limit startNum,Size 這句話的意思是從第startNum個數據開始（索引從0開始），總共顯示Size個。 注意，當為第一頁時，startNum為0，當為第二頁時，startNum為p
mysql分頁查詢優化(索引延遲關聯)
對於web後臺報表匯出是一種常見的功能點，實際對應服務後端即資料庫的排序分頁查詢。如下示例為公司商戶積分報表匯出其中一個sql ，當大批量的匯出請求進入時候，mysql的cpu急劇上升瞬間有拖垮庫的風險。 SELECT * FROM coupons.cp_score_log WHERE
Mysql分頁，資料量大時limit優化
MYSQL的優化是非常重要的。其他最常用也最需要優化的就是limit。mysql的limit給分頁帶來了極大的方便，但資料量一大的時候，limit的效能就急劇下降。 同樣是取10條資料 select * from order limit 10000,10 select * from or
mysql分頁語句優化
覆蓋索引 通常開發人員會根據查詢的where條件建立合適的索引。 但是mysql可以使用索引來直接獲取列的資料，就不用回表查詢，也就是說這種索引包含(也稱覆蓋)所有需要查詢的欄位的值，就稱這種索引為覆蓋索引 利用表的覆蓋索引來加速分頁查詢 我們都知道，利用了索引查詢的語句中如果只包含
MyBatis Generator實現MySQL分頁外掛
MyBatis Generator是一個非常方便的程式碼生成工具，它能夠根據表結構生成CRUD程式碼，可以滿足大部分需求。但是唯一讓人不爽的是，生成的程式碼中的資料庫查詢沒有分頁功能。本文介紹如何讓MyBatis Generator生成的程式碼具有分頁功能。
easyui中的分頁實現(支援MySQL，SQLServer，Oracle)
package com.dxwind.common.bean; import java.sql.CallableStatement; import java.sql.ResultSet; import java.sql.ResultSetMetaData; import java.sql.SQLExcept
MySql 分頁SQL 大資料量limit替代和優化（試驗）
select SQL_NO_CACHE u.id, u.user_id, u.user_name, u.user_name_index, u.email, u.pwd, u.email_token, u.email_active_date, u.
mysql limit做分頁查詢的優化（大資料量）
mysql limit查詢優化，由於limit經常用到，卻沒有注意，因為平時做的專案都比較小，所以也沒有考慮去怎麼優化，MYSQL的優化是非常重要的。其他最常用也最需要優化的就是limit。mysql的limit給分頁帶來了極大的方便，但資料量一大的時候，limit的效能就急