B-Tree B+Tree mysql索引(MyISAM,InnoDB)
的話
在程式設計領域有一句人盡皆知的法則 “程式 = 資料結構 + 演算法”,我個人是不太贊同這句話(因為我覺得程式不僅僅是資料結構加演算法),但是在日常的學習和工作中我確認深深感受到資料結構和演算法的重要性,很多東西,如果你願意稍稍往深處挖一點,那麼撲面而來的一定是各種資料結構和演算法知識。例如幾乎每個程式設計師都要打交道的資料庫,如果僅僅是用來存個數據、建建表、建建索引、做做增刪改查,那麼也許覺得資料結構和這東西沒什麼關係。不過要是哪天心血來潮,想知道的多一點,想研究一下如何優化資料庫,那麼一定避免不了研究索引的原理,如果想要真正明白索引是怎麼工作的,如何合理的使用索引以優化資料庫,那麼就免不了糾結於一堆資料結構與演算法之間了。所以,如果說 “程式的核心基礎 = 資料結構 + 演算法”我是十分贊同的,而一個想成為高手的程式設計師,一定會去學習程式的核心基礎。
好吧,說了這麼多,其實我的意思是如果想把資料庫索引學個明明白白,就必須將資料結構和演算法作為切入點去學習,遺憾的是我目前還沒有在網上找到從原理層面去介紹資料庫索引的資料(這裡僅指在通俗資料領域沒找到,不包括學術論文),倒不是說沒有高水平的程式設計師,就只在我們公司範圍內能把這一點講透徹講明白的資料庫大牛也海了去了,只是由於工作的忙碌和個人興趣原因,這些大牛們沒有時間或沒有興趣去寫這方面的文章。由於工作的需要,我這個半桶水的程式設計師這段時間也草草研究一些關於MySQL資料庫索引的東西,雖然對這方面的理解相比那些大牛差的太遠了,不過這裡我還是將這些淺薄的知識總結成文吧。
摘要
本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注於BTree索引,因為這是平常使用 MySQL時主要打交道的索引,至於雜湊索引和全文索引本文暫不討論。
文章主要內容分為四個部分。
第一部分主要從資料結構及演算法理論層面討論MySQL資料庫索引的數理基礎。
第二部分結合MySQL資料庫中MyISAM和InnoDB資料儲存引擎中索引的架構實現討論聚集索引、非聚集索引及覆蓋索引等話題。
第三部分根據上面的理論基礎,討論MySQL中高效能使用索引的策略。
資料結構及演算法基礎
索引的本質
MySQL官方對索引的定義為:索引(Index)是幫助MySQL高效獲取資料的資料結構。提取句子主幹,就可以得到索引的本質:索引是資料結構。
我們知道,資料庫查詢是資料庫的最主要功能之一,例如下面的SQL語句:
SELECT
* FROM my_table
WHERE col2 = '77' |
可以從表“my_table”中獲得“col2”為“77”的資料記錄。
我們都希望查詢資料的速度能儘可能的快,因此資料庫系統的設計者會從查詢演算法的角度進行優化。最基本的查詢演算法當然是順序查詢(linear search),遍歷“my_table”然後逐行匹配“col2”的值是否是“77”,這種複雜度為O(n)的演算法在資料量很大時顯然是糟糕的,好在電腦科學的發展提供了很多更優秀的查詢演算法,例如二分查詢(binary search)、二叉樹查詢(binary tree search)等。如果稍微分析一下會發現,每種查詢演算法都只能應用於特定的資料結構之上,例如二分查詢要求被檢索資料有序,而二叉樹查詢只能應用於二叉查詢樹上,但是資料本身的組織結構不可能完全滿足各種資料結構(例如,理論上不可能同時將兩列都按順序進行組織),所以,在資料之外,資料庫系統還維護著滿足特定查詢演算法的資料結構,這些資料結構以某種方式引用(指向)資料,這樣就可以在這些資料結構上實現高階查詢演算法。這種資料結構,就是索引。
看一個例子:
圖1
圖1展示了一種可能的索引方式。左邊是資料表,一共有兩列七條記錄,最左邊的是資料記錄的實體地址(注意邏輯上相鄰的記錄在磁碟上也並不是一定物理相鄰的)。為了加快Col2的查詢,可以維護一個右邊所示的二叉查詢樹,每個節點分別包含索引鍵值和一個指向對應資料記錄實體地址的指標,這樣就可以運用二叉查詢在O(log2n)的複雜度內獲取到相應資料。
雖然這是一個貨真價實的索引,但是實際的資料庫系統幾乎沒有使用二叉查詢樹或其進化品種紅黑樹(red-black tree)實現的,原因會在下文介紹。
B-Tree和B+Tree
目前大部分資料庫系統及檔案系統都採用B-Tree或其變種B+Tree作為索引結構,在本文的下一節會結合儲存器原理及計算機存取原理討論為什麼B-Tree和B+Tree在被如此廣泛用於索引,這一節先單純從資料結構角度描述它們。
B-Tree
為了描述B-Tree,首先定義一條資料記錄為一個二元組[key, data],key為記錄的鍵值,對於不同資料記錄,key是互不相同的;data為資料記錄除key外的資料。那麼B-Tree是滿足下列條件的資料結構:
- d為大於1的一個正整數,稱為B-Tree的度。
- h為一個正整數,稱為B-Tree的高度。
- 每個非葉子節點由n-1個key和n個指標組成,其中d<=n<=2d。
- 每個葉子節點最少包含一個key和兩個指標,最多包含2d-1個key和2d個指標,葉節點的指標均為null 。
- 所有葉節點具有相同的深度,等於樹高h。
- key和指標互相間隔,節點兩端是指標。
- 一個節點中的key從左到右非遞減排列。
- 所有節點組成樹結構。
- 每個指標要麼為null,要麼指向另外一個節點。
- 如果某個指標在節點node最左邊且不為null,則其指向節點的所有key小於v(key1),其中v(key1)為node的第一個key的值。
- 如果某個指標在節點node最右邊且不為null,則其指向節點的所有key大於v(keym),其中v(keym)為node的最後一個key的值。
- 如果某個指標在節點node的左右相鄰key分別是keyi和keyi+1且不為null,則其指向節點的所有key小於v(keyi+1)且大於v(keyi)。
圖2是一個d=2的B-Tree示意圖。
圖2
由於B-Tree的特性,在B-Tree中按key檢索資料的演算法非常直觀:首先從根節點進行二分查詢,如果找到則返回對應節點的data,否則對相應區間的指標指向的節點遞迴進行查詢,直到找到節點或找到null指標,前者查詢成功,後者查詢失敗。B-Tree上查詢演算法的虛擬碼如下:
BTree_Search(node, key) |
{ |
if (node == null) return
null; |
foreach(node.key) |
{ |
if (node.key[i] == key) return
node.data[i]; |
if (node.key[i] > key) return
BTree_Search(point[i]->node); |
} |
return BTree_Search(point[i+1]->node); |
} |
data = BTree_Search(root, my_key); |
關於B-Tree有一系列有趣的性質,例如一個度為d的B-Tree,設其索引N個key,則其樹高h的上限為logd((N+1)/2),檢索一個key,其查詢節點個數的漸進複雜度為O(logdN)。從這點可以看出,B-Tree是一個非常有效率的索引資料結構。
另外,由於插入刪除新的資料記錄會破壞B-Tree的性質,因此在插入刪除時,需要對樹進行一個分裂、合併、轉移等操作以保持B-Tree性質,本文不打算完整討論B-Tree這些內容,因為已經有許多資料詳細說明了B-Tree的數學性質及插入刪除演算法,有興趣的朋友可以在本文末的參考文獻一欄找到相應的資料進行閱讀。
B+Tree
B-Tree有許多變種,其中最常見的是B+Tree,例如MySQL就普遍使用B+Tree實現其索引結構。
與B-Tree相比,B+Tree有以下不同點:
- 每個節點的指標上限為2d而不是2d+1。
- 內節點不儲存data,只儲存key;葉子節點不儲存指標。
圖3是一個簡單的B+Tree示意。
圖3
由於並不是所有節點都具有相同的域,因此B+Tree中葉節點和內節點一般大小不同。這點與B-Tree不同,雖然B-Tree中不同節點存放的key和指標可能數量不一致,但是每個節點的域和上限是一致的,所以在實現中B-Tree往往對每個節點申請同等大小的空間。
一般來說,B+Tree比B-Tree更適合實現外儲存索引結構,具體原因與外儲存器原理及計算機存取原理有關,將在下面討論。
帶有順序訪問指標的B+Tree
一般在資料庫系統或檔案系統中使用的B+Tree結構都在經典B+Tree的基礎上進行了優化,增加了順序訪問指標。
圖4
如圖4所示,在B+Tree的每個葉子節點增加一個指向相鄰葉子節點的指標,就形成了帶有順序訪問指標的B+Tree。做這個優化的目的是為了提高區間訪問的效能,例如圖4中如果要查詢key為從18到49的所有資料記錄,當找到18後,只需順著節點和指標順序遍歷就可以一次性訪問到所有資料節點,極大提到了區間查詢效率。
這一節對B-Tree和B+Tree進行了一個簡單的介紹,下一節結合儲存器存取原理介紹為什麼目前B+Tree是資料庫系統實現索引的首選資料結構。
為什麼使用B-Tree(B+Tree)
上文說過,紅黑樹等資料結構也可以用來實現索引,但是檔案系統及資料庫系統普遍採用B-/+Tree作為索引結構,這一節將結合計算機組成原理相關知識討論B-/+Tree作為索引的理論基礎。
一般來說,索引本身也很大,不可能全部儲存在記憶體中,因此索引往往以索引檔案的形式儲存的磁碟上。這樣的話,索引查詢過程中就要產生磁碟I/O消耗,相對於記憶體存取,I/O存取的消耗要高几個數量級,所以評價一個數據結構作為索引的優劣最重要的指標就是在查詢過程中磁碟I/O操作次數的漸進複雜度。換句話說,索引的結構組織要儘量減少查詢過程中磁碟I/O的存取次數。下面先介紹記憶體和磁碟存取原理,然後再結合這些原理分析B-/+Tree作為索引的效率。
主存存取原理
目前計算機使用的主存基本都是隨機讀寫儲存器(RAM),現代RAM的結構和存取原理比較複雜,這裡本文拋卻具體差別,抽象出一個十分簡單的存取模型來說明RAM的工作原理。
圖5
從抽象角度看,主存是一系列的儲存單元組成的矩陣,每個儲存單元儲存固定大小的資料。每個儲存單元有唯一的地址,現代主存的編址規則比較複雜,這裡將其簡化成一個二維地址:通過一個行地址和一個列地址可以唯一定位到一個儲存單元。圖5展示了一個4 x 4的主存模型。
主存的存取過程如下:
當系統需要讀取主存時,則將地址訊號放到地址總線上傳給主存,主存讀到地址訊號後,解析訊號並定位到指定儲存單元,然後將此儲存單元資料放到資料匯流排上,供其它部件讀取。
寫主存的過程類似,系統將要寫入單元地址和資料分別放在地址匯流排和資料匯流排上,主存讀取兩個匯流排的內容,做相應的寫操作。
這裡可以看出,主存存取的時間僅與存取次數呈線性關係,因為不存在機械操作,兩次存取的資料的“距離”不會對時間有任何影響,例如,先取A0再取A1和先取A0再取D3的時間消耗是一樣的。
磁碟存取原理
上文說過,索引一般以檔案形式儲存在磁碟上,索引檢索需要磁碟I/O操作。與主存不同,磁碟I/O存在機械運動耗費,因此磁碟I/O的時間消耗是巨大的。
圖6是磁碟的整體結構示意圖。
圖6
一個磁碟由大小相同且同軸的圓形碟片組成,磁碟可以轉動(各個磁碟必須同步轉動)。在磁碟的一側有磁頭支架,磁頭支架固定了一組磁頭,每個磁頭負責存取一個磁碟的內容。磁頭不能轉動,但是可以沿磁碟半徑方向運動(實際是斜切向運動),每個磁頭同一時刻也必須是同軸的,即從正上方向下看,所有磁頭任何時候都是重疊的(不過目前已經有多磁頭獨立技術,可不受此限制)。
圖7是磁碟結構的示意圖。
圖7
碟片被劃分成一系列同心環,圓心是碟片中心,每個同心環叫做一個磁軌,所有半徑相同的磁軌組成一個柱面。磁軌被沿半徑線劃分成一個個小的段,每個段叫做一個扇區,每個扇區是磁碟的最小儲存單元。為了簡單起見,我們下面假設磁碟只有一個碟片和一個磁頭。
當需要從磁碟讀取資料時,系統會將資料邏輯地址傳給磁碟,磁碟的控制電路按照定址邏輯將邏輯地址翻譯成實體地址,即確定要讀的資料在哪個磁軌,哪個扇區。為了讀取這個扇區的資料,需要將磁頭放到這個扇區上方,為了實現這一點,磁頭需要移動對準相應磁軌,這個過程叫做尋道,所耗費時間叫做尋道時間,然後磁碟旋轉將目標扇區旋轉到磁頭下,這個過程耗費的時間叫做旋轉時間。
區域性性原理與磁碟預讀
由於儲存介質的特性,磁碟本身存取就比主存慢很多,再加上機械運動耗費,磁碟的存取速度往往是主存的幾百分分之一,因此為了提高效率,要儘量減少磁碟I/O。為了達到這個目的,磁碟往往不是嚴格按需讀取,而是每次都會預讀,即使只需要一個位元組,磁碟也會從這個位置開始,順序向後讀取一定長度的資料放入記憶體。這樣做的理論依據是電腦科學中著名的區域性性原理:
當一個數據被用到時,其附近的資料也通常會馬上被使用。
程式執行期間所需要的資料通常比較集中。
由於磁碟順序讀取的效率很高(不需要尋道時間,只需很少的旋轉時間),因此對於具有區域性性的程式來說,預讀可以提高I/O效率。
預讀的長度一般為頁(page)的整倍數。頁是計算機管理儲存器的邏輯塊,硬體及作業系統往往將主存和磁碟儲存區分割為連續的大小相等的塊,每個儲存塊稱為一頁(在許多作業系統中,頁得大小通常為4k),主存和磁碟以頁為單位交換資料。當程式要讀取的資料不在主存中時,會觸發一個缺頁異常,此時系統會向磁碟發出讀盤訊號,磁碟會找到資料的起始位置並向後連續讀取一頁或幾頁載入記憶體中,然後異常返回,程式繼續執行。
B-/+Tree索引的效能分析
到這裡終於可以分析B-/+Tree索引的效能了。
上文說過一般使用磁碟I/O次數評價索引結構的優劣。先從B-Tree分析,根據B-Tree的定義,可知檢索一次最多需要訪問h個節點。資料庫系統的設計者巧妙利用了磁碟預讀原理,將一個節點的大小設為等於一個頁,這樣每個節點只需要一次I/O就可以完全載入。為了達到這個目的,在實際實現B- Tree還需要使用如下技巧:
每次新建節點時,直接申請一個頁的空間,這樣就保證一個節點物理上也儲存在一個頁裡,加之計算機儲存分配都是按頁對齊的,就實現了一個node只需一次I/O。
B-Tree中一次檢索最多需要h-1次I/O(根節點常駐記憶體),漸進複雜度為O(h)=O(logdN)。一般實際應用中,出度d是非常大的數字,通常超過100,因此h非常小(通常不超過3)。
綜上所述,用B-Tree作為索引結構效率是非常高的。
而紅黑樹這種結構,h明顯要深的多。由於邏輯上很近的節點(父子)物理上可能很遠,無法利用區域性性,所以紅黑樹的I/O漸進複雜度也為O(h),效率明顯比B-Tree差很多。
上文還說過,B+Tree更適合外存索引,原因和內節點出度d有關。從上面分析可以看到,d越大索引的效能越好,而出度的上限取決於節點內key和data的大小:
dmax = floor(pagesize / (keysize + datasize + pointsize)) (pagesize – dmax >= pointsize)
或
dmax = floor(pagesize / (keysize + datasize + pointsize)) - 1 (pagesize – dmax < pointsize)
floor表示向下取整。由於B+Tree內節點去掉了data域,因此可以擁有更大的出度,擁有更好的效能。
這一章從理論角度討論了與索引相關的資料結構與演算法問題,下一章將討論B+Tree是如何具體實現為MySQL中索引,同時將結合MyISAM和InnDB儲存引擎介紹非聚集索引和聚集索引兩種不同的索引實現形式。
MySQL索引實現
在MySQL中,索引屬於儲存引擎級別的概念,不同儲存引擎對索引的實現方式是不同的,本文主要討論MyISAM和InnoDB兩個儲存引擎的索引實現方式。
MyISAM索引實現
MyISAM引擎使用B+Tree作為索引結構,葉節點的data域存放的是資料記錄的地址。下圖是MyISAM索引的原理圖:
圖8
這裡設表一共有三列,假設我們以Col1為主鍵,則圖8是一個MyISAM表的主索引(Primary key)示意。可以看出MyISAM的索引檔案僅僅儲存資料記錄的地址。在MyISAM中,主索引和輔助索引(Secondary key)在結構上沒有任何區別,只是主索引要求key是唯一的,而輔助索引的key可以重複。如果我們在Col2上建立一個輔助索引,則此索引的結構如下圖所示:
圖9
同樣也是一顆B+Tree,data域儲存資料記錄的地址。因此,MyISAM中索引檢索的演算法為首先按照B+Tree搜尋演算法搜尋索引,如果指定的Key存在,則取出其data域的值,然後以data域的值為地址,讀取相應資料記錄。
MyISAM的索引方式也叫做“非聚集”的,之所以這麼稱呼是為了與InnoDB的聚集索引區分。
InnoDB索引實現
雖然InnoDB也使用B+Tree作為索引結構,但具體實現方式卻與MyISAM截然不同。
第一個重大區別是InnoDB的資料檔案本身就是索引檔案。從上文知道,MyISAM索引檔案和資料檔案是分離的,索引檔案僅儲存資料記錄的地址。而在InnoDB中,表資料檔案本身就是按B+Tree組織的一個索引結構,這棵樹的葉節點data域儲存了完整的資料記錄。這個索引的key是資料表的主鍵,因此InnoDB表資料檔案本身就是主索引。
圖10
圖10是InnoDB主索引(同時也是資料檔案)的示意圖,可以看到葉節點包含了完整的資料記錄。這種索引叫做聚集索引。因為InnoDB的資料檔案本身要按主鍵聚集,所以InnoDB要求表必須有主鍵(MyISAM可以沒有),如果沒有顯式指定,則MySQL系統會自動選擇一個可以唯一標識資料記錄的列作為主鍵,如果不存在這種列,則MySQL自動為InnoDB表生成一個隱含欄位作為主鍵,這個欄位長度為6個位元組,型別為長整形。
第二個與MyISAM索引的不同是InnoDB的輔助索引data域儲存相應記錄主鍵的值而不是地址。換句話說,InnoDB的所有輔助索引都引用主鍵作為data域。例如,圖11為定義在Col3上的一個輔助索引:
圖11
這裡以英文字元的ASCII碼作為比較準則。聚集索引這種實現方式使得按主鍵的搜尋十分高效,但是輔助索引搜尋需要檢索兩遍索引:首先檢索輔助索引獲得主鍵,然後用主鍵到主索引中檢索獲得記錄。
瞭解不同儲存引擎的索引實現方式對於正確使用和優化索引都非常有幫助,例如知道了InnoDB的索引實現後,就很容易明白為什麼不建議使用過長的欄位作為主鍵,因為所有輔助索引都引用主索引,過長的主索引會令輔助索引變得過大。再例如,用非單調的欄位作為主鍵在InnoDB中不是個好主意,因為 InnoDB資料檔案本身是一顆B+Tree,非單調的主鍵會造成在插入新記錄時資料檔案為了維持B+Tree的特性而頻繁的分裂調整,十分低效,而使用自增欄位作為主鍵則是一個很好的選擇。
下一章將具體討論這些與索引有關的優化策略。
索引使用策略及優化
MySQL的優化主要分為結構優化(Scheme optimization)和查詢優化(Query optimization)。本章討論的高效能索引策略主要屬於結構優化範疇。本章的內容完全基於上文的理論基礎,實際上一旦理解了索引背後的機制,那麼選擇高效能的策略就變成了純粹的推理,並且可以理解這些策略背後的邏輯。
示例資料庫
為了討論索引策略,需要一個數據量不算小的資料庫作為示例。本文選用MySQL官方文件中提供的示例資料庫之一:employees。這個資料庫關係複雜度適中,且資料量較大。下圖是這個資料庫的E-R關係圖(引用自MySQL官方手冊):
圖12
MySQL官方文件中關於此資料庫的頁面為http://dev.mysql.com/doc/employee/en/employee.html。裡面詳細介紹了此資料庫,並提供了下載地址和匯入方法,如果有興趣匯入此資料庫到自己的MySQL可以參考文中內容。
最左字首原理與相關優化
高效使用索引的首要條件是知道什麼樣的查詢會使用到索引,這個問題和B+Tree中的“最左字首原理”有關,下面通過例子說明最左字首原理。
這裡先說一下聯合索引的概念。在上文中,我們都是假設索引只引用了單個的列,實際上,MySQL中的索引可以以一定順序引用多個列,這種索引叫做聯合索引,一般的,一個聯合索引是一個有序元組<a1, a2, …, an>,其中各個元素均為資料表的一列,實際上要嚴格定義索引需要用到關係代數,但是這裡我不想討論太多關係代數的話題,因為那樣會顯得很枯燥,所以這裡就不再做嚴格定義。另外,單列索引可以看成聯合索引元素數為1的特例。
以employees.titles表為例,下面先檢視其上都有哪些索引:
SHOW INDEX FROM
employees.titles; |
+ --------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ |
| Table | Non_unique | Key_name | Seq_in_index | Column_name | Collation | Cardinality | Null
| Index_type | |
+ --------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ |
| titles | 0 | PRIMARY | 1 | emp_no | A |
NULL | | BTREE | |
| titles | 0 | PRIMARY | 2 | title | A |
NULL | | BTREE | |
| titles | 0 | PRIMARY | 3 | from_date | A | 443308 | | BTREE | |
| titles | 1 | emp_no | 1 | emp_no | A | 443308 | | BTREE | |
+ --------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ |
從結果中可以到titles表的主索引為<emp_no, title, from_date>,還有一個輔助索引<emp_no>。為了避免多個索引使事情變複雜(MySQL的SQL優化器在多索引時行為比較複雜),這裡我們將輔助索引drop掉:
ALTER
TABLE employees.titles DROP INDEX
emp_no; |
這樣就可以專心分析索引PRIMARY的行為了。
情況一:全列匹配。
EXPLAIN SELECT *
FROM employees.titles
WHERE emp_no= '10001'
AND title= 'Senior Engineer' AND
from_date= '1986-06-26' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
| 1 | SIMPLE | titles | const | PRIMARY
| PRIMARY
| 59 | const,const,const | 1 | | |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
很明顯,當按照索引中所有列進行精確匹配(這裡精確匹配指“=”或“IN”匹配)時,索引可以被用到。這裡有一點需要注意,理論上索引對順序是敏感的,但是由於MySQL的查詢優化器會自動調整where子句的條件順序以使用適合的索引,例如我們將where中的條件順序顛倒:
EXPLAIN SELECT *
FROM employees.titles
WHERE from_date= '1986-06-26'
AND emp_no= '10001' AND
title= 'Senior Engineer' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
| 1 | SIMPLE | titles | const | PRIMARY
| PRIMARY
| 59 | const,const,const | 1 | | |
+ ----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ |
效果是一樣的。
情況二:最左字首匹配。
EXPLAIN SELECT *
FROM employees.titles
WHERE emp_no= '10001' ; |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ |
| 1 | SIMPLE | titles | ref |
PRIMARY | PRIMARY | 4 | const | 1 | | |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ |
當查詢條件精確匹配索引的左邊連續一個或幾個列時,如<emp_no>或<emp_no, title>,所以可以被用到,但是隻能用到一部分,即條件所組成的最左字首。上面的查詢從分析結果看用到了PRIMARY索引,但是 key_len為4,說明只用到了索引的第一列字首。
情況三:查詢條件用到了索引中列的精確匹配,但是中間某個條件未提供。
EXPLAIN SELECT *
FROM employees.titles
WHERE emp_no= '10001'
AND from_date= '1986-06-26' ; |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ |
| 1 | SIMPLE | titles | ref |
PRIMARY | PRIMARY | 4 | const | 1 | Using
where | |
+ ----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ |
此時索引使用情況和情況二相同,因為title未提供,所以查詢只用到了索引的第一列,而後面的from_date雖然也在索引中,但是由於 title不存在而無法和左字首連線,因此需要對結果進行掃描過濾from_date(這裡由於emp_no唯一,所以不存在掃描)。如果想讓 from_date也使用索引而不是where過濾,可以增加一個輔助索引<emp_no, from_date>,此時上面的查詢會使用這個索引。除此之外,還可以使用一種稱之為“隔離列”的優化方法,將emp_no與from_date 之間的“坑”填上。
首先我們看下title一共有幾種不同的值:
SELECT
DISTINCT (title) FROM employees.titles; |
+ --------------------+ |
| title | |
+ --------------------+ |
| Senior Engineer | |
| Staff | |
| Engineer | |
| Senior Staff | |
| Assistant Engineer | |
| Technique Leader | |
| Manager | |
+ --------------------+ |
只有7種。在這種成為“坑”的列值比較少的情況下,可以考慮用“IN”來填補這個“坑”從而形成最左字首:
EXPLAIN SELECT *
FROM employees.titles
|
WHERE
emp_no= '10001' |
AND title IN
( 'Senior Engineer' , 'Staff' ,
'Engineer' , 'Senior Staff' ,
'Assistant Engineer' ,
'Technique Leader' ,
'Manager' )
|
AND from_date= '1986-06-26' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| 1 | SIMPLE | titles | range | PRIMARY
| PRIMARY
| 59 | NULL | 7 | Using
where | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
這次key_len為59,說明索引被用全了,但是從type和rows看出IN實際上執行了一個range查詢,這裡檢查了7個key。看下兩種查詢的效能比較:
SHOW PROFILES; |
+ ----------+------------+-------------------------------------------------------------------------------+ |
| Query_ID | Duration | Query | |
+ ----------+------------+-------------------------------------------------------------------------------+ |
| 10 | 0.00058000 | SELECT *
FROM employees.titles
WHERE emp_no= '10001'
AND from_date= '1986-06-26' | |
| 11 | 0.00052500 | SELECT *
FROM employees.titles
WHERE emp_no= '10001'
AND title IN
... | |
+ ----------+------------+-------------------------------------------------------------------------------+ |
“填坑”後效能提升了一點。如果經過emp_no篩選後餘下很多資料,則後者效能優勢會更加明顯。當然,如果title的值很多,用填坑就不合適了,必須建立輔助索引。
情況四:查詢條件沒有指定索引第一列。
EXPLAIN SELECT *
FROM employees.titles
WHERE from_date= '1986-06-26' ; |
+ ----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ |
| 1 | SIMPLE | titles |
ALL | NULL |
NULL | NULL
| NULL
| 443308 | Using where
| |
+ ----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ |
由於不是最左字首,索引這樣的查詢顯然用不到索引。
情況五:匹配某列的字首字串。
EXPLAIN SELECT *
FROM employees.titles
WHERE emp_no= '10001'
AND title LIKE
'Senior%' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| 1 | SIMPLE | titles | range | PRIMARY
| PRIMARY
| 56 | NULL | 1 | Using
where | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
此時可以用到索引,但是如果萬用字元不是隻出現在末尾,則無法使用索引。
情況六:範圍查詢。
EXPLAIN SELECT *
FROM employees.titles
WHERE emp_no< '10010'
and title= 'Senior Engineer' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| 1 | SIMPLE | titles | range | PRIMARY
| PRIMARY
| 4 | NULL | 16 | Using
where | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
範圍列可以用到索引(必須是最左字首),但是範圍列後面的列無法用到索引。同時,索引最多用於一個範圍列,因此如果查詢條件中有兩個範圍列則無法全用到索引。
EXPLAIN SELECT *
FROM employees.titles
|
WHERE
emp_no< '10010' |
AND title= 'Senior Engineer' |
AND from_date BETWEEN
'1986-01-01' AND
'1986-12-31' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| 1 | SIMPLE | titles | range | PRIMARY
| PRIMARY
| 4 | NULL | 16 | Using
where | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
可以看到索引對第二個範圍索引無能為力。這裡特別要說明MySQL一個有意思的地方,那就是僅用explain可能無法區分範圍索引和多值匹配,因為在type中這兩者都顯示為range。同時,用了“between”並不意味著就是範圍查詢,例如下面的查詢:
EXPLAIN SELECT *
FROM employees.titles
|
WHERE
emp_no BETWEEN '10001' AND
'10010' |
AND title= 'Senior Engineer' |
AND from_date BETWEEN
'1986-01-01' AND
'1986-12-31' ; |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| id | select_type | table | type | possible_keys |
key | key_len | ref |
rows | Extra | |
+ ----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ |
| 1 | SIMPLE | titles | range | PRIMARY
| PRIMARY
| 59 | NULL | 16 | Using
where | |
相關推薦
B-Tree B+Tree mysql索引(MyISAM,InnoDB)
的話 在程式設計領域有一句人盡皆知的法則 “程式 = 資料結構 + 演算法”,我個人是不太贊同這句話(因為我覺得程式不僅僅是資料結構加演算法),但是在日常的學習和工作中我確認深深感受到資料結構和演算法的重要性,很多東西,如果你願意稍稍往深處挖一點,那麼撲面而來的一定是各種資
說說MySQL索引MyISAM和InnoDB的區別
如題,廢話不多說, 首先兩者都是使用B+樹作為底層的資料結構的。 下圖是MyISAM索引的原理圖(圖是網上找的。。。): 這個圖就很明顯了: 1,葉節點的data域存放的是資料記錄的地址。MyISAM的索引與行記錄是分開儲存的,叫做非聚集索引(U
MySQL中MyISAM和InnoDB對B-Tree索引不同的實現方式
索引是 MySQL資料庫很重要的一部分,它對資料表查詢效能的好壞起著決定性的作用,對大表尤甚。 作為索引中最為常見的一種型別,B-Tree索引大都採用的是 B+Tree資料結構來儲存資料(NDB叢集儲存引擎內部實際上採用 T-Tree結構儲存這種索引)。B-T
mysql索引 B+tree
一、B+tree示意圖 二、為什麼要用索引 1、索引能極大減少儲存引擎需要掃描的資料量:因為索引有序所以可以快速查詢並且不用全表查詢; 2、索引可以把隨機IO變為順序IO:因為B+tree在資料中儲存了下個數據的資訊; 3、索引在分組、排序等操作時,不使用臨時表。 三、sql資料庫優
圖解MySQL索引---B-TREE(B+TREE)
一、索引的分類 1️⃣從儲存結構上來劃分:BTree索引(B-Tree或B+Tree索引),Hash索引,full-index全文索引,R-Tree索引。 2️⃣從應用層次來分:普通索引,唯一索引,複合索引 3️⃣根據中資料的物理順序與鍵值的邏輯(索引)順序關係:聚集索引,非聚集
MySQL索引原理及BTree(B-/+Tree)結構詳解
目錄 摘要 資料結構及演算法基礎 索引的本質 B-Tree和B+Tree B-Tree B+Tree 帶有順序訪問指標的B+Tree 為什麼使用B-Tree(B+Tree) 主存存取原理 磁碟存取原理 區域性性原理與磁碟預讀 B
B-Tree,B+Tree以及mysql索引的實現
一、B-Tree B-Tree結構的1資料可以讓系統高效的找到資料所在的磁碟塊 為了描述B-Tree,我們先定義一條資料記錄為一個二元組[key,data],key為記錄的鍵值,對於不同資料記錄,key是互不相同的,data為key對應的值,m階的B-Tree是滿足下
MySql索引演算法原理解析(通俗易懂,只講B-tree)
剛開始學習的時候,百度去查,但發現好多說得太複雜不好理解,結合各個文章總結一下(建議大概看文字,不理解不要緊,然後再看圖的執行步驟然後在結合文字,這樣一切就清晰好多) B-tree,B是balance,一般用於資料庫的索引。使用B-tree結構可以顯著減少定位記錄
B+/-Tree原理及mysql的索引分析
B+/-Tree原理 B-Tree介紹 B-Tree是一種多路搜尋樹(並不是二叉的): 1.定義任意非葉子結點最多隻有M個兒子;且M>2; 2.根結點的兒子數為[2, M]; 3.除根結點以外的非葉子結點的兒子數為[M/2, M];
MySQL索引背後的資料結構及BTree B+Tree演算法原理
摘要本文以MySQL資料庫為研究物件,討論與資料庫索引相關的一些話題。特別需要說明的是,MySQL支援諸多儲存引擎,而各種儲存引擎對索引的支援也各不相同,因此MySQL資料庫支援多種索引型別,如BTree索引,雜湊索引,全文索引等等。為了避免混亂,本文將只關注於BTree索引
以 B tree 和 B+ tree 的區別來分析 MySQL 索引實現
轉自:https://www.jianshu.com/p/0371c9569736 B樹是一種多路自平衡搜尋樹,它類似普通的二叉樹,但是B書允許每個節點有更多的子節點。B樹示意圖如下: B樹的特點: (1)所有鍵值分佈在整個樹中 (2)任何關鍵字出現且只出現在一個節點中 (3)搜尋有可
資料庫知識——MySQL索引結構B+tree
一般在專案中做報表功能的人都會遇到sql查詢慢的問題。這時候很多人都會選擇給合適的欄位建立索引。 那麼索引為什麼加快sql查詢呢?現在來看看什麼是mysql索引 一、什麼是索引? 索引是為了加速對錶中資料行的檢索和建立的一種分散儲存的資料結構 很多人在面試的時候說索引是書的目錄之類的
深入理解Mysql索引的底層資料結構 B+ Tree (2)
sql查詢 explain的詳細用法 操作時間:尋道時間+旋轉時間 引入索引:採用二叉樹結構 把第二列做為索引生成二叉樹結構,此時查詢89 只做了兩次io操作 但是mysql 為什麼不用二叉樹作為底層索引結構? 紅黑樹 hash where col1 > 6
MySQL索引使用的資料結構:B-Tree和B+Tree
MyISAM是MySQL 5.5之前版本預設的儲存引擎,從5.5之後,InnoDB開始成為MySQL預設的儲存引擎。 MyISAM使用B-Tree實現主鍵索引、唯一索引和非主鍵索引。 InnoDB中非主鍵索引使用的是B-Tree資料結構,而主鍵索引使用的是B+Tree。
MySQL—2、B-Tree,B+Tree,聚集索引,非聚集索引
今天研究下,mysql中的B-tree索引,通過這篇文章你可以瞭解到,mysql中的btree索引的原理,檢索資料的過程,innodb和myisam引擎中btree索引的不同,以及btree索引的好處和限制。B-Tree 索引是 MySQL 資料庫中使用最為頻繁的索引型別,除
圖解MySQL索引(二)—為什麼使用B+Tree
失蹤人口迴歸,近期換工作一波三折,耽誤了不少時間,從今開始每週更新~ 索引是一種支援快速查詢的資料結構,同時索引優化也是後端工程師的必會知識點。各個公司都有所謂的MySQL”軍規“,其實這些所謂的優化和規定,並不是什麼高深的技術,只是要求大家正確建立和使用索引而已。工欲善其事必先利其器,想要正確運用索引,需要
MySQL技術內幕 InnoDB儲存引擎:B+樹索引的使用
1、聯合索引 MySQL允許對錶上的多個列進行索引,聯合索引的建立方法與單個索引建立的方法一樣,不同之處僅在於有多個索引列。 CREATE TABLE t( a INT, b INT, PRIMARY KEY(a), KEY idx_a_b(a, b) )ENGINE=InnoD
MySQL技術內幕 InnoDB儲存引擎:B+樹索引
B+ 樹索引並不能找到一個給定鍵值的具體行。 B+ 樹索引能找到的只是被查詢資料所在的頁。 然後資料庫通過把頁讀入到記憶體, 再在記憶體中進行查詢, 最後得到要查詢的資料。 平衡二叉樹 平衡二叉樹的定義如下:首先符合二叉查詢樹的定義,其次必須滿足任何節點的兩個字數的
關於索引的B tree B-tree B+tree B*tree 詳解結構圖
B樹 即二叉搜尋樹: 1.所有非葉子結點至多擁有兩個兒子(Left和Right); 2.所有結點儲存一個關鍵字; 3.非葉子結點的左指標指向小於其關鍵字的子樹,右指標指向大於其關鍵字的子樹; 如: B樹的搜尋,從根結點開始,如果查詢的關鍵字與結點的
B-tree/b+tree 原理以及聚簇索引和非聚簇索引
轉自:https://www.cnblogs.com/shijianchuzhenzhi/p/6666537.htmlB-Tree介紹B-Tree是一種多路搜尋樹(並不是二叉的): 1.定義任意非葉子結點最多隻有M個兒子;且M>2; 2.根結點的兒子數為[2, M];