常見的數據庫方面問題
MySQL
為什麽用自增列作為主鍵
- 如果我們定義了主鍵(PRIMARY KEY),那麽InnoDB會選擇主鍵作為聚集索引、如果沒有顯式定義主鍵,則InnoDB會選擇第一個不包含有NULL值的唯一索引作為主鍵索引、如果也沒有這樣的唯一索引,則InnoDB會選擇內置6字節長的ROWID作為隱含的聚集索引(ROWID隨著行記錄的寫入而主鍵遞增,這個ROWID不像ORACLE的ROWID那樣可引用,是隱含的)。
- 數據記錄本身被存於主索引(一顆B+Tree)的葉子節點上。這就要求同一個葉子節點內(大小為一個內存頁或磁盤頁)的各條數據記錄按主鍵順序存放,因此每當有一條新的記錄插入時,MySQL會根據其主鍵將其插入適當的節點和位置,如果頁面達到裝載因子(InnoDB默認為15/16),則開辟一個新的頁(節點)
- 如果表使用自增主鍵,那麽每次插入新的記錄,記錄就會順序添加到當前索引節點的後續位置,當一頁寫滿,就會自動開辟一個新的頁
- 如果使用非自增主鍵(如果身份證號或學號等),由於每次插入主鍵的值近似於隨機,因此每次新紀錄都要被插到現有索引頁得中間某個位置,此時MySQL不得不為了將新記錄插到合適位置而移動數據,甚至目標頁面可能已經被回寫到磁盤上而從緩存中清掉,此時又要從磁盤上讀回來,這增加了很多開銷,同時頻繁的移動、分頁操作造成了大量的碎片,得到了不夠緊湊的索引結構,後續不得不通過OPTIMIZE TABLE來重建表並優化填充頁面。
為什麽使用數據索引能提高效率
- 數據索引的存儲是有序的
- 在有序的情況下,通過索引查詢一個數據是無需遍歷索引記錄的
- 極端情況下,數據索引的查詢效率為二分法查詢效率,趨近於 log2(N)
B+樹索引和哈希索引的區別
B+樹是一個平衡的多叉樹,從根節點到每個葉子節點的高度差值不超過1,而且同層級的節點間有指針相互鏈接,是有序的
哈希索引就是采用一定的哈希算法,把鍵值換算成新的哈希值,檢索時不需要類似B+樹那樣從根節點到葉子節點逐級查找,只需一次哈希算法即可,是無序的
哈希索引的優勢:
- 等值查詢。哈希索引具有絕對優勢(前提是:沒有大量重復鍵值,如果大量重復鍵值時,哈希索引的效率很低,因為存在所謂的哈希碰撞問題。)
哈希索引不適用的場景:
- 不支持範圍查詢
- 不支持索引完成排序
- 不支持聯合索引的最左前綴匹配規則
通常,B+樹索引結構適用於絕大多數場景,像下面這種場景用哈希索引才更有優勢:
在HEAP表中,如果存儲的數據重復度很低(也就是說基數很大),對該列數據以等值查詢為主,沒有範圍查詢、沒有排序的時候,特別適合采用哈希索引,例如這種SQL:
select id,name from table where name=‘李明‘; — 僅等值查詢
而常用的InnoDB引擎中默認使用的是B+樹索引,它會實時監控表上索引的使用情況,如果認為建立哈希索引可以提高查詢效率,則自動在內存中的“自適應哈希索引緩沖區”建立哈希索引(在InnoDB中默認開啟自適應哈希索引),通過觀察搜索模式,MySQL會利用index key的前綴建立哈希索引,如果一個表幾乎大部分都在緩沖池中,那麽建立一個哈希索引能夠加快等值查詢。
註意:在某些工作負載下,通過哈希索引查找帶來的性能提升遠大於額外的監控索引搜索情況和保持這個哈希表結構所帶來的開銷。但某些時候,在負載高的情況下,自適應哈希索引中添加的read/write鎖也會帶來競爭,比如高並發的join操作。like操作和%的通配符操作也不適用於自適應哈希索引,可能要關閉自適應哈希索引。
B樹和B+樹的區別
- B樹,每個節點都存儲key和data,所有節點組成這棵樹,並且葉子節點指針為nul,葉子結點不包含任何關鍵字信息。
- B+樹,所有的葉子結點中包含了全部關鍵字的信息,及指向含有這些關鍵字記錄的指針,且葉子結點本身依關鍵字的大小自小而大的順序鏈接,所有的非終端結點可以看成是索引部分,結點中僅含有其子樹根結點中最大(或最小)關鍵字。 (而B 樹的非終節點也包含需要查找的有效信息)
為什麽說B+比B樹更適合實際應用中操作系統的文件索引和數據庫索引?
- B+的磁盤讀寫代價更低B+的內部結點並沒有指向關鍵字具體信息的指針。因此其內部結點相對B樹更小。如果把所有同一內部結點的關鍵字存放在同一盤塊中,那麽盤塊所能容納的關鍵字數量也越多。一次性讀入內存中的需要查找的關鍵字也就越多。相對來說IO讀寫次數也就降低了。
- B+-tree的查詢效率更加穩定由於非終結點並不是最終指向文件內容的結點,而只是葉子結點中關鍵字的索引。所以任何關鍵字的查找必須走一條從根結點到葉子結點的路。所有關鍵字查詢的路徑長度相同,導致每一個數據的查詢效率相當。
MySQL聯合索引
- 聯合索引是兩個或更多個列上的索引。對於聯合索引:Mysql從左到右的使用索引中的字段,一個查詢可以只使用索引中的一部份,但只能是最左側部分。例如索引是key index (a,b,c). 可以支持a 、 a,b 、 a,b,c 3種組合進行查找,但不支持 b,c進行查找 .當最左側字段是常量引用時,索引就十分有效。
- 利用索引中的附加列,您可以縮小搜索的範圍,但使用一個具有兩列的索引 不同於使用兩個單獨的索引。復合索引的結構與電話簿類似,人名由姓和名構成,電話簿首先按姓氏對進行排序,然後按名字對有相同姓氏的人進行排序。如果您知 道姓,電話簿將非常有用;如果您知道姓和名,電話簿則更為有用,但如果您只知道名不姓,電話簿將沒有用處。
什麽情況下應不建或少建索引
- 表記錄太少
- 經常插入、刪除、修改的表
- 數據重復且分布平均的表字段,假如一個表有10萬行記錄,有一個字段A只有T和F兩種值,且每個值的分布概率大約為50%,那麽對這種表A字段建索引一般不會提高數據庫的查詢速度。
- 經常和主字段一塊查詢但主字段索引值比較多的表字段
MySQL分區
一. 什麽是表分區?
表分區,是指根據一定規則,將數據庫中的一張表分解成多個更小的,容易管理的部分。從邏輯上看,只有一張表,但是底層卻是由多個物理分區組成。
二. 表分區與分表的區別
分表:指的是通過一定規則,將一張表分解成多張不同的表。比如將用戶訂單記錄根據時間成多個表。
分表與分區的區別在於:分區從邏輯上來講只有一張表,而分表則是將一張表分解成多張表。
三. 表分區有什麽好處?
- 分區表的數據可以分布在不同的物理設備上,從而高效地利用多個硬件設備。 2. 和單個磁盤或者文件系統相比,可以存儲更多數據
- 優化查詢。在where語句中包含分區條件時,可以只掃描一個或多個分區表來提高查詢效率;涉及sum和count語句時,也可以在多個分區上並行處理,最後匯總結果。
- 分區表更容易維護。例如:想批量刪除大量數據可以清除整個分區。
- 可以使用分區表來避免某些特殊的瓶頸,例如InnoDB的單個索引的互斥訪問,ext3問價你系統的inode鎖競爭等。
四. 分區表的限制因素
- 一個表最多只能有1024個分區
- MySQL5.1中,分區表達式必須是整數,或者返回整數的表達式。在MySQL5.5中提供了非整數表達式分區的支持。
- 如果分區字段中有主鍵或者唯一索引的列,那麽多有主鍵列和唯一索引列都必須包含進來。即:分區字段要麽不包含主鍵或者索引列,要麽包含全部主鍵和索引列。
- 分區表中無法使用外鍵約束
- MySQL的分區適用於一個表的所有數據和索引,不能只對表數據分區而不對索引分區,也不能只對索引分區而不對表分區,也不能只對表的一部分數據分區。
五. 如何判斷當前MySQL是否支持分區?
命令:show variables like ‘%partition%‘ 運行結果:
mysql> show variables like ‘%partition%‘;+-------------------+-------+| Variable_name | Value |+-------------------+-------+| have_partitioning | YES |+-------------------+-------+1 row in set (0.00 sec)have_partintioning 的值為YES,表示支持分區。
六. MySQL支持的分區類型有哪些?
- RANGE分區: 這種模式允許將數據劃分不同範圍。例如可以將一個表通過年份劃分成若幹個分區
- LIST分區: 這種模式允許系統通過預定義的列表的值來對數據進行分割。按照List中的值分區,與RANGE的區別是,range分區的區間範圍值是連續的。
- HASH分區 :這中模式允許通過對表的一個或多個列的Hash Key進行計算,最後通過這個Hash碼不同數值對應的數據區域進行分區。例如可以建立一個對表主鍵進行分區的表。
- KEY分區 :上面Hash模式的一種延伸,這裏的Hash Key是MySQL系統產生的。
四種隔離級別
- Serializable (串行化):可避免臟讀、不可重復讀、幻讀的發生。
- Repeatable read (可重復讀):可避免臟讀、不可重復讀的發生。
- Read committed (讀已提交):可避免臟讀的發生。
- Read uncommitted (讀未提交):最低級別,任何情況都無法保證。
關於MVVC
MySQL InnoDB存儲引擎,實現的是基於多版本的並發控制協議——MVCC (Multi-Version Concurrency Control) (註:與MVCC相對的,是基於鎖的並發控制,Lock-Based Concurrency Control)。MVCC最大的好處:讀不加鎖,讀寫不沖突。在讀多寫少的OLTP應用中,讀寫不沖突是非常重要的,極大的增加了系統的並發性能,現階段幾乎所有的RDBMS,都支持了MVCC。
- LBCC:Lock-Based Concurrency Control,基於鎖的並發控制。
- MVCC:Multi-Version Concurrency Control,基於多版本的並發控制協議。純粹基於鎖的並發機制並發量低,MVCC是在基於鎖的並發控制上的改進,主要是在讀操作上提高了並發量。
在MVCC並發控制中,讀操作可以分成兩類:
- 快照讀 (snapshot read):讀取的是記錄的可見版本 (有可能是歷史版本),不用加鎖(共享讀鎖s鎖也不加,所以不會阻塞其他事務的寫)。
- 當前讀 (current read):讀取的是記錄的最新版本,並且,當前讀返回的記錄,都會加上鎖,保證其他事務不會再並發修改這條記錄。
行級鎖定的優點:
- 當在許多線程中訪問不同的行時只存在少量鎖定沖突。
- 回滾時只有少量的更改
- 可以長時間鎖定單一的行。
行級鎖定的缺點:
- 比頁級或表級鎖定占用更多的內存。
- 當在表的大部分中使用時,比頁級或表級鎖定速度慢,因為你必須獲取更多的鎖。
- 如果你在大部分數據上經常進行GROUP BY操作或者必須經常掃描整個表,比其它鎖定明顯慢很多。
- 用高級別鎖定,通過支持不同的類型鎖定,你也可以很容易地調節應用程序,因為其鎖成本小於行級鎖定。
MySQL觸發器簡單實例
- CREATE TRIGGER <觸發器名稱> --觸發器必須有名字,最多64個字符,可能後面會附有分隔符.它和MySQL中其他對象的命名方式基本相象.
- { BEFORE | AFTER } --觸發器有執行的時間設置:可以設置為事件發生前或後。
- { INSERT | UPDATE | DELETE } --同樣也能設定觸發的事件:它們可以在執行insert、update或delete的過程中觸發。
- ON <表名稱> --觸發器是屬於某一個表的:當在這個表上執行插入、 更新或刪除操作的時候就導致觸發器的激活. 我們不能給同一張表的同一個事件安排兩個觸發器。
- FOR EACH ROW --觸發器的執行間隔:FOR EACH ROW子句通知觸發器 每隔一行執行一次動作,而不是對整個表執行一次。
- <觸發器SQL語句> --觸發器包含所要觸發的SQL語句:這裏的語句可以是任何合法的語句, 包括復合語句,但是這裏的語句受的限制和函數的一樣。
什麽是存儲過程
簡單的說,就是一組SQL語句集,功能強大,可以實現一些比較復雜的邏輯功能,類似於JAVA語言中的方法;
ps:存儲過程跟觸發器有點類似,都是一組SQL集,但是存儲過程是主動調用的,且功能比觸發器更加強大,觸發器是某件事觸發後自動調用;
有哪些特性
- 有輸入輸出參數,可以聲明變量,有if/else, case,while等控制語句,通過編寫存儲過程,可以實現復雜的邏輯功能;
- 函數的普遍特性:模塊化,封裝,代碼復用;
- 速度快,只有首次執行需經過編譯和優化步驟,後續被調用可以直接執行,省去以上步驟;
DROP PROCEDURE IF EXISTS `proc_adder`;
DELIMITER ;;
CREATE DEFINER=`root`@`localhost` PROCEDURE `proc_adder`(IN a int, IN b int, OUT sum int)
BEGIN
#Routine body goes here...
DECLARE c int;
if a is null then set a = 0;
end if;
if b is null then set b = 0;
end if;
set sum = a + b;
END
;;
DELIMITER ;
set @b=5;
call proc_adder(0,@b,@s);
SELECT @s as sum;
create table tab2(
tab2_id varchar(11)
);
DROP TRIGGER if EXISTS t_ai_on_tab1;
create TRAILING t_ai_on_tab1
AFTER INSERT ON tab1
for EACH ROW
BEGIN
INSERT INTO tab2(tab2_id) values(new.tab1_id);
end;
INSERT INTO tab1(tab1_id) values(‘0001‘);
SELECT * FROM tab2;
MySQL優化
- 開啟查詢緩存,優化查詢
- explain你的select查詢,這可以幫你分析你的查詢語句或是表結構的性能瓶頸。EXPLAIN 的查詢結果還會告訴你你的索引主鍵被如何利用的,你的數據表是如何被搜索和排序的
- 當只要一行數據時使用limit 1,MySQL數據庫引擎會在找到一條數據後停止搜索,而不是繼續往後查少下一條符合記錄的數據
- 為搜索字段建索引
- 使用 ENUM 而不是 VARCHAR,如果你有一個字段,比如“性別”,“國家”,“民族”,“狀態”或“部門”,你知道這些字段的取值是有限而且固定的,那麽,你應該使用 ENUM 而不是VARCHAR。
- Prepared StatementsPrepared Statements很像存儲過程,是一種運行在後臺的SQL語句集合,我們可以從使用 prepared statements 獲得很多好處,無論是性能問題還是安全問題。Prepared Statements 可以檢查一些你綁定好的變量,這樣可以保護你的程序不會受到“SQL註入式”攻擊
- 垂直分表
- 選擇正確的存儲引擎
key和index的區別
- key 是數據庫的物理結構,它包含兩層意義和作用,一是約束(偏重於約束和規範數據庫的結構完整性),二是索引(輔助查詢用的)。包括primary key, unique key, foreign key 等
- index是數據庫的物理結構,它只是輔助查詢的,它創建時會在另外的表空間(mysql中的innodb表空間)以一個類似目錄的結構存儲。索引要分類的話,分為前綴索引、全文本索引等;
Mysql 中 MyISAM 和 InnoDB 的區別有哪些?
區別:
- InnoDB支持事務,MyISAM不支持,對於InnoDB每一條SQL語言都默認封裝成事務,自動提交,這樣會影響速度,所以最好把多條SQL語言放在begin和commit之間,組成一個事務;
- InnoDB支持外鍵,而MyISAM不支持。對一個包含外鍵的InnoDB表轉為MYISAM會失敗;
- InnoDB是聚集索引,數據文件是和索引綁在一起的,必須要有主鍵,通過主鍵索引效率很高。但是輔助索引需要兩次查詢,先查詢到主鍵,然後再通過主鍵查詢到數據。因此,主鍵不應該過大,因為主鍵太大,其他索引也都會很大。而MyISAM是非聚集索引,數據文件是分離的,索引保存的是數據文件的指針。主鍵索引和輔助索引是獨立的。
- InnoDB不保存表的具體行數,執行select count(*) from table時需要全表掃描。而MyISAM用一個變量保存了整個表的行數,執行上述語句時只需要讀出該變量即可,速度很快;
- Innodb不支持全文索引,而MyISAM支持全文索引,查詢效率上MyISAM要高;
如何選擇:
- 是否要支持事務,如果要請選擇innodb,如果不需要可以考慮MyISAM;
- 如果表中絕大多數都只是讀查詢,可以考慮MyISAM,如果既有讀寫也挺頻繁,請使用InnoDB。
- 系統奔潰後,MyISAM恢復起來更困難,能否接受;
- MySQL5.5版本開始Innodb已經成為Mysql的默認引擎(之前是MyISAM),說明其優勢是有目共睹的,如果你不知道用什麽,那就用InnoDB,至少不會差。
數據庫表創建註意事項
一、字段名及字段配制合理性
- 剔除關系不密切的字段
- 字段命名要有規則及相對應的含義(不要一部分英文,一部分拼音,還有類似a.b.c這樣不明含義的字段)
- 字段命名盡量不要使用縮寫(大多數縮寫都不能明確字段含義)
- 字段不要大小寫混用(想要具有可讀性,多個英文單詞可使用下劃線形式連接)
- 字段名不要使用保留字或者關鍵字
- 保持字段名和類型的一致性
- 慎重選擇數字類型
- 給文本字段留足余量
二、系統特殊字段處理及建成後建議
- 添加刪除標記(例如操作人、刪除時間)
- 建立版本機制
三、表結構合理性配置
- 多型字段的處理,就是表中是否存在字段能夠分解成更小獨立的幾部分(例如:人可以分為男人和女人)
- 多值字段的處理,可以將表分為三張表,這樣使得檢索和排序更加有調理,且保證數據的完整性!
四、其它建議
- 對於大數據字段,獨立表進行存儲,以便影響性能(例如:簡介字段)
- 使用varchar類型代替char,因為varchar會動態分配長度,char指定長度是固定的。
- 給表創建主鍵,對於沒有主鍵的表,在查詢和索引定義上有一定的影響。
- 避免表字段運行為null,建議設置默認值(例如:int類型設置默認值為0)在索引查詢上,效率立顯!
- 建立索引,最好建立在唯一和非空的字段上,建立太多的索引對後期插入、更新都存在一定的影響(考慮實際情況來創建)。
Redis
Redis單線程問題
單線程指的是網絡請求模塊使用了一個線程(所以不需考慮並發安全性),即一個線程處理所有網絡請求,其他模塊仍用了多個線程。
為什麽說Redis能夠快速執行
- 絕大部分請求是純粹的內存操作(非常快速)
- 采用單線程,避免了不必要的上下文切換和競爭條件
- 非阻塞IO - IO多路復用
Redis的內部實現
內部實現采用epoll,采用了epoll+自己實現的簡單的事件框架。epoll中的讀、寫、關閉、連接都轉化成了事件,然後利用epoll的多路復用特性,不在io上浪費一點時間 這3個條件不是相互獨立的,特別是第一條,如果請求都是耗時的,采用單線程吞吐量及性能很差。redis為特殊的場景選擇了合適的技術方案。
Redis關於線程安全問題
redis實際上是采用了線程封閉的觀念,把任務封閉在一個線程,自然避免了線程安全問題,不過對於需要依賴多個redis操作的復合操作來說,依然需要鎖,而且有可能是分布式鎖。
使用Redis有哪些好處?
- 速度快,因為數據存在內存中,類似於HashMap,HashMap的優勢就是查找和操作的時間復雜度都是O(1)
- 支持豐富數據類型,支持string,list,set,sorted set,hash
- 支持事務,操作都是原子性,所謂的原子性就是對數據的更改要麽全部執行,要麽全部不執行
- 豐富的特性:可用於緩存,消息,按key設置過期時間,過期後將會自動刪除
redis相比memcached有哪些優勢?
- memcached所有的值均是簡單的字符串,redis作為其替代者,支持更為豐富的數據類型
- redis的速度比memcached快很多
- redis可以持久化其數據
- Redis支持數據的備份,即master-slave模式的數據備份。
- 使用底層模型不同,它們之間底層實現方式 以及與客戶端之間通信的應用協議不一樣。Redis直接自己構建了VM 機制 ,因為一般的系統調用系統函數的話,會浪費一定的時間去移動和請求。
- value大小:redis最大可以達到1GB,而memcache只有1MB
Redis主從復制
過程原理:
- 當從庫和主庫建立MS關系後,會向主數據庫發送SYNC命令
- 主庫接收到SYNC命令後會開始在後臺保存快照(RDB持久化過程),並將期間接收到的寫命令緩存起來
- 當快照完成後,主Redis會將快照文件和所有緩存的寫命令發送給從Redis
- 從Redis接收到後,會載入快照文件並且執行收到的緩存的命令
- 之後,主Redis每當接收到寫命令時就會將命令發送從Redis,從而保證數據的一致
缺點:所有的slave節點數據的復制和同步都由master節點來處理,會照成master節點壓力太大,使用主從從結構來解決
Redis兩種持久化方式的優缺點
- RDB 持久化可以在指定的時間間隔內生成數據集的時間點快照(point-in-time snapshot)
- AOF 持久化記錄服務器執行的所有寫操作命令,並在服務器啟動時,通過重新執行這些命令來還原數據集。
- Redis 還可以同時使用 AOF 持久化和 RDB 持久化。當redis重啟時,它會有限使用AOF文件來還原數據集,因為AOF文件保存的數據集通常比RDB文件所保存的數據集更加完整
RDB的優點:
- RDB 是一個非常緊湊(compact)的文件,它保存了 Redis 在某個時間點上的數據集。 這種文件非常適合用於進行備份: 比如說,你可以在最近的 24 小時內,每小時備份一次 RDB 文件,並且在每個月的每一天,也備份一個 RDB 文件。 這樣的話,即使遇上問題,也可以隨時將數據集還原到不同的版本。
- RDB 非常適用於災難恢復(disaster recovery):它只有一個文件,並且內容都非常緊湊,可以(在加密後)將它傳送到別的數據中心,或者亞馬遜 S3 中。
- RDB 可以最大化 Redis 的性能:父進程在保存 RDB 文件時唯一要做的就是 fork 出一個子進程,然後這個子進程就會處理接下來的所有保存工作,父進程無須執行任何磁盤 I/O 操作。
- RDB 在恢復大數據集時的速度比 AOF 的恢復速度要快
Redis常見的性能問題都有哪些?如何解決?
- Master寫內存快照,save命令調度rdbSave函數,會阻塞主線程的工作,當快照比較大時對性能影響是非常大的,會間斷性暫停服務,所以Master最好不要寫內存快照。
- Master AOF持久化,如果不重寫AOF文件,這個持久化方式對性能的影響是最小的,但是AOF文件會不斷增大,AOF文件過大會影響Master重啟的恢復速度。Master最好不要做任何持久化工作,包括內存快照和AOF日誌文件,特別是不要啟用內存快照做持久化,如果數據比較關鍵,某個Slave開啟AOF備份數據,策略為每秒同步一次。
- Master調用BGREWRITEAOF重寫AOF文件,AOF在重寫的時候會占大量的CPU和內存資源,導致服務load過高,出現短暫服務暫停現象。
- Redis主從復制的性能問題,為了主從復制的速度和連接的穩定性,Slave和Master最好在同一個局域網內
Redis提供6種數據淘汰策略
- volatile-lru:從已設置過期時間的數據集(server.db[i].expires)中挑選最近最少使用的數據淘汰
- volatile-ttl:從已設置過期時間的數據集(server.db[i].expires)中挑選將要過期的數據淘汰
- volatile-random:從已設置過期時間的數據集(server.db[i].expires)中任意選擇數據淘汰
- allkeys-lru:從數據集(server.db[i].dict)中挑選最近最少使用的數據淘汰
- allkeys-random:從數據集(server.db[i].dict)中任意選擇數據淘汰
- no-enviction(驅逐):禁止驅逐數據
常見的數據庫方面問題