MySQL規範,設計規範,索引規範,開發規範,操作規範
MySQL規範,設計規範,索引規範,開發規範,操作規範
一、資料庫命令規範
1、所有資料庫物件名稱必須使用小寫字母並用下劃線分割
2、所有資料庫物件名稱禁止使用mysql保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)
3、資料庫物件的命名要能做到見名識意,並且最後不要超過32個字元
4、臨時庫表必須以tmp_為字首並以日期為字尾,備份表必須以bak_為字首並以日期(時間戳)為字尾
5、所有儲存相同資料的列名和列型別必須一致(一般作為關聯列,如果查詢時關聯列型別不一致會自動進行資料型別隱式轉換,會造成列上的索引失效,導致查詢效率降低)
二、資料庫基本設計規範
1、所有表必須使用Innodb儲存引擎
沒有特殊要求(即Innodb無法滿足的功能如:列儲存,儲存空間資料等)的情況下,所有表必須使用Innodb儲存引擎(mysql5.5之前預設使用Myisam,5.6以後預設的為Innodb)Innodb 支援事務,支援行級鎖,更好的恢復性,高併發下效能更好。
2、資料庫和表的字符集統一使用utf8mb4
相容性更好,統一字符集可以避免由於字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效。
- 解讀:在Mysql中的UTF-8並非“真正的UTF-8”,而utf8mb4”才是真正的“UTF-8”。
3、所有表和欄位都需要添加註釋
使用comment從句新增表和列的備註 從一開始就進行資料字典的維護
4、儘量控制單表資料量的大小,建議控制在500萬以內
500萬並不是MySQL資料庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題
可以用歷史資料歸檔(應用於日誌資料),分庫分表(應用於業務資料)等手段來控制資料量大小
5、謹慎使用MySQL分割槽表
分割槽表在物理上表現為多個檔案,在邏輯上表現為一個表 謹慎選擇分割槽鍵,跨分割槽查詢效率可能更低 建議採用物理分表的方式管理大資料
6、儘量做到冷熱資料分離,減小表的寬度
MySQL限制每個表最多儲存4096列,並且每一行資料的大小不能超過65535位元組 減少磁碟IO,保證熱資料的記憶體快取命中率(表越寬,把表裝載進記憶體緩衝池時所佔用的記憶體也就越大,也會消耗更多的IO) 更有效的利用快取,避免讀入無用的冷資料 經常一起使用的列放到一個表中(避免更多的關聯操作)
7、禁止在表中建立預留欄位
預留欄位的命名很難做到見名識義 預留欄位無法確認儲存的資料型別,所以無法選擇合適的型別 對預留欄位型別的修改,會對錶進行鎖定
8、禁止在資料庫中儲存圖片,檔案等大的二進位制資料
通常檔案很大,會短時間內造成資料量快速增長,資料庫進行資料庫讀取時,通常會進行大量的隨機IO操作,檔案很大時,IO操作很耗時 通常儲存於檔案伺服器,資料庫只儲存檔案地址資訊
9、每張表必須設定一個主鍵ID,且這個主鍵ID使用自增主鍵(在滿足需要的情況下儘量短),除非在分庫分表環境下
- 解讀:由於InnoDB組織資料的方式決定了需要有一個主鍵,而且若是這個主鍵ID是單調遞增的可以有效提高插入的效能,避免過多的頁分裂、減少表碎片提高空間的使用率。 而在分庫分表環境下,則需要統一來分配各個表中的主鍵值,從而避免整個邏輯表中主鍵重複。
10、禁止使用外來鍵,如果有外來鍵完整性約束,需要應用程式控制
- 解讀:外來鍵會導致表與表之間耦合,UPDATE與DELETE操作都會涉及相關聯的表,十分影響SQL的效能,甚至會造成死鎖。
11、單表列數目必須小於30,若超過則應該考慮將表拆分
- 解讀:單表列數太多使得Mysql伺服器處理InnoDB返回資料之間的對映成本太高。
12、禁止在線上做資料庫壓力測試
13、禁止從開發環境,測試環境直接連線生成環境資料庫
三、資料庫欄位設計規範
1、優先選擇符合儲存需要的最小的資料型別
原因
列的欄位越大,建立索引時所需要的空間也就越大,這樣一頁中所能儲存的索引節點的數量也就越少也越少,在遍歷時所需要的IO次數也就越多, 索引的效能也就越差
方法
1)將字串轉換成數字型別儲存,如:將IP地址轉換成整形資料。
mysql提供了兩個方法來處理ip地址:
inet_aton 把ip轉為無符號整型(4-8位)
inet_ntoa 把整型的ip轉為地址
插入資料前,先用inet_aton把ip地址轉為整型,可以節省空間。顯示資料時,使用inet_ntoa把整型的ip地址轉為地址顯示即可。
2)對於非負型的資料(如自增ID、整型IP)來說,要優先使用無符號整型來儲存
因為:無符號相對於有符號可以多出一倍的儲存空間
SIGNED INT -2147483648~2147483647
UNSIGNED INT 0~4294967295
VARCHAR(N)中的N代表的是字元數,而不是位元組數
使用UTF8儲存255個漢字 Varchar(255)=765個位元組。過大的長度會消耗更多的記憶體
2、避免使用TEXT、BLOB資料型別,最常見的TEXT型別可以儲存64k的資料
建議把BLOB或是TEXT列分離到單獨的擴充套件表中
Mysql記憶體臨時表不支援TEXT、BLOB這樣的大資料型別,如果查詢中包含這樣的資料,在排序等操作時,就不能使用記憶體臨時表,必須使用磁碟臨時表進行。
而且對於這種資料,Mysql還是要進行二次查詢,會使sql效能變得很差,但是不是說一定不能使用這樣的資料型別。
如果一定要使用,建議把BLOB或是TEXT列分離到單獨的擴充套件表中,查詢時一定不要使用select * 而只需要取出必要的列,不需要TEXT列的資料時不要對該列進行查詢。
TEXT或BLOB型別只能使用字首索引
因為MySQL對索引欄位長度是有限制的,所以TEXT型別只能使用字首索引,並且TEXT列上是不能有預設值的。
3、避免使用ENUM型別
1、修改ENUM值需要使用ALTER語句
2、ENUM型別的ORDER BY操作效率低,需要額外操作
3、禁止使用數值作為ENUM的列舉值
4、必須把欄位定義為NOT NULL並且提供預設值
原因:
1、索引NULL列需要額外的空間來儲存,所以要佔用更多的空間;
2、進行比較和計算時要對NULL值做特別的處理
- 解讀:
- NULL的列使索引/索引統計/值比較都更加複雜,對MySQL來說更難優化;
- NULL這種型別Msql內部需要進行特殊處理,增加資料庫處理記錄的複雜性;同等條件下,表中有較多空欄位的時候,資料庫的處理效能會降低很多;
- NULL值需要更多的儲存空,無論是表還是索引中每行中的NULL的列都需要額外的空間來標識。
5、使用TIMESTAMP(4個位元組)或DATETIME型別(8個位元組)儲存時間
TIMESTAMP 儲存的時間範圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07。
TIMESTAMP 佔用4位元組和INT相同,但比INT可讀性高
超出TIMESTAMP取值範圍的使用DATETIME型別儲存。
經常會有人用字串儲存日期型的資料(不正確的做法):
缺點1:無法用日期函式進行計算和比較
缺點2:用字串儲存日期要佔用更多的空間
6、同財務相關的金額類資料必須使用decimal型別
1、非精準浮點:float,double
2、精準浮點:decimal
Decimal型別為精準浮點數,在計算時不會丟失精度。佔用空間由定義的寬度決定,每4個位元組可以儲存9位數字,並且小數點要佔用一個位元組。可用於儲存比bigint更大的整型資料。
7、如果儲存的字串長度幾乎相等,使用CHAR定長字串型別。
- 解讀:能夠減少空間碎片,節省儲存空間。
8、禁用保留字,如DESC、RANGE、MARCH等,請參考Mysql官方保留字
四、索引設計規範
1、限制每張表上的索引數量,建議單張表索引不超過5個
索引並不是越多越好!索引可以提高效率同樣可以降低效率。
索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。
因為mysql優化器在選擇如何優化查詢時,會根據統一資訊,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用於查詢,就會增加mysql優化器生成執行計劃的時間,同樣會降低查詢效能。
2、禁止給表中的每一列都建立單獨的索引
5.6版本之前,一個sql只能使用到一個表中的一個索引,5.6以後,雖然有了合併索引的優化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好
3、每個Innodb表必須有個主鍵
Innodb是一種索引組織表:資料的儲存的邏輯順序和索引的順序是相同的。
每個表都可以有多個索引,但是表的儲存順序只能有一種 Innodb是按照主鍵索引的順序來組織表的。
不要使用更新頻繁的列作為主鍵,不適用多列主鍵(相當於聯合索引) 不要使用UUID、MD5、HASH、字串列作為主鍵(無法保證資料的順序增長)。
主鍵建議使用自增ID值。
4、索引規約
【建議】(1)避免在更新比較頻繁、區分度不高的列上單獨建立索引
- 解讀:區分度不高的列單獨建立索引的優化效果很小,但是較為頻繁的更新則會讓索引的維護成本更高。
【強制】(2) JOIN的表不允許超過五個。需要JOIN的欄位,資料型別必須絕對一致; 多表關聯查詢時,保證被關聯的欄位需要有索引
-
解讀:太多表的JOIN會讓Mysql的優化器更難權衡出一個“最佳”的執行計劃(可能性為表數量的階乘),同時要注意關聯欄位的型別、長度、字元編碼等等是否一致。
【強制】(3)在一個聯合索引中,若第一列索引區分度等於1,那麼則不需要建立聯合索引
-
解讀:索引通過第一列就能夠完全定位的資料,所以聯合索引的後邊部分是不需要的。
【強制】(4)建立聯合索引時,必須將區分度更高的欄位放在左
- 解讀:區分度更高的列放在左邊,能夠在一開始就有效的過濾掉無用資料。提高索引的效率,相應我們在Mapper中編寫SQL的WHERE條件中有多個條件時,需要先看看當前表是否有現成的聯合索引直接使用,注意各個條件的順序儘量和索引的順序一致。
【建議】(5)利用覆蓋索引來進行查詢操作,避免回表
- 解讀:覆蓋查詢即是查詢只需要通過索引即可拿到所需DATA,而不再需要再次回表查詢,所以效率相對很高。我們在使用EXPLAIN的結果,extra列會出現:“using index”。這裡也要強調一下不要使用“SELECT * ”,否則幾乎不可能使用到覆蓋索引。
【建議】(6)在較長VARCHAR欄位,例如VARCHAR(100)上建立索引時,應指定索引長度,沒必要對全欄位建立索引,根據實際文字區分度決定索引長度即可
- 解讀:索引的長度與區分度是一對矛盾體,一般對字串型別資料,若長度為20的索引,區分度會高達90%以上,則可以考慮建立長度例為20的索引,而非全欄位索引。例如可以使用SELECT COUNT(DISTINCT LEFT(lesson_code, 20)) / COUNT(*) FROM lesson;來確定lesson_code欄位字元長度為20時文字區分度。
【建議】(7)如果有ORDER BY的場景,請注意利用索引的有序性。ORDER BY最後的欄位是聯合索引的一部分,並且放在索引組合順序的最後,避免出現file_sort的情況,影響查詢效能。
- 解讀:
- 假設有查詢條件為WHERE a=? and b=? ORDER BY c;存在索引:a_b_c,則此時可以利用索引排序;
- 反例:在查詢條件中包含了範圍查詢,那麼索引有序性無法利用,如:WHERE a>10 ORDER BY b; 索引a_b無法排序。
【建議】(8)在where中索引的列不能某個表示式的一部分,也不能是函式的引數
- 解讀:即是某列上已經添加了索引,但是若此列成為表示式的一部分、或者是函式的引數,Mysql無法將此列單獨解析出來,索引也不會生效。
【建議】 (9)我們在where條件中使用範圍查詢時,索引最多用於一個範圍條件,超過一個則後邊的不走索引
- 解讀:Mysql能夠使用多個範圍條件裡邊的最左邊的第一個範圍查詢,但是後邊的範圍查詢則無法使用。
【建議】 (10)在多個表進行外連線時,表之間的關聯欄位型別必須完全一致
- 解讀:當兩個表進行Join時,欄位型別若沒有完全一致,則加索引也不會生效,這裡的完全一致包括但不限於欄位型別、欄位長度、字符集、collection等等。
五、常見索引列建議
1、出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列
2、包含在ORDER BY、GROUP BY、DISTINCT中的欄位
並不要將符合1和2中的欄位的列都建立一個索引,通常將1、2中的欄位建立聯合索引效果更好
3、多表join的關聯列
六、如何選擇索引列的順序
建立索引的目的是:希望通過索引進行資料查詢,減少隨機IO,增加查詢效能 ,索引能過濾出越少的資料,則從磁碟中讀入的資料也就越少。
1、區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數);
2、儘量把欄位長度小的列放在聯合索引的最左側(因為欄位長度越小,一頁能儲存的資料量越大,IO效能也就越好);
3、使用最頻繁的列放到聯合索引的左側(這樣可以比較少的建立一些索引)。
七、避免建立冗餘索引和重複索引
因為這樣會增加查詢優化器生成執行計劃的時間。
**重複索引示例:**primary key(id)、index(id)、unique index(id)
**冗餘索引示例:**index(a,b,c)、index(a,b)、index(a)
八、優先考慮覆蓋索引
對於頻繁的查詢優先考慮使用覆蓋索引。
覆蓋索引:就是包含了所有查詢欄位(where,select,ordery by,group by包含的欄位)的索引
覆蓋索引的好處:
-
避免Innodb表進行索引的二次查詢
-
Innodb是以聚集索引的順序來儲存的,對於Innodb來說,二級索引在葉子節點中所儲存的是行的主鍵資訊,如果是用二級索引查詢資料的話,在查詢到相應的鍵值後,還要通過主鍵進行二次查詢才能獲取我們真實所需要的資料。而在覆蓋索引中,二級索引的鍵值中可以獲取所有的資料,避免了對主鍵的二次查詢 ,減少了IO操作,提升了查詢效率。
-
可以把隨機IO變成順序IO加快查詢效率
由於覆蓋索引是按鍵值的順序儲存的,對於IO密集型的範圍查詢來說,對比隨機從磁碟讀取每一行的資料IO要少的多,因此利用覆蓋索引在訪問時也可以把磁碟的隨機讀取的IO轉變成索引查詢的順序IO。
九、索引SET規範
儘量避免使用外來鍵約束
1、不建議使用外來鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引;
2、外來鍵可用於保證資料的參照完整性,但建議在業務端實現;
3、外來鍵會影響父表和子表的寫操作從而降低效能。
十、資料庫SQL開發規範
1、建議使用預編譯語句進行資料庫操作
預編譯語句可以重複使用這些計劃,減少SQL編譯所需要的時間,還可以解決動態SQL所帶來的SQL注入的問題 只傳引數,比傳遞SQL語句更高效 相同語句可以一次解析,多次使用,提高處理效率。
2、不允許使用屬性隱式轉換
隱式轉換會導致索引失效。如:select name,phone from customer where id = ‘111’;
解讀:假設我們在手機號列上添加了索引,然後執行下面的SQL會發生什麼?explain SELECT user_name FROM parent WHERE phone=13812345678; 很明顯就是索引不生效,會全表掃描。
3、充分利用表上已經存在的索引
避免使用雙%號的查詢條件。
如a like ‘%123%’,(如果無前置%,只有後置%,是可以用到列上的索引的)
解讀:根據索引的最左字首原理,%開頭的模糊查詢無法使用索引,可以使用ES來做檢索。
一個SQL只能利用到複合索引中的一列進行範圍查詢
如:有 a,b,c列的聯合索引,在查詢條件中有a列的範圍查詢,則在b,c列上的索引將不會被用到,在定義聯合索引時,如果a列要用到範圍查詢的話,就要把a列放到聯合索引的右側。
使用left join或 not exists來優化not in操作
因為not in 也通常會使用索引失效。
4、資料庫設計時,應該要對以後擴充套件進行考慮
5、程式連線不同的資料庫使用不同的賬號,禁止跨庫查詢
1、為資料庫遷移和分庫分表留出餘地
2、降低業務耦合度
3、避免許可權過大而產生的安全風險
6、禁止使用SELECT * 必須使用SELECT <欄位列表> 查詢
原因:
-
消耗更多的CPU和IO以網路頻寬資源
-
無法使用覆蓋索引
-
可減少表結構變更帶來的影響
-
讀取不需要的列會增加CPU、IO、NET消耗;
7、禁止使用不含欄位列表的INSERT語句
如:insert into values (‘a’,‘b’,‘c’);
應使用insert into t(c1,c2,c3) values (‘a’,‘b’,‘c’);
8、避免使用子查詢,可以把子查詢優化為join操作
通常子查詢在in子句中,且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時,才可以把子查詢轉化為關聯查詢進行優化。
子查詢效能差的原因:
1、子查詢的結果集無法使用索引,通常子查詢的結果集會被儲存到臨時表中,不論是記憶體臨時表還是磁碟臨時表都不會存在索引,所以查詢效能會受到一定的影響;
3、特別是對於返回結果集比較大的子查詢,其對查詢效能的影響也就越大;
3、由於子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的CPU和IO資源,產生大量的慢查詢。
9、避免使用JOIN關聯太多的表
對於Mysql來說,是存在關聯快取的,快取的大小可以由join_buffer_size引數進行設定。
在Mysql中,對於同一個SQL多關聯(join)一個表,就會多分配一個關聯快取,如果在一個SQL中關聯的表越多,所佔用的記憶體也就越大。
如果程式中大量的使用了多表關聯的操作,同時join_buffer_size設定的也不合理的情況下,就容易造成伺服器記憶體溢位的情況,就會影響到伺服器資料庫效能的穩定性。
同時對於關聯操作來說,會產生臨時表操作,影響查詢效率Mysql最多允許關聯61個表,建議不超過5個。
10、減少同資料庫的互動次數
資料庫更適合處理批量操作 合併多個相同的操作到一起,可以提高處理效率
11、對應同一列進行or判斷時,使用in代替or
應儘量避免在WHERE子句中使用or作為連線條件
in的值不要超過500個in操作可以更有效的利用索引,or大多數情況下很少能利用到索引。
解讀:根據情況可以選擇使用UNION ALL來代替OR。
12、禁止使用order by rand() 進行隨機排序
會把表中所有符合條件的資料裝載到記憶體中,然後在記憶體中對所有資料根據隨機生成的值進行排序,並且可能會對每一行都生成一個隨機值,如果滿足條件的資料集非常大,就會消耗大量的CPU和IO及記憶體資源。
推薦在程式中獲取一個隨機值,然後從資料庫中獲取資料的方式
13、WHERE從句中禁止對列進行函式轉換和計算
對列進行函式轉換或計算時會導致無法使用索引。
不推薦:
where date(create_time)='20190101'
推薦:
where create_time >= '20190101' and create_time < '20190102'
14、在明顯不會有重複值時使用UNION ALL而不是UNION
1、UNION會把兩個結果集的所有資料放到臨時表中後再進行去重操作
2、UNION ALL不會再對結果集進行去重操作
15、拆分複雜的大SQL為多個小SQL
1、大SQL:邏輯上比較複雜,需要佔用大量CPU進行計算的SQL
2、MySQL:一個SQL只能使用一個CPU進行計算
3、SQL拆分後可以通過並行執行來提高處理效率
16、禁止使用外來鍵與級聯,一切外來鍵概念必須在應用層解決
- 解讀:外來鍵與級聯更新適用於單機低併發,不適合分散式、高併發叢集;級聯更新是強阻塞,存在資料庫更新風暴的風險;外來鍵影響資料庫的插入速度。
十一、資料庫操作行為規範
1、超100萬行的批量寫(UPDATE、DELETE、INSERT)操作,要分批多次進行操作
大批量操作可能會造成嚴重的主從延遲
主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間,而只有當主庫上執行完成後,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況
binlog日誌為row格式時會產生大量的日誌
大批量寫操作會產生大量日誌,特別是對於row格式二進位制資料而言,由於在row格式中會記錄每一行資料的修改,我們一次修改的資料越多,產生的日誌量也就會越多,日誌的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因。
避免產生大事務操作
大批量修改資料,一定是在一個事務中進行的,這就會造成表中大批量資料進行鎖定,從而導致大量的阻塞,阻塞會對MySQL的效能產生非常大的影響。
特別是長時間的阻塞會佔滿所有資料庫的可用連線,這會使生產環境中的其他應用無法連線到資料庫,因此一定要注意大批量寫操作要進行分批。
2、對於大表使用pt-online-schema-change修改表結構
1、避免大表修改產生的主從延遲
2、避免在對錶欄位進行修改時進行鎖表
對大表資料結構的修改一定要謹慎,會造成嚴重的鎖表操作,尤其是生產環境,是不能容忍的。
pt-online-schema-change它會首先建立一個與原表結構相同的新表,並且在新表上進行表結構的修改,然後再把原表中的資料複製到新表中,並在原表中增加一些觸發器。
把原表中新增的資料也複製到新表中,在行所有資料複製完成之後,把新表命名成原表,並把原來的表刪除掉。
把原來一個DDL操作,分解成多個小的批次進行。
3、禁止為程式使用的賬號賦予super許可權
當達到最大連線數限制時,還執行1個有super許可權的使用者連線super許可權只能留給DBA處理問題的賬號使用。
4、對於程式連線資料庫賬號,遵循許可權最小原則
程式使用資料庫賬號只能在一個DB下使用,不準跨庫 程式使用的賬號原則上不準有drop許可權。