Mysql高性能優(yōu)化技能總結(jié)

數(shù)據(jù)庫命令規(guī)范

1. 所有數(shù)據(jù)庫對象名稱必須使用小寫字母并用下劃線分割
2. 所有數(shù)據(jù)庫對象名稱禁止使用mysql保留關(guān)鍵字（如果表名中包含關(guān)鍵字查詢時(shí)，需要將其用單引號括起來）
3. 數(shù)據(jù)庫對象的命名要能做到見名識意，并且最后不要超過32個(gè)字符
4. 臨時(shí)庫表必須以tmp_為前綴并以日期為后綴，備份表必須以bak_為前綴并以日期(時(shí)間戳)為后綴
5. 所有存儲相同數(shù)據(jù)的列名和列類型必須一致（一般作為關(guān)聯(lián)列，如果查詢時(shí)關(guān)聯(lián)列類型不一致會自動進(jìn)行數(shù)據(jù)類型隱式轉(zhuǎn)換，會造成列上的索引失效，導(dǎo)致查詢效率降低）

數(shù)據(jù)庫基本設(shè)計(jì)規(guī)范

1. 所有表必須使用Innodb存儲引擎
沒有特殊要求（即Innodb無法滿足的功能如：列存儲，存儲空間數(shù)據(jù)等）的情況下，所有表必須使用Innodb存儲引擎（mysql5.5之前默認(rèn)使用Myisam，5.6以后默認(rèn)的為Innodb）。
Innodb 支持事務(wù)，支持行級鎖，更好的恢復(fù)性，高并發(fā)下性能更好。

2. 數(shù)據(jù)庫和表的字符集統(tǒng)一使用UTF8
兼容性更好，統(tǒng)一字符集可以避免由于字符集轉(zhuǎn)換產(chǎn)生的亂碼，不同的字符集進(jìn)行比較前需要進(jìn)行轉(zhuǎn)換會造成索引失效，如果數(shù)據(jù)庫中有存儲emoji表情的需要，字符集需要采用utf8mb4字符集。

3. 所有表和字段都需要添加注釋
使用comment從句添加表和列的備注，從一開始就進(jìn)行數(shù)據(jù)字典的維護(hù)

4. 盡量控制單表數(shù)據(jù)量的大小，建議控制在500萬以內(nèi)。
500萬并不是Mysql數(shù)據(jù)庫的限制，過大會造成修改表結(jié)構(gòu)，備份，恢復(fù)都會有很大的問題。

可以用歷史數(shù)據(jù)歸檔（應(yīng)用于日志數(shù)據(jù)），分庫分表（應(yīng)用于業(yè)務(wù)數(shù)據(jù)）等手段來控制數(shù)據(jù)量大小

5. 謹(jǐn)慎使用Mysql分區(qū)表
分區(qū)表在物理上表現(xiàn)為多個(gè)文件，在邏輯上表現(xiàn)為一個(gè)表；
謹(jǐn)慎選擇分區(qū)鍵，跨分區(qū)查詢效率可能更低；
建議采用物理分表的方式管理大數(shù)據(jù)。

6. 盡量做到冷熱數(shù)據(jù)分離，減小表的寬度
Mysql限制每個(gè)表最多存儲4096列，并且每一行數(shù)據(jù)的大小不能超過65535字節(jié)。
減少磁盤IO,保證熱數(shù)據(jù)的內(nèi)存緩存命中率（表越寬，把表裝載進(jìn)內(nèi)存緩沖池時(shí)所占用的內(nèi)存也就越大,也會消耗更多的IO）；

更有效的利用緩存，避免讀入無用的冷數(shù)據(jù)；

經(jīng)常一起使用的列放到一個(gè)表中（避免更多的關(guān)聯(lián)操作）。

7. 禁止在表中建立預(yù)留字段
預(yù)留字段的命名很難做到見名識義。預(yù)留字段無法確認(rèn)存儲的數(shù)據(jù)類型，所以無法選擇合適的類型。對預(yù)留字段類型的修改，會對表進(jìn)行鎖定。

8. 禁止在數(shù)據(jù)庫中存儲圖片，文件等大的二進(jìn)制數(shù)據(jù)
通常文件很大，會短時(shí)間內(nèi)造成數(shù)據(jù)量快速增長，數(shù)據(jù)庫進(jìn)行數(shù)據(jù)庫讀取時(shí)，通常會進(jìn)行大量的隨機(jī)IO操作，文件很大時(shí)，IO操作很耗時(shí)。

通常存儲于文件服務(wù)器，數(shù)據(jù)庫只存儲文件地址信息

9. 禁止在線上做數(shù)據(jù)庫壓力測試
10. 禁止從開發(fā)環(huán)境，測試環(huán)境直接連接生成環(huán)境數(shù)據(jù)庫

數(shù)據(jù)庫字段設(shè)計(jì)規(guī)范

1. 優(yōu)先選擇符合存儲需要的最小的數(shù)據(jù)類型

原因：

列的字段越大，建立索引時(shí)所需要的空間也就越大，這樣一頁中所能存儲的索引節(jié)點(diǎn)的數(shù)量也就越少也越少，在遍歷時(shí)所需要的IO次數(shù)也就越多，索引的性能也就越差。

方法：

將字符串轉(zhuǎn)換成數(shù)字類型存儲，如：將IP地址轉(zhuǎn)換成整形數(shù)據(jù)
mysql提供了兩個(gè)方法來處理ip地址

inet_aton 把ip轉(zhuǎn)為無符號整型(4-8位)
inet_ntoa 把整型的ip轉(zhuǎn)為地址
插入數(shù)據(jù)前，先用inet_aton把ip地址轉(zhuǎn)為整型，可以節(jié)省空間，顯示數(shù)據(jù)時(shí)，使用inet_ntoa把整型的ip地址轉(zhuǎn)為地址顯示即可。

對于非負(fù)型的數(shù)據(jù)（如自增ID、整型IP）來說，要優(yōu)先使用無符號整型來存儲
原因：

無符號相對于有符號可以多出一倍的存儲空間

SIGNED INT -2147483648~2147483647
UNSIGNED INT 0~4294967295
VARCHAR(N)中的N代表的是字符數(shù)，而不是字節(jié)數(shù)，使用UTF8存儲255個(gè)漢字 Varchar(255)=765個(gè)字節(jié)。*過大的長度會消耗更多的內(nèi)存。

2. 避免使用TEXT、BLOB數(shù)據(jù)類型，最常見的TEXT類型可以存儲64k的數(shù)據(jù)

建議把BLOB或是TEXT列分離到單獨(dú)的擴(kuò)展表中
Mysql內(nèi)存臨時(shí)表不支持TEXT、BLOB這樣的大數(shù)據(jù)類型，如果查詢中包含這樣的數(shù)據(jù)，在排序等操作時(shí)，就不能使用內(nèi)存臨時(shí)表，必須使用磁盤臨時(shí)表進(jìn)行。

而且對于這種數(shù)據(jù)，Mysql還是要進(jìn)行二次查詢，會使sql性能變得很差，但是不是說一定不能使用這樣的數(shù)據(jù)類型。

如果一定要使用，建議把BLOB或是TEXT列分離到單獨(dú)的擴(kuò)展表中，查詢時(shí)一定不要使用select * 而只需要取出必要的列，不需要TEXT列的數(shù)據(jù)時(shí)不要對該列進(jìn)行查詢。

TEXT或BLOB類型只能使用前綴索引
因?yàn)镸ySQL對索引字段長度是有限制的，所以TEXT類型只能使用前綴索引，并且TEXT列上是不能有默認(rèn)值的

3. 避免使用ENUM類型

修改ENUM值需要使用ALTER語句

ENUM類型的ORDER BY操作效率低，需要額外操作

禁止使用數(shù)值作為ENUM的枚舉值

4. 盡可能把所有列定義為NOT NULL

原因：

索引NULL列需要額外的空間來保存，所以要占用更多的空間
進(jìn)行比較和計(jì)算時(shí)要對NULL值做特別的處理

5. 使用TIMESTAMP（4個(gè)字節(jié)）或DATETIME類型（8個(gè)字節(jié)）存儲時(shí)間

TIMESTAMP 存儲的時(shí)間范圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07
TIMESTAMP 占用4字節(jié)和INT相同，但比INT可讀性高
超出TIMESTAMP取值范圍的使用DATETIME類型存儲

經(jīng)常會有人用字符串存儲日期型的數(shù)據(jù)（不正確的做法）

缺點(diǎn)1：無法用日期函數(shù)進(jìn)行計(jì)算和比較
缺點(diǎn)2：用字符串存儲日期要占用更多的空間

6. 同財(cái)務(wù)相關(guān)的金額類數(shù)據(jù)必須使用decimal類型

非精準(zhǔn)浮點(diǎn)：float,double
精準(zhǔn)浮點(diǎn)：decimal
Decimal類型為精準(zhǔn)浮點(diǎn)數(shù)，在計(jì)算時(shí)不會丟失精度
占用空間由定義的寬度決定，每4個(gè)字節(jié)可以存儲9位數(shù)字，并且小數(shù)點(diǎn)要占用一個(gè)字節(jié)
可用于存儲比bigint更大的整型數(shù)據(jù)

索引設(shè)計(jì)規(guī)范

1. 限制每張表上的索引數(shù)量，建議單張表索引不超過5個(gè)
索引并不是越多越好！索引可以提高效率同樣可以降低效率。

索引可以增加查詢效率，但同樣也會降低插入和更新的效率，甚至有些情況下會降低查詢效率。

因?yàn)閙ysql優(yōu)化器在選擇如何優(yōu)化查詢時(shí)，會根據(jù)統(tǒng)一信息，對每一個(gè)可以用到的索引來進(jìn)行評估，以生成出一個(gè)最好的執(zhí)行計(jì)劃，如果同時(shí)有很多個(gè)索引都可以用于查詢，就會增加mysql優(yōu)化器生成執(zhí)行計(jì)劃的時(shí)間，同樣會降低查詢性能。

2. 禁止給表中的每一列都建立單獨(dú)的索引
5.6版本之前，一個(gè)sql只能使用到一個(gè)表中的一個(gè)索引，5.6以后，雖然有了合并索引的優(yōu)化方式，但是還是遠(yuǎn)遠(yuǎn)沒有使用一個(gè)聯(lián)合索引的查詢方式好。

3. 每個(gè)Innodb表必須有個(gè)主鍵
Innodb是一種索引組織表：數(shù)據(jù)的存儲的邏輯順序和索引的順序是相同的。每個(gè)表都可以有多個(gè)索引，但是表的存儲順序只能有一種。

Innodb是按照主鍵索引的順序來組織表的

不要使用更新頻繁的列作為主鍵，不適用多列主鍵（相當(dāng)于聯(lián)合索引）
不要使用UUID,MD5,HASH,字符串列作為主鍵（無法保證數(shù)據(jù)的順序增長）
主鍵建議使用自增ID值

常見索引列建議

出現(xiàn)在SELECT、UPDATE、DELETE語句的WHERE從句中的列
包含在ORDER BY、GROUP BY、DISTINCT中的字段
并不要將符合1和2中的字段的列都建立一個(gè)索引， 通常將1、2中的字段建立聯(lián)合索引效果更好
多表join的關(guān)聯(lián)列

如何選擇索引列的順序

建立索引的目的是：希望通過索引進(jìn)行數(shù)據(jù)查找，減少隨機(jī)IO，增加查詢性能 ，索引能過濾出越少的數(shù)據(jù)，則從磁盤中讀入的數(shù)據(jù)也就越少。

區(qū)分度最高的放在聯(lián)合索引的最左側(cè)（區(qū)分度=列中不同值的數(shù)量/列的總行數(shù)）
盡量把字段長度小的列放在聯(lián)合索引的最左側(cè)（因?yàn)樽侄伍L度越小，一頁能存儲的數(shù)據(jù)量越大，IO性能也就越好）
使用最頻繁的列放到聯(lián)合索引的左側(cè)（這樣可以比較少的建立一些索引）

避免建立冗余索引和重復(fù)索引（增加了查詢優(yōu)化器生成執(zhí)行計(jì)劃的時(shí)間）

重復(fù)索引示例：primary key(id)、index(id)、unique index(id)
冗余索引示例：index(a,b,c)、index(a,b)、index(a)

對于頻繁的查詢優(yōu)先考慮使用覆蓋索引

覆蓋索引：就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引
覆蓋索引的好處：

避免Innodb表進(jìn)行索引的二次查詢

Innodb是以聚集索引的順序來存儲的，對于Innodb來說，二級索引在葉子節(jié)點(diǎn)中所保存的是行的主鍵信息，如果是用二級索引查詢數(shù)據(jù)的話，在查找到相應(yīng)的鍵值后，還要通過主鍵進(jìn)行二次查詢才能獲取我們真實(shí)所需要的數(shù)據(jù)。

而在覆蓋索引中，二級索引的鍵值中可以獲取所有的數(shù)據(jù)，避免了對主鍵的二次查詢 ，減少了IO操作，提升了查詢效率。

可以把隨機(jī)IO變成順序IO加快查詢效率
由于覆蓋索引是按鍵值的順序存儲的，對于IO密集型的范圍查找來說，對比隨機(jī)從磁盤讀取每一行的數(shù)據(jù)IO要少的多，因此利用覆蓋索引在訪問時(shí)也可以把磁盤的隨機(jī)讀取的IO轉(zhuǎn)變成索引查找的順序IO。

索引SET規(guī)范

盡量避免使用外鍵約束
不建議使用外鍵約束（foreign key），但一定要在表與表之間的關(guān)聯(lián)鍵上建立索引
外鍵可用于保證數(shù)據(jù)的參照完整性，但建議在業(yè)務(wù)端實(shí)現(xiàn)
外鍵會影響父表和子表的寫操作從而降低性能

數(shù)據(jù)庫SQL開發(fā)規(guī)范

1. 建議使用預(yù)編譯語句進(jìn)行數(shù)據(jù)庫操作

預(yù)編譯語句可以重復(fù)使用這些計(jì)劃，減少SQL編譯所需要的時(shí)間，還可以解決動態(tài)SQL所帶來的SQL注入的問題。

只傳參數(shù)，比傳遞SQL語句更高效。

相同語句可以一次解析，多次使用，提高處理效率。

2. 避免數(shù)據(jù)類型的隱式轉(zhuǎn)換

隱式轉(zhuǎn)換會導(dǎo)致索引失效如:

select name,phone from customer where id = '111';

3. 充分利用表上已經(jīng)存在的索引

避免使用雙%號的查詢條件。如：a like '%123%'，（如果無前置%,只有后置%，是可以用到列上的索引的）

一個(gè)SQL只能利用到復(fù)合索引中的一列進(jìn)行范圍查詢。如：有 a,b,c列的聯(lián)合索引，在查詢條件中有a列的范圍查詢，則在b,c列上的索引將不會被用到。

在定義聯(lián)合索引時(shí)，如果a列要用到范圍查找的話，就要把a(bǔ)列放到聯(lián)合索引的右側(cè)，使用left join 或 not exists 來優(yōu)化not in 操作，因?yàn)閚ot in 也通常會使用索引失效。

4. 數(shù)據(jù)庫設(shè)計(jì)時(shí)，應(yīng)該要對以后擴(kuò)展進(jìn)行考慮

5. 程序連接不同的數(shù)據(jù)庫使用不同的賬號，進(jìn)制跨庫查詢

為數(shù)據(jù)庫遷移和分庫分表留出余地
降低業(yè)務(wù)耦合度
避免權(quán)限過大而產(chǎn)生的安全風(fēng)險(xiǎn)

6. 禁止使用SELECT * 必須使用SELECT 字段列表> 查詢

原因：

消耗更多的CPU和IO以網(wǎng)絡(luò)帶寬資源
無法使用覆蓋索引
可減少表結(jié)構(gòu)變更帶來的影響

7. 禁止使用不含字段列表的INSERT語句

如：

insert into values ('a','b','c');

應(yīng)使用：

insert into t(c1,c2,c3) values ('a','b','c');

8. 避免使用子查詢，可以把子查詢優(yōu)化為join操作

通常子查詢在in子句中，且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時(shí),才可以把子查詢轉(zhuǎn)化為關(guān)聯(lián)查詢進(jìn)行優(yōu)化。

子查詢性能差的原因：

子查詢的結(jié)果集無法使用索引，通常子查詢的結(jié)果集會被存儲到臨時(shí)表中，不論是內(nèi)存臨時(shí)表還是磁盤臨時(shí)表都不會存在索引，所以查詢性能會受到一定的影響。特別是對于返回結(jié)果集比較大的子查詢，其對查詢性能的影響也就越大。

由于子查詢會產(chǎn)生大量的臨時(shí)表也沒有索引，所以會消耗過多的CPU和IO資源，產(chǎn)生大量的慢查詢。

9. 避免使用JOIN關(guān)聯(lián)太多的表

對于Mysql來說，是存在關(guān)聯(lián)緩存的，緩存的大小可以由join_buffer_size參數(shù)進(jìn)行設(shè)置。

在Mysql中，對于同一個(gè)SQL多關(guān)聯(lián)（join）一個(gè)表，就會多分配一個(gè)關(guān)聯(lián)緩存，如果在一個(gè)SQL中關(guān)聯(lián)的表越多，所占用的內(nèi)存也就越大。

如果程序中大量的使用了多表關(guān)聯(lián)的操作，同時(shí)join_buffer_size設(shè)置的也不合理的情況下，就容易造成服務(wù)器內(nèi)存溢出的情況，就會影響到服務(wù)器數(shù)據(jù)庫性能的穩(wěn)定性。

同時(shí)對于關(guān)聯(lián)操作來說，會產(chǎn)生臨時(shí)表操作，影響查詢效率，Mysql最多允許關(guān)聯(lián)61個(gè)表，建議不超過5個(gè)。

10. 減少同數(shù)據(jù)庫的交互次數(shù)

數(shù)據(jù)庫更適合處理批量操作，合并多個(gè)相同的操作到一起，可以提高處理效率。

11. 對應(yīng)同一列進(jìn)行or判斷時(shí)，使用in代替or

in 的值不要超過500個(gè)，in 操作可以更有效的利用索引，or大多數(shù)情況下很少能利用到索引。

12. 禁止使用order by rand() 進(jìn)行隨機(jī)排序

order by rand()會把表中所有符合條件的數(shù)據(jù)裝載到內(nèi)存中，然后在內(nèi)存中對所有數(shù)據(jù)根據(jù)隨機(jī)生成的值進(jìn)行排序，并且可能會對每一行都生成一個(gè)隨機(jī)值，如果滿足條件的數(shù)據(jù)集非常大，就會消耗大量的CPU和IO及內(nèi)存資源。

推薦在程序中獲取一個(gè)隨機(jī)值，然后從數(shù)據(jù)庫中獲取數(shù)據(jù)的方式。

13. WHERE從句中禁止對列進(jìn)行函數(shù)轉(zhuǎn)換和計(jì)算

對列進(jìn)行函數(shù)轉(zhuǎn)換或計(jì)算時(shí)會導(dǎo)致無法使用索引

不推薦：

where date(create_time)='20190101'


推薦：

where create_time >= '20190101' and create_time '20190102'

14. 在明顯不會有重復(fù)值時(shí)使用UNION ALL 而不是UNION

UNION 會把兩個(gè)結(jié)果集的所有數(shù)據(jù)放到臨時(shí)表中后再進(jìn)行去重操作
UNION ALL 不會再對結(jié)果集進(jìn)行去重操作

15. 拆分復(fù)雜的大SQL為多個(gè)小SQL

大SQL邏輯上比較復(fù)雜，需要占用大量CPU進(jìn)行計(jì)算的SQL
MySQL中，一個(gè)SQL只能使用一個(gè)CPU進(jìn)行計(jì)算
SQL拆分后可以通過并行執(zhí)行來提高處理效率

數(shù)據(jù)庫操作行為規(guī)范

超100萬行的批量寫（UPDATE、DELETE、INSERT）操作，要分批多次進(jìn)行操作

1、大批量操作可能會造成嚴(yán)重的主從延遲

主從環(huán)境中,大批量操作可能會造成嚴(yán)重的主從延遲，大批量的寫操作一般都需要執(zhí)行一定長的時(shí)間

而只有當(dāng)主庫上執(zhí)行完成后，才會在其他從庫上執(zhí)行，所以會造成主庫與從庫長時(shí)間的延遲情況

2、binlog日志為row格式時(shí)會產(chǎn)生大量的日志

大批量寫操作會產(chǎn)生大量日志，特別是對于row格式二進(jìn)制數(shù)據(jù)而言，由于在row格式中會記錄每一行數(shù)據(jù)的修改，我們一次修改的數(shù)據(jù)越多，產(chǎn)生的日志量也就會越多，日志的傳輸和恢復(fù)所需要的時(shí)間也就越長，這也是造成主從延遲的一個(gè)原因

3、避免產(chǎn)生大事務(wù)操作

大批量修改數(shù)據(jù)，一定是在一個(gè)事務(wù)中進(jìn)行的，這就會造成表中大批量數(shù)據(jù)進(jìn)行鎖定，從而導(dǎo)致大量的阻塞，阻塞會對MySQL的性能產(chǎn)生非常大的影響。

特別是長時(shí)間的阻塞會占滿所有數(shù)據(jù)庫的可用連接，這會使生產(chǎn)環(huán)境中的其他應(yīng)用無法連接到數(shù)據(jù)庫，因此一定要注意大批量寫操作要進(jìn)行分批

對于大表使用pt-online-schema-change修改表結(jié)構(gòu)

避免大表修改產(chǎn)生的主從延遲

避免在對表字段進(jìn)行修改時(shí)進(jìn)行鎖表
對大表數(shù)據(jù)結(jié)構(gòu)的修改一定要謹(jǐn)慎，會造成嚴(yán)重的鎖表操作，尤其是生產(chǎn)環(huán)境，是不能容忍的。

pt-online-schema-change它會首先建立一個(gè)與原表結(jié)構(gòu)相同的新表，并且在新表上進(jìn)行表結(jié)構(gòu)的修改，然后再把原表中的數(shù)據(jù)復(fù)制到新表中，并在原表中增加一些觸發(fā)器。

把原表中新增的數(shù)據(jù)也復(fù)制到新表中，在行所有數(shù)據(jù)復(fù)制完成之后，把新表命名成原表，并把原來的表刪除掉。把原來一個(gè)DDL操作，分解成多個(gè)小的批次進(jìn)行。

禁止為程序使用的賬號賦予super權(quán)限

當(dāng)達(dá)到最大連接數(shù)限制時(shí)，還運(yùn)行1個(gè)有super權(quán)限的用戶連接
super權(quán)限只能留給DBA處理問題的賬號使用

對于程序連接數(shù)據(jù)庫賬號，遵循權(quán)限最小原則

程序使用數(shù)據(jù)庫賬號只能在一個(gè)DB下使用，不準(zhǔn)跨庫
程序使用的賬號原則上不準(zhǔn)有drop權(quán)限