**
精選文章正文**
數據庫命令規范
* 所有數據庫對象名稱必須使用小寫字母并用下劃線分割
* 所有數據庫對象名稱禁止使用mysql保留關鍵字(如果表名中包含關鍵字查詢時,需要將其用單引號括起來)
* 數據庫對象的命名要能做到見名識意,并且最后不要超過32個字符
* 臨時庫表必須以tmp\_為前綴并以日期為后綴,備份表必須以bak\_為前綴并以日期(時間戳)為后綴
* 所有存儲相同數據的列名和列類型必須一致(一般作為關聯列,如果查詢時關聯列類型不一致會自動進行數據類型隱式轉換,會造成列上的索引失效,導致查詢效率降低)
數據庫基本設計規范
1\. 所有表必須使用Innodb存儲引擎 沒有特殊要求(即Innodb無法滿足的功能如:列存儲,存儲空間數據等)的情況下,所有表必須使用Innodb存儲引擎(mysql5.5之前默認使用Myisam,5.6以后默認的為Innodb)。Innodb 支持事務,支持行級鎖,更好的恢復性,高并發下性能更好。
2\. 數據庫和表的字符集統一使用UTF8兼容性更好,統一字符集可以避免由于字符集轉換產生的亂碼,不同的字符集進行比較前需要進行轉換會造成索引失效,如果數據庫中有存儲emoji表情的需要,字符集需要采用utf8mb4字符集。
3\. 所有表和字段都需要添加注釋 使用comment從句添加表和列的備注,從一開始就進行數據字典的維護
4\. 盡量控制單表數據量的大小,建議控制在500萬以內。500萬并不是Mysql數據庫的限制,過大會造成修改表結構,備份,恢復都會有很大的問題。
可以用歷史數據歸檔(應用于日志數據),分庫分表(應用于業務數據)等手段來控制數據量大小
5\. 謹慎使用Mysql分區表 分區表在物理上表現為多個文件,在邏輯上表現為一個表;謹慎選擇分區鍵,跨分區查詢效率可能更低;建議采用物理分表的方式管理大數據。
6\. 盡量做到冷熱數據分離,減小表的寬度Mysql限制每個表最多存儲4096列,并且每一行數據的大小不能超過65535字節。減少磁盤IO,保證熱數據的內存緩存命中率(表越寬,把表裝載進內存緩沖池時所占用的內存也就越大,也會消耗更多的IO);
更有效的利用緩存,避免讀入無用的冷數據;
經常一起使用的列放到一個表中(避免更多的關聯操作)。
7\. 禁止在表中建立預留字段 預留字段的命名很難做到見名識義。預留字段無法確認存儲的數據類型,所以無法選擇合適的類型。對預留字段類型的修改,會對表進行鎖定。
8\. 禁止在數據庫中存儲圖片,文件等大的二進制數據 通常文件很大,會短時間內造成數據量快速增長,數據庫進行數據庫讀取時,通常會進行大量的隨機IO操作,文件很大時,IO操作很耗時。
通常存儲于文件服務器,數據庫只存儲文件地址信息
9\. 禁止在線上做數據庫壓力測試10. 禁止從開發環境,測試環境直接連接生成環境數據庫
數據庫字段設計規范
1\. 優先選擇符合存儲需要的最小的數據類型
原因:
列的字段越大,建立索引時所需要的空間也就越大,這樣一頁中所能存儲的索引節點的數量也就越少也越少,在遍歷時所需要的IO次數也就越多,索引的性能也就越差。
方法:
將字符串轉換成數字類型存儲,如:將IP地址轉換成整形數據mysql提供了兩個方法來處理ip地址
inet\_aton 把ip轉為無符號整型(4-8位)inet\_ntoa 把整型的ip轉為地址 插入數據前,先用inet\_aton把ip地址轉為整型,可以節省空間,顯示數據時,使用inet\_ntoa把整型的ip地址轉為地址顯示即可。
對于非負型的數據(如自增ID、整型IP)來說,要優先使用無符號整型來存儲 原因:
無符號相對于有符號可以多出一倍的存儲空間
SIGNED INT -2147483648~2147483647 UNSIGNED INT 0~4294967295 VARCHAR(N)中的N代表的是字符數,而不是字節數,使用UTF8存儲255個漢字 Varchar(255)=765個字節。\*過大的長度會消耗更多的內存。
2\. 避免使用TEXT、BLOB數據類型,最常見的TEXT類型可以存儲64k的數據
建議把BLOB或是TEXT列分離到單獨的擴展表中Mysql內存臨時表不支持TEXT、BLOB這樣的大數據類型,如果查詢中包含這樣的數據,在排序等操作時,就不能使用內存臨時表,必須使用磁盤臨時表進行。
而且對于這種數據,Mysql還是要進行二次查詢,會使sql性能變得很差,但是不是說一定不能使用這樣的數據類型。
如果一定要使用,建議把BLOB或是TEXT列分離到單獨的擴展表中,查詢時一定不要使用select \* 而只需要取出必要的列,不需要TEXT列的數據時不要對該列進行查詢。
TEXT或BLOB類型只能使用前綴索引 因為MySQL對索引字段長度是有限制的,所以TEXT類型只能使用前綴索引,并且TEXT列上是不能有默認值的
3\. 避免使用ENUM類型
修改ENUM值需要使用ALTER語句
ENUM類型的ORDER BY操作效率低,需要額外操作
禁止使用數值作為ENUM的枚舉值
4\. 盡可能把所有列定義為NOT NULL
原因:
索引NULL列需要額外的空間來保存,所以要占用更多的空間 進行比較和計算時要對NULL值做特別的處理
5\. 使用TIMESTAMP(4個字節)或DATETIME類型(8個字節)存儲時間
TIMESTAMP 存儲的時間范圍 1970-01-01 00:00:01 ~ 2038-01-19-03:14:07 TIMESTAMP 占用4字節和INT相同,但比INT可讀性高 超出TIMESTAMP取值范圍的使用DATETIME類型存儲
經常會有人用字符串存儲日期型的數據(不正確的做法)
缺點1:無法用日期函數進行計算和比較 缺點2:用字符串存儲日期要占用更多的空間
6\. 同財務相關的金額類數據必須使用decimal類型
非精準浮點:float,double精準浮點:decimal Decimal類型為精準浮點數,在計算時不會丟失精度 占用空間由定義的寬度決定,每4個字節可以存儲9位數字,并且小數點要占用一個字節 可用于存儲比bigint更大的整型數據
索引設計規范
1\. 限制每張表上的索引數量,建議單張表索引不超過5個 索引并不是越多越好!索引可以提高效率同樣可以降低效率。
索引可以增加查詢效率,但同樣也會降低插入和更新的效率,甚至有些情況下會降低查詢效率。
因為mysql優化器在選擇如何優化查詢時,會根據統一信息,對每一個可以用到的索引來進行評估,以生成出一個最好的執行計劃,如果同時有很多個索引都可以用于查詢,就會增加mysql優化器生成執行計劃的時間,同樣會降低查詢性能。
2\. 禁止給表中的每一列都建立單獨的索引5.6版本之前,一個sql只能使用到一個表中的一個索引,5.6以后,雖然有了合并索引的優化方式,但是還是遠遠沒有使用一個聯合索引的查詢方式好。
3\. 每個Innodb表必須有個主鍵Innodb是一種索引組織表:數據的存儲的邏輯順序和索引的順序是相同的。每個表都可以有多個索引,但是表的存儲順序只能有一種。
Innodb是按照主鍵索引的順序來組織表的
不要使用更新頻繁的列作為主鍵,不適用多列主鍵(相當于聯合索引) 不要使用UUID,MD5,HASH,字符串列作為主鍵(無法保證數據的順序增長) 主鍵建議使用自增ID值
常見索引列建議
出現在SELECT、UPDATE、DELETE語句的WHERE從句中的列 包含在ORDER BY、GROUP BY、DISTINCT中的字段 并不要將符合1和2中的字段的列都建立一個索引, 通常將1、2中的字段建立聯合索引效果更好 多表join的關聯列
如何選擇索引列的順序
建立索引的目的是:希望通過索引進行數據查找,減少隨機IO,增加查詢性能 ,索引能過濾出越少的數據,則從磁盤中讀入的數據也就越少。
區分度最高的放在聯合索引的最左側(區分度=列中不同值的數量/列的總行數) 盡量把字段長度小的列放在聯合索引的最左側(因為字段長度越小,一頁能存儲的數據量越大,IO性能也就越好) 使用最頻繁的列放到聯合索引的左側(這樣可以比較少的建立一些索引)
避免建立冗余索引和重復索引(增加了查詢優化器生成執行計劃的時間)
重復索引示例:primary key(id)、index(id)、unique index(id)冗余索引示例:index(a,b,c)、index(a,b)、index(a)
對于頻繁的查詢優先考慮使用覆蓋索引
覆蓋索引:就是包含了所有查詢字段(where,select,ordery by,group by包含的字段)的索引 覆蓋索引的好處:
避免Innodb表進行索引的二次查詢
Innodb是以聚集索引的順序來存儲的,對于Innodb來說,二級索引在葉子節點中所保存的是行的主鍵信息,如果是用二級索引查詢數據的話,在查找到相應的鍵值后,還要通過主鍵進行二次查詢才能獲取我們真實所需要的數據。
而在覆蓋索引中,二級索引的鍵值中可以獲取所有的數據,避免了對主鍵的二次查詢 ,減少了IO操作,提升了查詢效率。
可以把隨機IO變成順序IO加快查詢效率 由于覆蓋索引是按鍵值的順序存儲的,對于IO密集型的范圍查找來說,對比隨機從磁盤讀取每一行的數據IO要少的多,因此利用覆蓋索引在訪問時也可以把磁盤的隨機讀取的IO轉變成索引查找的順序IO。
索引SET規范
盡量避免使用外鍵約束 不建議使用外鍵約束(foreign key),但一定要在表與表之間的關聯鍵上建立索引 外鍵可用于保證數據的參照完整性,但建議在業務端實現 外鍵會影響父表和子表的寫操作從而降低性能
數據庫SQL開發規范
1\. 建議使用預編譯語句進行數據庫操作
預編譯語句可以重復使用這些計劃,減少SQL編譯所需要的時間,還可以解決動態SQL所帶來的SQL注入的問題。
只傳參數,比傳遞SQL語句更高效。
相同語句可以一次解析,多次使用,提高處理效率。
2\. 避免數據類型的隱式轉換
隱式轉換會導致索引失效如:
~~~
select name,phone from customer where id = '111';
~~~
3\. 充分利用表上已經存在的索引
避免使用雙%號的查詢條件。如:a like '%123%',(如果無前置%,只有后置%,是可以用到列上的索引的)
一個SQL只能利用到復合索引中的一列進行范圍查詢。如:有 a,b,c列的聯合索引,在查詢條件中有a列的范圍查詢,則在b,c列上的索引將不會被用到。
在定義聯合索引時,如果a列要用到范圍查找的話,就要把a列放到聯合索引的右側,使用left join 或 not exists 來優化not in 操作,因為not in 也通常會使用索引失效。
4\. 數據庫設計時,應該要對以后擴展進行考慮
5\. 程序連接不同的數據庫使用不同的賬號,進制跨庫查詢
為數據庫遷移和分庫分表留出余地 降低業務耦合度 避免權限過大而產生的安全風險
6\. 禁止使用SELECT \* 必須使用SELECT 查詢
原因:
消耗更多的CPU和IO以網絡帶寬資源 無法使用覆蓋索引 可減少表結構變更帶來的影響
7\. 禁止使用不含字段列表的INSERT語句
如:
~~~
insert into values ('a','b','c');
~~~
應使用:
~~~
insert into t(c1,c2,c3) values ('a','b','c');
~~~
8\. 避免使用子查詢,可以把子查詢優化為join操作
通常子查詢在in子句中,且子查詢中為簡單SQL(不包含union、group by、order by、limit從句)時,才可以把子查詢轉化為關聯查詢進行優化。
子查詢性能差的原因:
子查詢的結果集無法使用索引,通常子查詢的結果集會被存儲到臨時表中,不論是內存臨時表還是磁盤臨時表都不會存在索引,所以查詢性能會受到一定的影響。特別是對于返回結果集比較大的子查詢,其對查詢性能的影響也就越大。
由于子查詢會產生大量的臨時表也沒有索引,所以會消耗過多的CPU和IO資源,產生大量的慢查詢。
9\. 避免使用JOIN關聯太多的表
對于Mysql來說,是存在關聯緩存的,緩存的大小可以由join\_buffer\_size參數進行設置。
在Mysql中,對于同一個SQL多關聯(join)一個表,就會多分配一個關聯緩存,如果在一個SQL中關聯的表越多,所占用的內存也就越大。
如果程序中大量的使用了多表關聯的操作,同時join\_buffer\_size設置的也不合理的情況下,就容易造成服務器內存溢出的情況,就會影響到服務器數據庫性能的穩定性。
同時對于關聯操作來說,會產生臨時表操作,影響查詢效率,Mysql最多允許關聯61個表,建議不超過5個。
10\. 減少同數據庫的交互次數
數據庫更適合處理批量操作,合并多個相同的操作到一起,可以提高處理效率。
11\. 對應同一列進行or判斷時,使用in代替or
in 的值不要超過500個,in 操作可以更有效的利用索引,or大多數情況下很少能利用到索引。
12\. 禁止使用order by rand() 進行隨機排序
order by rand()會把表中所有符合條件的數據裝載到內存中,然后在內存中對所有數據根據隨機生成的值進行排序,并且可能會對每一行都生成一個隨機值,如果滿足條件的數據集非常大,就會消耗大量的CPU和IO及內存資源。
推薦在程序中獲取一個隨機值,然后從數據庫中獲取數據的方式。
13\. WHERE從句中禁止對列進行函數轉換和計算
對列進行函數轉換或計算時會導致無法使用索引
不推薦:
where date(create\_time)='20190101'
推薦:
where create\_time >= '20190101' and create\_time < '20190102'
14\. 在明顯不會有重復值時使用UNION ALL 而不是UNION
UNION 會把兩個結果集的所有數據放到臨時表中后再進行去重操作UNION ALL 不會再對結果集進行去重操作
15\. 拆分復雜的大SQL為多個小SQL
大SQL邏輯上比較復雜,需要占用大量CPU進行計算的SQL MySQL中,一個SQL只能使用一個CPU進行計算SQL拆分后可以通過并行執行來提高處理效率
數據庫操作行為規范
超100萬行的批量寫(UPDATE、DELETE、INSERT)操作,要分批多次進行操作
1、大批量操作可能會造成嚴重的主從延遲
主從環境中,大批量操作可能會造成嚴重的主從延遲,大批量的寫操作一般都需要執行一定長的時間
而只有當主庫上執行完成后,才會在其他從庫上執行,所以會造成主庫與從庫長時間的延遲情況
2、binlog日志為row格式時會產生大量的日志
大批量寫操作會產生大量日志,特別是對于row格式二進制數據而言,由于在row格式中會記錄每一行數據的修改,我們一次修改的數據越多,產生的日志量也就會越多,日志的傳輸和恢復所需要的時間也就越長,這也是造成主從延遲的一個原因
3、避免產生大事務操作
大批量修改數據,一定是在一個事務中進行的,這就會造成表中大批量數據進行鎖定,從而導致大量的阻塞,阻塞會對MySQL的性能產生非常大的影響。
特別是長時間的阻塞會占滿所有數據庫的可用連接,這會使生產環境中的其他應用無法連接到數據庫,因此一定要注意大批量寫操作要進行分批
對于大表使用pt-online-schema-change修改表結構
避免大表修改產生的主從延遲
避免在對表字段進行修改時進行鎖表 對大表數據結構的修改一定要謹慎,會造成嚴重的鎖表操作,尤其是生產環境,是不能容忍的。
pt-online-schema-change它會首先建立一個與原表結構相同的新表,并且在新表上進行表結構的修改,然后再把原表中的數據復制到新表中,并在原表中增加一些觸發器。
把原表中新增的數據也復制到新表中,在行所有數據復制完成之后,把新表命名成原表,并把原來的表刪除掉。把原來一個DDL操作,分解成多個小的批次進行。
禁止為程序使用的賬號賦予super權限
當達到最大連接數限制時,還運行1個有super權限的用戶連接super權限只能留給DBA處理問題的賬號使用
對于程序連接數據庫賬號,遵循權限最小原則
程序使用數據庫賬號只能在一個DB下使用,不準跨庫 程序使用的賬號原則上不準有drop權限
- 后端
- composer
- composer配置國內鏡像
- composer安裝及設置2
- PHP
- 貝塔SG11加密
- 申請KEY
- 開始加密
- php 中連接tcp服務的三種方式
- php websocket 教程
- editor內容轉換數組
- 使用正則判斷中文維吾爾文
- PHP常用函數總結
- 常用助手函數
- 通過Imagick把pdf轉換圖片
- 維吾爾語基本區轉換擴展區
- php GD庫生成一個由文字和圖片生成新的圖片
- aes加密
- php數組函數 -- array_column,array_multisort 實現二維數組排序
- PHP操作Excel
- php更新內容
- 輔助查詢(*)
- 【時間】操作
- 時間函數例子
- Date/Time 函數(不包含別名函數)
- php網絡相關
- HTTP請求的返回值含義說明
- 使用php語言開發一個類似數據庫操作的文件表類
- pinyin
- 維吾爾語基本區轉換擴展區(2)
- php獲取當前環境的信息
- laravel
- laravel 隊列的使用
- laravel 自定義助手函數
- laravel seeder的使用
- laravel項目從git下載命令
- laravel 多個數據庫配置
- laravel 填充假數據
- laravel 動態路由
- laravel 自定義 validate 響應
- laravel 創建追加字段的模擬訪問器
- laravel 線上環境的數據庫更改或添加字段
- laravel 模型查詢按照whereIn排序
- laravel 使用 workerman 通過TCP 文件傳輸功能
- laravel api Header添加Accept頭
- Laraval IDE 自動補全插件 laravel-ide-helper
- laravel 網站后臺
- laravel 設置路由
- laravel-第三方composer包
- laravel 開發技巧
- laravel 昨天,今天時間
- 使用寶塔計劃任務啟動laravel調度器
- laravel結合workerman第二節
- Laravel - 上傳多個文件
- 查詢聊天好友列表
- 事件系統 event, listener
- laravel 安裝 laravel-modules
- 自定義求看守器-toekn
- laravel限流
- 使用 Laravel api Resource 類時自定義分頁信息
- Laravel php artisan命令大全
- 驗證器
- workerman 創建wss服務
- 架構師必須知道的26項PHP安全實踐
- python
- Python讀取文件代碼塊已經備好,用的時候光拿(建議收藏)
- Python常用庫大全
- api 簽名驗證
- git
- git命令
- 十分鐘學會git基礎
- Git代碼同時上傳到GitHub和Gitee(碼云)
- Git - 多人協同開發利器,團隊協作流程規范與注意事項
- 刪除遠程倉庫的文件
- github查詢方法
- 錯誤
- 解除項目git版本控制
- linux
- sentos安裝supervisor
- PHP怎么守護進程運行php腳本
- 600條最強Linux命令總結
- centos開啟防火墻、開放指定端口
- 前端
- vue
- vue2發布之前的config簡單配置
- vue2安裝scss命令
- vue2父子組件之間雙向數據綁定
- 國際化雙語--安裝VueI18n
- vue3-setup 組件傳參(defineProps、defineEmits、defineExpose
- Vue3 新寫法速覽:十分鐘內輕松get
- 關于vue的外連接
- watch講解
- computed
- webpack 打包后生成很多小文件怎么優化?
- vue2 vue.config.js常見配置和打包部署測試
- 小程序
- 小程序長期訂閱消息
- 小程序自定義TabBar后如何實現keep-alive
- 收藏的html和css和js
- CSS 省略號(單行省略號、多行省略號)
- UyghurInput_a.js
- font.css
- 漂亮按鈕樣式
- clock.html
- css
- scroll css樣式
- CSS流動布局-頁面自適應
- css grid布局
- 禁止wap頁面調整字體大小
- CSS @media 和 min-width/max-width
- 網站變灰是怎么實現的
- 瀑布流實現方式
- javascript
- SortableJS拖動排序
- wondow scroll滾動到上邊
- 原生js插入HTML元素
- Konva.js —— 像操作DOM一樣操作canvas
- 通過canvas合并倆個圖片
- js scroll更多加載
- js 實現復制功能
- js判斷安卓和蘋果或者微信
- 瀏覽器打開控制臺禁止
- 原生js一些dom操作
- js http客戶端集合
- fetch
- axios
- canvas 點鐘
- layer dialog
- jquery 和 laravel ajax全局配置
- layui 獲取select的自定義參數
- konva.js中文開發文檔
- js 大文件分片上傳
- js監聽網絡狀態實現斷網重連后自動刷新頁面
- js生成video縮略圖
- JS獲取當前系統電量情況
- uniapp
- uni-app swiper數量過多時卡頓優化方案
- uniapp 帖子集合
- 微信wap
- wap分享朋友和朋友圈
- wap 手機頁面微信支付
- JsSdk微信公眾號支付
- 通用各種小知識
- 正則表達式
- JS正則匹配過濾字符串中的html標簽及html標簽內的內容
- 判斷維吾爾文輸入
- 正則表達式符號
- 正則表達式練習
- 百度網盤不限速下載助手
- 解決VSCode下載慢或下載失敗的問題
- 性能測試 使用Apache的ab測試工具
- nginx從入門到精通
- nginx
- Nginx 是怎么禁止訪問php的 ?
- 寶塔面板
- supervisor
- 卸載寶塔
- redis
- redis實用筆記
- redis入門到精通
- phpredis
- redis數據庫基礎
- PHP對Redis的基本操作
- ffmpeg
- 合并多個音視
- 獲取音視時長
- FFmpeg視頻處理入門教程(新手必看)
- 外連接
- 安裝
- PHP基于ffmpeg實現轉換視頻,截圖及生成縮略圖的方法
- Linux安裝ffmpeg
- docker
- 服務實現
- docker基本命令
- rewrite筆記
- 別人筆記鏈接
- 計算機常用知識
- 二進制1-10
- 斐波那契數列
- mysql
- 高性能高可用的MySQL,得從各種規范開始
- 讀寫分離配置
- 重要外連接,前端/ 后端/數據庫等等
- 關于程序必須收藏的文章鏈接集合
- markdown
- 一篇文章講清楚markdown