## **概述** 高并發系統時有三把利器用來保護系統：緩存、降級和限流 * 水平擴容 * 緩存的目的是提升系統訪問速度和增大系統處理容量 * 降級是當服務出現問題或者影響到核心流程時，需要暫時屏蔽掉，待高峰或者問題解決后再打開 * 限流的目的是通過對并發訪問/請求進行限速，或者對一個時間窗口內的請求進行限速來保護系統，一旦達到限制速率則可以拒絕服務、排隊或等待、降級等處理 #### **緩存** 緩存比較好理解，在大型高并發系統中，如果沒有緩存數據庫將分分鐘被爆，系統也會瞬間癱瘓。使用緩存不單單能夠提升系統訪問速度、提高并發訪問量，也是保護數據庫、保護系統的有效方式。大型網站一般主要是“讀”，緩存的使用很容易被想到。在大型“寫”系統中，緩存也常常扮演者非常重要的角色。比如累積一些數據批量寫入，內存里面的緩存隊列（生產消費），以及HBase寫數據的機制等等也都是通過緩存提升系統的吞吐量或者實現系統的保護措施。甚至消息中間件，你也可以認為是一種分布式的數據緩存。 #### **降級** 服務降級是當服務器壓力劇增的情況下，根據當前業務情況及流量對一些服務和頁面有策略的降級，以此釋放服務器資源以保證核心任務的正常運行。降級往往會指定不同的級別，面臨不同的異常等級執行不同的處理。根據服務方式：可以拒接服務，可以延遲服務，也有時候可以隨機服務。根據服務范圍：可以砍掉某個功能，也可以砍掉某些模塊。總之服務降級需要根據不同的業務需求采用不同的降級策略。主要的目的就是服務雖然有損但是總比沒有好 ### 雪崩效應 在分布式系統中，服務之間相互依賴，如果一個服務出現了故障或是網絡延遲，在高并發的情況下，會導致線程阻塞，在很短的時間內該服務的線程資源將會耗盡，最終使該服務不可用；由于服務的相互依賴，可能會導致整個系統的不可用，這就是雪崩效應