本篇內(nèi)容介紹了“服務(wù)器雪崩的場景怎么解決”的有關(guān)知識(shí)，在實(shí)際案例的操作過程中，不少人都會(huì)遇到這樣的困境，接下來就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧！希望大家仔細(xì)閱讀，能夠?qū)W有所成！

創(chuàng)新互聯(lián)建站網(wǎng)站建設(shè)公司，提供網(wǎng)站設(shè)計(jì)制作、成都做網(wǎng)站，網(wǎng)頁設(shè)計(jì)，建網(wǎng)站，PHP網(wǎng)站建設(shè)等專業(yè)做網(wǎng)站服務(wù);可快速的進(jìn)行網(wǎng)站開發(fā)網(wǎng)頁制作和功能擴(kuò)展；專業(yè)做搜索引擎喜愛的網(wǎng)站，是專業(yè)的做網(wǎng)站團(tuán)隊(duì)，希望更多企業(yè)前來合作!

• 什么是應(yīng)用服務(wù)雪崩？

雪崩問題

分布式系統(tǒng)都存在這樣一個(gè)問題，由于網(wǎng)絡(luò)的不穩(wěn)定性，決定了任何一個(gè)服務(wù)的可用性都不是 100% 的。當(dāng)網(wǎng)絡(luò)不穩(wěn)定的時(shí)候，作為服務(wù)的提供者，自身可能會(huì)被拖死，導(dǎo)致服務(wù)調(diào)用者阻塞，最終可能引發(fā)雪崩連鎖效應(yīng)。

緩存雪崩

當(dāng)緩存服務(wù)器重啟或者大量緩存集中在某一個(gè)時(shí)間段失效，這樣在失效的時(shí)候，也會(huì)給后端系統(tǒng)(比如DB)帶來很大壓力，造成數(shù)據(jù)庫后端故障，從而引起應(yīng)用服務(wù)器雪崩。

雪崩效應(yīng)產(chǎn)生的幾種場景

• 流量激增：比如異常流量、用戶重試導(dǎo)致系統(tǒng)負(fù)載升高；

• 緩存刷新：假設(shè)A為client端，B為Server端，假設(shè)A系統(tǒng)請(qǐng)求都流向B系統(tǒng)，請(qǐng)求超出了B系統(tǒng)的承載能力，就會(huì)造成B系統(tǒng)崩潰；

• 程序有Bug：代碼循環(huán)調(diào)用的邏輯問題，資源未釋放引起的內(nèi)存泄漏等問題；

• 硬件故障：比如宕機(jī)，機(jī)房斷電，光纖被挖斷等。

• 數(shù)據(jù)庫嚴(yán)重瓶頸，比如：長事務(wù)、sql超時(shí)等。

• 線程同步等待：系統(tǒng)間經(jīng)常采用同步服務(wù)調(diào)用模式，核心服務(wù)和非核心服務(wù)共用一個(gè)線程池和消息隊(duì)列。如果一個(gè)核心業(yè)務(wù)線程調(diào)用非核心線程，這個(gè)非核心線程交由第三方系統(tǒng)完成，當(dāng)?shù)谌较到y(tǒng)本身出現(xiàn)問題，導(dǎo)致核心線程阻塞，一直處于等待狀態(tài)，而進(jìn)程間的調(diào)用是有超時(shí)限制的，最終這條線程將斷掉，也可能引發(fā)雪崩；

緩存雪崩的解決方案

緩存失效的幾種情況:

1、緩存服務(wù)器掛了

2、高峰期緩存局部失效

3、熱點(diǎn)緩存失效

解決方案：

1、避免緩存集中失效，不同的key設(shè)置不同的超時(shí)時(shí)間

2、增加互斥鎖，控制數(shù)據(jù)庫請(qǐng)求，重建緩存。

3、提高緩存的HA，如：redis集群。

雪崩的整體解決方案

一般情況對(duì)于服務(wù)依賴的保護(hù)主要有3種解決方案：

（1）熔斷模式

這種模式主要是參考電路熔斷，如果一條線路電壓過高，保險(xiǎn)絲會(huì)熔斷，防止火災(zāi)。放到我們的系統(tǒng)中，如果某個(gè)目標(biāo)服務(wù)調(diào)用慢或者有大量超時(shí)，此時(shí)，熔斷該服務(wù)的調(diào)用，對(duì)于后續(xù)調(diào)用請(qǐng)求，不在繼續(xù)調(diào)用目標(biāo)服務(wù)，直接返回，快速釋放資源。如果目標(biāo)服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用。

重點(diǎn)監(jiān)控的機(jī)器性能指標(biāo)

• cpu(Load) cpu使用率/負(fù)載

• memory 內(nèi)存

• mysql監(jiān)控長事務(wù)(這里與sql查詢超時(shí)是緊密結(jié)合的，需要重點(diǎn)監(jiān)控)

• sql超時(shí)

• 線程數(shù)等

總之，除了cpu、內(nèi)存、線程數(shù)外，重點(diǎn)監(jiān)控?cái)?shù)據(jù)庫端的長事務(wù)、sql超時(shí)等，絕大多數(shù)應(yīng)用服務(wù)器發(fā)生的雪崩場景，都是來源于數(shù)據(jù)庫端的性能瓶頸，從而先引起數(shù)據(jù)庫端大量瓶頸，最終拖累應(yīng)用服務(wù)器也發(fā)生雪崩，最后就是大面積的雪崩。

（2）隔離模式

這種模式就像對(duì)系統(tǒng)請(qǐng)求按類型劃分成一個(gè)個(gè)小島的一樣，當(dāng)某個(gè)小島被火少光了，不會(huì)影響到其他的小島。

例如可以對(duì)不同類型的請(qǐng)求使用線程池來資源隔離，每種類型的請(qǐng)求互不影響，如果一種類型的請(qǐng)求線程資源耗盡，則對(duì)后續(xù)的該類型請(qǐng)求直接返回，不再調(diào)用后續(xù)資源。這種模式使用場景非常多，例如將一個(gè)服務(wù)拆開，對(duì)于重要的服務(wù)使用單獨(dú)服務(wù)器來部署，再或者公司最近推廣的多中心。

（3）限流模式

上述的熔斷模式和隔離模式都屬于出錯(cuò)后的容錯(cuò)處理機(jī)制，而限流模式則可以稱為預(yù)防模式。限流模式主要是提前對(duì)各個(gè)類型的請(qǐng)求設(shè)置最高的QPS閾值，若高于設(shè)置的閾值則對(duì)該請(qǐng)求直接返回，不再調(diào)用后續(xù)資源。這種模式不能解決服務(wù)依賴的問題，只能解決系統(tǒng)整體資源分配問題，因?yàn)闆]有被限流的請(qǐng)求依然有可能造成雪崩效應(yīng)。

熔斷設(shè)計(jì)

在熔斷的設(shè)計(jì)主要參考了hystrix的做法。其中最重要的是三個(gè)模塊：熔斷請(qǐng)求判斷算法、熔斷恢復(fù)機(jī)制、熔斷報(bào)警

（1）熔斷請(qǐng)求判斷機(jī)制算法：使用無鎖循環(huán)隊(duì)列計(jì)數(shù)，每個(gè)熔斷器默認(rèn)維護(hù)10個(gè)bucket，每1秒一個(gè)bucket，每個(gè)blucket記錄請(qǐng)求的成功、失敗、超時(shí)、拒絕的狀態(tài)，默認(rèn)錯(cuò)誤超過50%且10秒內(nèi)超過20個(gè)請(qǐng)求進(jìn)行中斷攔截。

（2）熔斷恢復(fù)：對(duì)于被熔斷的請(qǐng)求，每隔5s允許部分請(qǐng)求通過，若請(qǐng)求都是健康的（RT<250ms）則對(duì)請(qǐng)求健康恢復(fù)。

（3）熔斷報(bào)警：對(duì)于熔斷的請(qǐng)求打日志，異常請(qǐng)求超過某些設(shè)定則報(bào)警。

隔離設(shè)計(jì)

隔離的方式一般使用兩種

（1）線程池隔離模式：使用一個(gè)線程池來存儲(chǔ)當(dāng)前的請(qǐng)求，線程池對(duì)請(qǐng)求作處理，設(shè)置任務(wù)返回處理超時(shí)時(shí)間，堆積的請(qǐng)求堆積入線程池隊(duì)列。這種方式需要為每個(gè)依賴的服務(wù)申請(qǐng)線程池，有一定的資源消耗，好處是可以應(yīng)對(duì)突發(fā)流量（流量洪峰來臨時(shí)，處理不完可將數(shù)據(jù)存儲(chǔ)到線程池隊(duì)里慢慢處理）

（2）信號(hào)量隔離模式：使用一個(gè)原子計(jì)數(shù)器（或信號(hào)量）來記錄當(dāng)前有多少個(gè)線程在運(yùn)行，請(qǐng)求來先判斷計(jì)數(shù)器的數(shù)值，若超過設(shè)置的大線程個(gè)數(shù)則丟棄改類型的新請(qǐng)求，若不超過則執(zhí)行計(jì)數(shù)操作請(qǐng)求來計(jì)數(shù)器+1，請(qǐng)求返回計(jì)數(shù)器-1。這種方式是嚴(yán)格的控制線程且立即返回模式，無法應(yīng)對(duì)突發(fā)流量（流量洪峰來臨時(shí)，處理的線程超過數(shù)量，其他的請(qǐng)求會(huì)直接返回，不繼續(xù)去請(qǐng)求依賴的服務(wù)）

超時(shí)機(jī)制設(shè)計(jì)

（1）超時(shí)分兩種，一種是請(qǐng)求的等待超時(shí)，一種是請(qǐng)求運(yùn)行超時(shí)。

（2）等待超時(shí)：在任務(wù)入隊(duì)列時(shí)設(shè)置任務(wù)入隊(duì)列時(shí)間，并判斷隊(duì)頭的任務(wù)入隊(duì)列時(shí)間是否大于超時(shí)時(shí)間，超過則丟棄任務(wù)。

（3）運(yùn)行超時(shí)：直接可使用線程池提供的get方法。

如何提前發(fā)現(xiàn)雪崩

就是首先讓系統(tǒng)不雪崩，然后通過監(jiān)控發(fā)現(xiàn)請(qǐng)求正在接近或者超過閥值，然后再根據(jù)具體情況處理，這個(gè)接近或者超過閥值的過程，可以稱為 “提前發(fā)現(xiàn)雪崩”。

以上就是應(yīng)用服務(wù)雪崩的場景以及技術(shù)方案總結(jié)。

“服務(wù)器雪崩的場景怎么解決”的內(nèi)容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司網(wǎng)站，小編將為大家輸出更多高質(zhì)量的實(shí)用文章！

本文題目：服務(wù)器雪崩的場景怎么解決-創(chuàng)新互聯(lián)
文章源于：http://www.chinadenli.net/article44/djoshe.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供微信小程序、品牌網(wǎng)站制作、App開發(fā)、Google、網(wǎng)站營銷、外貿(mào)建站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)