欧美一区二区三区老妇人-欧美做爰猛烈大尺度电-99久久夜色精品国产亚洲a-亚洲福利视频一区二区

導(dǎo)致Hbase掛掉的場(chǎng)景

導(dǎo)致Hbase掛掉的場(chǎng)景
HMaster
HMaster會(huì)出現(xiàn)異常(執(zhí)行abort())停止的場(chǎng)景如下:
1.zk異常導(dǎo)致的master停止服務(wù)是最常見(jiàn)的場(chǎng)景,涉及操作包含但不限于以下:
  a)Zk鏈接超時(shí),超時(shí)時(shí)間通過(guò)zookeeper.session.timeout配置,默認(rèn)為3分鐘, 如果fail.fast.expired.active.master配置的值為false(默認(rèn)為false),則不會(huì)立即abort,而是會(huì)嘗試恢復(fù)zk的過(guò)期session;
  b)在打開(kāi)region后,需要從zk中刪除opened節(jié)點(diǎn),如果zk有該節(jié)點(diǎn),但是刪除失敗;
  c)在split region過(guò)程中,從zk刪除split節(jié)點(diǎn)時(shí);
  d)Master節(jié)點(diǎn)改變時(shí);
  e)從zk中創(chuàng)建unassigned節(jié)點(diǎn)時(shí);
  f)在下線disabled的regoin時(shí),從zk中刪除disabled的region如果發(fā)生zk異常;
  g)還有很多操作zk的節(jié)點(diǎn)時(shí)如果出現(xiàn)異常。
2.在assign時(shí),如果設(shè)置region為offlined狀態(tài),但是region之前的狀態(tài)不是closed或者offlined;
3.在assign時(shí),如果無(wú)法從.META.表中讀取region信息;
4.把新的hbase集群加入到正在運(yùn)行的hbase集群時(shí),如果zk的/hbase/unassigned節(jié)點(diǎn)沒(méi)有數(shù)據(jù);
5.使用線程池批量分配region時(shí),如果出現(xiàn)未被捕獲的異常,實(shí)現(xiàn)方式如下:
6.在啟動(dòng)master的服務(wù)線程時(shí),出現(xiàn)了異常;
7.在hdfs中檢查hbase日志路徑時(shí),發(fā)現(xiàn)了dead的server時(shí),需從hdfs中讀出log,如果出現(xiàn)io異常需要檢查hdfs文件系統(tǒng),如果fsOk狀態(tài)為true,但是通過(guò)FSUtils工具類(lèi)進(jìn)行檢查時(shí)出現(xiàn)io異常;
8.在校驗(yàn)并且分配-ROOT-的region時(shí),如果zk異常,或者其它異常(其它異常會(huì)重試10次),比如:“-ROOT- is onlined on the dead server”。

HRegionServer
HRegionServer會(huì)出現(xiàn)異常停止(執(zhí)行abort())服務(wù)的場(chǎng)景如下:
1.在讀寫(xiě)hdfs時(shí)如果出現(xiàn)IOException異常,此時(shí)會(huì)發(fā)起hdfs的文件系統(tǒng)檢查(checkFileSystem)1.          
2.Regionserver的服務(wù)線程出現(xiàn)了未捕獲異常;
3.在啟動(dòng)HRegionServer時(shí)出現(xiàn)異常;
4.在進(jìn)行HLog回滾時(shí),出現(xiàn)異常;
5.在flush memstore時(shí),如果持久化失敗,會(huì)重啟RS,在重啟中把hlog的內(nèi)容重新加載到memstore;
6.出現(xiàn)zk異常,包括但不限于以下場(chǎng)景:
  a)Zk鏈接超時(shí),超時(shí)時(shí)間通過(guò)zookeeper.session.timeout配置,默認(rèn)為3分鐘,與master不同,如果zk操作不會(huì)重試;
  b)啟動(dòng)HRegionServer時(shí)出現(xiàn)KeeperException異常;
  c)在進(jìn)行split操作時(shí),如果出現(xiàn)異常會(huì)進(jìn)行回滾操作,在回滾過(guò)程中需要從zk中刪除region的spliting狀態(tài),如果刪除時(shí)出現(xiàn)KeeperException或者回滾的其它操作出現(xiàn)異常;
  d)在打開(kāi)region時(shí),出現(xiàn)了KeeperException異常;
  e)在進(jìn)行hbase集群復(fù)制時(shí),很多與zk交互的操作出現(xiàn)KeeperException異常時(shí)均會(huì)導(dǎo)致abort;
7.在close region時(shí),如果出現(xiàn)異常,比如:不能成功的flush memstore;
8.Flush memstore時(shí),如果HLog發(fā)現(xiàn)該region已經(jīng)在flush則會(huì)強(qiáng)制終止JVM,采用的是Runtime.getRuntime().halt(1)方法,該方法不會(huì)執(zhí)行正常退出的關(guān)閉鉤子,從而不會(huì)flush RS的所有region,也不會(huì)遷移region,只有等待ZK的session超時(shí)后master才會(huì)發(fā)現(xiàn)該RS不可用,做遷移工作。

總結(jié)
Hbase掛掉的可能性有很多,主要由zk或者h(yuǎn)dfs的問(wèn)題導(dǎo)致,因此zk、hdfs的可用對(duì)于hbase極其重要,關(guān)于zk:
1.zk如果停止了服務(wù)則在很多時(shí)候會(huì)導(dǎo)致master、rs掛掉,hbase集群基本上就失去了服務(wù)的能力,因此zk一定要是穩(wěn)定可靠的,當(dāng)client已經(jīng)于rs建立了鏈接,這時(shí)zk掛掉,如果不進(jìn)行split等小數(shù)與zk交互失敗會(huì)導(dǎo)致觸發(fā)rs的abort()的操作時(shí)rs還是可以提供服務(wù)的;
2.如果rs/master進(jìn)行了長(zhǎng)時(shí)間的gc或者改動(dòng)了服務(wù)器時(shí)間,導(dǎo)致出現(xiàn)zk的session超時(shí)會(huì)導(dǎo)致rs/master停止服務(wù),目前已經(jīng)出現(xiàn)了2次因?yàn)榉?wù)器時(shí)間變化導(dǎo)致hbase停止服務(wù)的事故;
3.別輕易人為改變zk的hbase節(jié)點(diǎn)數(shù)據(jù),master/rs在進(jìn)行很多操作時(shí)會(huì)比較依賴(lài)zk的數(shù)據(jù),如果發(fā)現(xiàn)不符合預(yù)期可能會(huì)導(dǎo)致master/rs停止服務(wù),尤其是master。
Master通過(guò)ZK知道RS是否可用,一般情況下RS在停止服務(wù)時(shí)均會(huì)正常退出,在正常退出時(shí)會(huì)從ZK中刪除/hbase/rs/$regionserver的節(jié)點(diǎn),Master會(huì)監(jiān)聽(tīng)該節(jié)點(diǎn)的被刪除,從而較快的(速度取決于所有region關(guān)閉時(shí)間)對(duì)該RS負(fù)責(zé)的region進(jìn)行重新分配,如果是強(qiáng)制退出,比如 kill -9或者出現(xiàn)HRegionServer掛掉的第8條時(shí)則只有等待ZK的session超時(shí)時(shí)才會(huì)刪除RS在ZK的節(jié)點(diǎn)(RS在ZK中添加節(jié)點(diǎn)時(shí)采用的是CreateMode.EPHEMERAL模式,該模式創(chuàng)建的節(jié)點(diǎn)會(huì)在session關(guān)閉時(shí)自動(dòng)刪除),那時(shí)Master才會(huì)進(jìn)行重新assign。
Kill RS的進(jìn)程也是正常退出(不能使用kill -9強(qiáng)制退出),RS使用Runtime的addShutdownHook方法注冊(cè)了jvm關(guān)閉鉤子,在關(guān)閉鉤子中會(huì)執(zhí)行RS的退出邏輯,實(shí)際上hbase-daemon.sh的停止RS就是采用kill。

旅順口網(wǎng)站建設(shè)公司成都創(chuàng)新互聯(lián)公司,旅順口網(wǎng)站設(shè)計(jì)制作,有大型網(wǎng)站制作公司豐富經(jīng)驗(yàn)。已為旅順口上千提供企業(yè)網(wǎng)站建設(shè)服務(wù)。企業(yè)網(wǎng)站搭建\外貿(mào)網(wǎng)站制作要多少錢(qián),請(qǐng)找那個(gè)售后服務(wù)好的旅順口做網(wǎng)站的公司定做!

網(wǎng)頁(yè)名稱(chēng):導(dǎo)致Hbase掛掉的場(chǎng)景
文章鏈接:http://www.chinadenli.net/article32/ppjdsc.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供App開(kāi)發(fā)網(wǎng)站營(yíng)銷(xiāo)品牌網(wǎng)站制作移動(dòng)網(wǎng)站建設(shè)響應(yīng)式網(wǎng)站網(wǎng)站改版

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

網(wǎng)站托管運(yùn)營(yíng)