這篇文章將為大家詳細講解有關(guān)storm如何提高運行速,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。
創(chuàng)新互聯(lián)建站長期為上千多家客戶提供的網(wǎng)站建設(shè)服務(wù),團隊從業(yè)經(jīng)驗10年,關(guān)注不同地域、不同群體,并針對不同對象提供差異化的產(chǎn)品和服務(wù);打造開放共贏平臺,與合作伙伴共同營造健康的互聯(lián)網(wǎng)生態(tài)環(huán)境。為子洲企業(yè)提供專業(yè)的成都做網(wǎng)站、網(wǎng)站設(shè)計,子洲網(wǎng)站改版等技術(shù)服務(wù)。擁有10多年豐富建站經(jīng)驗和眾多成功案例,為您定制開發(fā)。
(1)要將系統(tǒng)中的算法調(diào)優(yōu)。有可能一個算法浪費了一小部分時間,但由于數(shù)據(jù)量可能比較大,以至于整體上1秒的時間內(nèi)可能浪費大量的時間。因此,算法的設(shè)計還是比較重要的。
(2)其次,就是調(diào)整系統(tǒng)中占用資源比較多、運算速度比較慢的那些spout和bolt。在進行topology設(shè)計時需要設(shè)計好每個bolt的并行度。對于運行速度比較慢的bolt,需要調(diào)大他們的并行度,是得更多的資源用到這些計算上面來。這里,bolt運行的快慢是可以從ui界面中看到的,如下圖:

如上圖,其中,capacity表示一種容量,其實就是占用的資源的百分比。比如,0.799就表示占用了79.9%的分配給這個bolt的資源。這個數(shù)值越大,則表示的處理起來速度越慢,則更要加大它的并行度。
(3)然后就是設(shè)置acker的數(shù)量。acker是在bolt成功處理后,進行ack調(diào)用的線程(還是進程,我忘記了)。當(dāng)數(shù)據(jù)量比較大時,需要使用這個線程的次數(shù)就比較多,因此有可能這個線程就是制約處理速度的因素。因此,可以適當(dāng)調(diào)大acker的數(shù)量,用于進行ack的調(diào)用。系統(tǒng)中,如果不設(shè)置的話,acker的數(shù)量默認(rèn)為1;可以通過以下語句在topology中進行設(shè)定:
conf.put(Config.TOPOLOGY_ACKER_EXECUTORS, 10);//設(shè)置acker的數(shù)量
(4)當(dāng)集群中數(shù)據(jù)量比較大時,則最好能設(shè)置spout中的等待處理的數(shù)據(jù)量的大小。當(dāng)集群中等待的數(shù)據(jù)量比較大時,也就是數(shù)據(jù)發(fā)送比較快,但是處理太慢。這個時候應(yīng)該阻止spout的發(fā)送,否則可能會導(dǎo)致系統(tǒng)隊列爆掉。因此,設(shè)置以下:
conf.put(Config.TOPOLOGY_MAX_SPOUT_PENDING, 10000);//設(shè)置一個spout task上面最多有多少個沒有處理的tuple(沒有ack/failed)回復(fù),以防止tuple隊列爆掉
(5)在Spout調(diào)用nextTuple方法時,如果沒有emit tuple,那么默認(rèn)需要休眠1ms,這個具體的策略是可配置的,因此可以根據(jù)自己的具體場景,進行設(shè)置,以達到合理利用cpu資源。
topology.spout.wait.strategy "backtype.storm.spout.SleepSpoutWaitStrategy" topology.sleep.spout.wait.strategy.time.ms 1
關(guān)于“storm如何提高運行速”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,使各位可以學(xué)到更多知識,如果覺得文章不錯,請把它分享出去讓更多的人看到。
網(wǎng)頁名稱:storm如何提高運行速
轉(zhuǎn)載來源:http://www.chinadenli.net/article32/geidpc.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設(shè)計公司、小程序開發(fā)、品牌網(wǎng)站建設(shè)、網(wǎng)站內(nèi)鏈、建站公司、全網(wǎng)營銷推廣
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)