欧美一区二区三区老妇人-欧美做爰猛烈大尺度电-99久久夜色精品国产亚洲a-亚洲福利视频一区二区

python3多線程爬蟲中GIL執(zhí)行效率怎么樣

這篇文章將為大家詳細講解有關(guān)python3多線程爬蟲中GIL執(zhí)行效率怎么樣,小編覺得挺實用的,因此分享給大家做個參考,希望大家閱讀完這篇文章后可以有所收獲。

創(chuàng)新互聯(lián)是一家集網(wǎng)站建設(shè),政和企業(yè)網(wǎng)站建設(shè),政和品牌網(wǎng)站建設(shè),網(wǎng)站定制,政和網(wǎng)站建設(shè)報價,網(wǎng)絡(luò)營銷,網(wǎng)絡(luò)優(yōu)化,政和網(wǎng)站推廣為一體的創(chuàng)新建站企業(yè),幫助傳統(tǒng)企業(yè)提升企業(yè)形象加強企業(yè)競爭力。可充分滿足這一群體相比中小企業(yè)更為豐富、高端、多元的互聯(lián)網(wǎng)需求。同時我們時刻保持專業(yè)、時尚、前沿,時刻以成就客戶成長自我,堅持不斷學(xué)習、思考、沉淀、凈化自己,讓我們?yōu)楦嗟钠髽I(yè)打造出實用型網(wǎng)站。

GIL的全稱是Global Interpreter Lock(全局解釋器鎖),來源是python設(shè)計之初的考慮,為了數(shù)據(jù)安全所做的決定。某個線程想要執(zhí)行,必須先拿到GIL,我們可以把GIL看作是“通行證”,并且在一個python進程中,GIL只有一個。拿不到通行證的線程,就不允許進入CPU執(zhí)行。GIL只在cpython中才有,因為cpython調(diào)用的是c語言的原生線程,所以他不能直接操作cpu,只能利用GIL保證同一時間只能有一個線程拿到數(shù)據(jù)。而在pypy和jpython中是沒有GIL的。

在多線程環(huán)境中,Python虛擬機按照以下方式執(zhí)行

1. 設(shè)置GIL。

 2.切換到一個線程去執(zhí)行。

3.運行

4.把線程設(shè)置為睡眠狀態(tài)。

5.解鎖GIL。

6.再次重復(fù)以上步驟。

python針對不同類型的代碼執(zhí)行效率也是不同的:

1、CPU密集型代碼(各種循環(huán)處理、計算等等),在這種情況下,由于計算工作多,ticks計數(shù)很快就會達到閾值,然后觸發(fā)GIL的釋放與再競爭(多個線程來回切換當然是需要消耗資源的),所以python下的多線程對CPU密集型代碼并不友好。 2、IO密集型代碼(文件處理、網(wǎng)絡(luò)爬蟲等涉及文件讀寫的操作),多線程能夠有效提升效率(單線程下有IO操作會進行IO等待,造成不必要的時間浪費,而開啟多線程能在線程A等待時,自動切換到線程B,可以不浪費CPU的資源,從而能提升程序執(zhí)行效率)。所以python的多線程對IO密集型代碼比較友好。 

使用建議?

python下想要充分利用多核CPU,就用多進程。因為每個進程有各自獨立的GIL,互不干擾,這樣就可以真正意義上的并行執(zhí)行,在python中,多進程的執(zhí)行效率優(yōu)于多線程(僅僅針對多核CPU而言)。

GIL在python中的版本差異

1、在python2.x里,GIL的釋放邏輯是當前線程遇見IO操作或者ticks計數(shù)達到100時進行釋放。(ticks可以看作是python自身的一個計數(shù)器,專門做用于GIL,每次釋放后歸零,這個計數(shù)可以通過sys.setcheckinterval 來調(diào)整)。而每次釋放GIL鎖,線程進行鎖競爭、切換線程,會消耗資源。并且由于GIL鎖存在,python里一個進程永遠只能同時執(zhí)行一個線程(拿到GIL的線程才能執(zhí)行),這就是為什么在多核CPU上,python的多線程效率并不高。 2、在python3.x中,GIL不使用ticks計數(shù),改為使用計時器(執(zhí)行時間達到閾值后,當前線程釋放GIL),這樣對CPU密集型程序更加友好,但依然沒有解決GIL導(dǎo)致的同一時間只能執(zhí)行一個線程的問題,所以效率依然不盡如人意。

有了這把GIL的鑰匙,我們就不用了擔心在多線程運行的時候可能出現(xiàn)的錯亂現(xiàn)象。而且值得要再提一句的是,GIL在python2和3中是不同的,這點小伙伴們可要記住了哦~

關(guān)于python3多線程爬蟲中GIL執(zhí)行效率怎么樣就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。

當前題目:python3多線程爬蟲中GIL執(zhí)行效率怎么樣
網(wǎng)頁網(wǎng)址:http://www.chinadenli.net/article30/jigsso.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供商城網(wǎng)站面包屑導(dǎo)航全網(wǎng)營銷推廣品牌網(wǎng)站制作網(wǎng)站營銷自適應(yīng)網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都定制網(wǎng)站網(wǎng)頁設(shè)計