如何用Python爬蟲(chóng)爬取美劇網(wǎng)站，很多新手對(duì)此不是很清楚，為了幫助大家解決這個(gè)難題，下面小編將為大家詳細(xì)講解，有這方面需求的人可以來(lái)學(xué)習(xí)下，希望你能有所收獲。

創(chuàng)新互聯(lián)專(zhuān)注于企業(yè)成都營(yíng)銷(xiāo)網(wǎng)站建設(shè)、網(wǎng)站重做改版、宿豫網(wǎng)站定制設(shè)計(jì)、自適應(yīng)品牌網(wǎng)站建設(shè)、HTML5、成都商城網(wǎng)站開(kāi)發(fā)、集團(tuán)公司官網(wǎng)建設(shè)、外貿(mào)網(wǎng)站制作、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁(yè)設(shè)計(jì)等建站業(yè)務(wù)，價(jià)格優(yōu)惠性價(jià)比高，為宿豫等各大城市提供網(wǎng)站開(kāi)發(fā)制作服務(wù)。

爬蟲(chóng)爬取美劇網(wǎng)站！

【前言】

一直有愛(ài)看美劇的習(xí)慣，一方面鍛煉一下英語(yǔ)聽(tīng)力，一方面打發(fā)一下時(shí)間。之前是能在視頻網(wǎng)站上面在線看的，可是自從廣電總局的限制令之后，進(jìn)口的美劇英劇等貌似就不在像以前一樣同步更新了。但是，作為一個(gè)宅diao的我又怎甘心沒(méi)劇追呢，所以網(wǎng)上隨便查了一下就找到一個(gè)能用迅雷下載的美劇下載網(wǎng)站【天天美劇】，各種資源隨便下載，最近迷上的BBC的高清紀(jì)錄片，大自然美得不要不要的。

雖說(shuō)找到了資源網(wǎng)站可以下載了，但是每次都要打開(kāi)瀏覽器，輸入網(wǎng)址，找到該美劇，然后點(diǎn)擊鏈接才能下載。時(shí)間長(zhǎng)了就覺(jué)得過(guò)程好繁瑣，而且有時(shí)候網(wǎng)站鏈接還會(huì)打不開(kāi)，會(huì)有點(diǎn)麻煩。所以今天的Python學(xué)習(xí)路線教程就想給大家來(lái)點(diǎn)實(shí)戰(zhàn)的東西，抓取該網(wǎng)站上所有美劇鏈接，并保存在文本文檔中，想要哪部劇就直接打開(kāi)復(fù)制鏈接到迅雷就可以下載啦。

其實(shí)一開(kāi)始打算寫(xiě)那種發(fā)現(xiàn)一個(gè)url，使用requests打開(kāi)抓取下載鏈接，從主頁(yè)開(kāi)始爬完全站。但是，好多重復(fù)鏈接，還有其網(wǎng)站的url不是我想的那么規(guī)則，寫(xiě)了半天也沒(méi)有寫(xiě)出我想要的那種發(fā)散式的爬蟲(chóng)，也許是自己火候還不到吧，繼續(xù)努力。。。

后來(lái)發(fā)現(xiàn)，其電視劇鏈接都是在文章里面，然后文章url后面有個(gè)數(shù)字編號(hào)，就像這樣的http://cn163.net/archives/24016/，所以機(jī)智的我又用了之前寫(xiě)過(guò)的爬蟲(chóng)經(jīng)驗(yàn)，解決方法就是自動(dòng)生成url，其后面的數(shù)字不是可以變的嗎，而且每部劇的都是唯一的，所以嘗試了一下大概有多少篇文章，然后用range函數(shù)直接連續(xù)生成數(shù)來(lái)構(gòu)造url。

但是很多url是不存在的，所以會(huì)直接掛掉，別擔(dān)心，我們用的可是requests，其自帶的status_code就是用來(lái)判斷請(qǐng)求返回的狀態(tài)的，所以只要是返回的狀態(tài)碼是404的我們都把它跳過(guò)，其他的都進(jìn)去爬取鏈接，這就解決了url的問(wèn)題了。

以下就是上述步驟的實(shí)現(xiàn)代碼。

def get_urls(self):
 try: for i in range(2015,25000):
 base_url='http://cn163.net/archives/'
 url=base_url+str(i)+'/'
 if requests.get(url).status_code == 404: continue
 else:
 self.save_links(url) except Exception,e: pass

其余的就進(jìn)行的很順利了，網(wǎng)上找到前人寫(xiě)的類(lèi)似的爬蟲(chóng)，但是只是爬取一篇文章的，所以借鑒了一下其正則表達(dá)式。自己用了BeautifulSoup還沒(méi)有正則效果好，所以果斷棄了，學(xué)海無(wú)涯啊。但是效果也不是那么理想，有一半左右的鏈接不能正確抓取，還需繼續(xù)優(yōu)化。

# -*- coding:utf-8 -*-import requests 
import reimport sysimport threadingimport time
reload(sys)
sys.setdefaultencoding('utf-8')class Archives(object):
 def save_links(self,url):
 try:
 data=requests.get(url,timeout=3)
 content=data.text
 link_pat='"(ed2k://\|file\|[^"]+?\.(S\d+)(E\d+)[^"]+?1024X\d{3}[^"]+?)"'
 name_pat=re.compile(r'<h3 class="entry_title">(.*?)</h3>',re.S)
 links = set(re.findall(link_pat,content))
 name=re.findall(name_pat,content)
 links_dict = {}
 count=len(links) except Exception,e: pass
 for i in links:
 links_dict[int(i[1][1:3]) * 100 + int(i[2][1:3])] = i#把劇集按s和e提取編號(hào)
 try: with open(name[0].replace('/',' ')+'.txt','w') as f: print name[0] for i in sorted(list(links_dict.keys())):#按季數(shù)+集數(shù)排序順序?qū)懭? f.write(links_dict[i][0] + '\n') print "Get links ... ", name[0], count except Exception,e: pass
 def get_urls(self):
 try: for i in range(2015,25000):
 base_url='http://cn163.net/archives/'
 url=base_url+str(i)+'/'
 if requests.get(url).status_code == 404: continue
 else:
 self.save_links(url) except Exception,e: pass
 def main(self):
 thread1=threading.Thread(target=self.get_urls())
 thread1.start()
 thread1.join() if __name__ == '__main__':
 start=time.time()
 a=Archives()
 a.main()
 end=time.time() print end-start

完整版代碼，其中還用到了多線程，但是感覺(jué)沒(méi)什么用，因?yàn)镻ython的GIL的緣故吧，看似有兩萬(wàn)多部劇，本以為要很長(zhǎng)時(shí)間才能抓取完成，但是除去url錯(cuò)誤的和沒(méi)匹配到的，總共抓取時(shí)間20分鐘不到。搞得我本來(lái)還想使用Redis在兩臺(tái)Linux上爬取，但是折騰了一番之后感覺(jué)沒(méi)必要，所以就這樣吧，后面需要更大數(shù)據(jù)的時(shí)候再去弄。

還有過(guò)程中遇到一個(gè)很折磨我的問(wèn)題是文件名的保存，必須在此抱怨一下，txt文本格式的文件名能有空格，但是不能有斜線、反斜線、括號(hào)等。就是這個(gè)問(wèn)題，一早上的時(shí)間都花在這上面的，一開(kāi)始我以為是抓取數(shù)據(jù)的錯(cuò)誤，后面查了半天才發(fā)現(xiàn)是爬取的劇名中帶有斜杠，這可把我坑苦了。大家在嘗試的時(shí)候一定要仔細(xì)認(rèn)真哈！加油加油呀！

看完上述內(nèi)容是否對(duì)您有幫助呢？如果還想對(duì)相關(guān)知識(shí)有進(jìn)一步的了解或閱讀更多相關(guān)文章，請(qǐng)關(guān)注創(chuàng)新互聯(lián)-成都網(wǎng)站建設(shè)公司行業(yè)資訊頻道，感謝您對(duì)創(chuàng)新互聯(lián)的支持。

當(dāng)前名稱(chēng)：如何用Python爬蟲(chóng)爬取美劇網(wǎng)站-創(chuàng)新互聯(lián)
網(wǎng)頁(yè)網(wǎng)址：http://www.chinadenli.net/article44/cccpee.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供商城網(wǎng)站、域名注冊(cè)、網(wǎng)站導(dǎo)航、品牌網(wǎng)站建設(shè)、品牌網(wǎng)站設(shè)計(jì)、小程序開(kāi)發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)