這篇文章將為大家詳細(xì)講解有關(guān)python爬蟲(chóng)智能翻頁(yè)批量下載文件的實(shí)現(xiàn)方法，小編覺(jué)得挺實(shí)用的，因此分享給大家做個(gè)參考，希望大家閱讀完這篇文章后可以有所收獲。

創(chuàng)新互聯(lián)專注于山陽(yáng)網(wǎng)站建設(shè)服務(wù)及定制，我們擁有豐富的企業(yè)做網(wǎng)站經(jīng)驗(yàn)。 熱誠(chéng)為您提供山陽(yáng)營(yíng)銷型網(wǎng)站建設(shè)，山陽(yáng)網(wǎng)站制作、山陽(yáng)網(wǎng)頁(yè)設(shè)計(jì)、山陽(yáng)網(wǎng)站官網(wǎng)定制、小程序制作服務(wù)，打造山陽(yáng)網(wǎng)絡(luò)公司原創(chuàng)品牌,更為您提供山陽(yáng)網(wǎng)站排名全網(wǎng)營(yíng)銷落地服務(wù)。

python爬蟲(chóng)遇到爬取文件內(nèi)容時(shí)，需要一頁(yè)頁(yè)的翻頁(yè)爬取，這樣很是麻煩，其實(shí)可以獲取每個(gè)列表信息下的文件名和文件鏈接，讓文件名和文件鏈接處理為列表，保存后下載，實(shí)現(xiàn)智能翻頁(yè)批量下載文件，本文以以京客隆為例，批量下載文件，如財(cái)務(wù)資料，他的每一份報(bào)告都是一份pdf格式的文檔。以此頁(yè)面為目標(biāo)，下載他每個(gè)分類的文件python爬蟲(chóng)實(shí)戰(zhàn)之智能翻頁(yè)批量下載文件。

1、引入庫(kù)

import requests
import pandas as pd
from lxml import etree
import re
import os

2、解析初始頁(yè)面

baseUrl ='/tupian/20230522/invest.aspx&
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) 
Chrome/81.0.4044.92 Safari/537.36'
}
res =requests.get(url=baseUrl,headers=heade).text  
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text  #  設(shè)置變量接受 基礎(chǔ)頁(yè)的響應(yīng)數(shù)據(jù)
# print(res.text)
html = etree.HTML(res)

3、獲得投資關(guān)系的分類名稱和url地址

data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投資者列表的名字
data_link = html.xpath('//div[@class="infoLis"]//@href')  # 全部列表的鏈接
name = [data_name.strip() for data_name in data_name]  # 通過(guò)for循環(huán)去掉空字符
link = ['/tupian/20230522/&
# 合并為字典，方便保存文件
file = dict(zip(name,link))

4、每個(gè)列表信息，保存一個(gè)文件夾

for name,link in file.items():
  name=name.replace('/','.')
  name=name.replace('...','報(bào)表')
  # 上面的把文件名帶特許字符的 強(qiáng)制轉(zhuǎn)換為我們想要的文本類型
  path = 'E:/'+ name
  if not os.path.exists(path):
    os.mkdir(path)
    #建立儲(chǔ)存位置

5、對(duì)列表的每個(gè)項(xiàng)目鏈接進(jìn)行解析，拿到尾頁(yè)

  res_list = requests.get(url = link, headers = heade).text
  list_html = etree.HTML(res_list)
  # print(html_erJi) 解析每個(gè)分類的鏈接
  weiYe = list_html.xpath('//a[text()="尾頁(yè)"]/@href')
  # print(html_weiye)
  # 拿到尾頁(yè)信息
  if weiYe !=[]:
    # 正則提取尾頁(yè)信息
    get_weiYe =re.search("(\d+)'\)",html_weiye[0])
    get_yeMa = get_html_weiYe.group(1)
  else:
    get_yeMa=1
  # print(get_html_yeMa) 看看是不是提取成功

6、獲取每個(gè)列表信息下的文件名和文件鏈接

  for get_yeMa in range(1,int(get_yeMa)+1): # 翻頁(yè)
    yaMa= {
    '__EVENTTARGET': 'AspNetPager1',
    '__EVENTARGUMENT': get_yeMa
    }
    get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
    res3 =etree.HTML(get_lei_html)
    # print(res3)
    pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
    # print(pdf_name)
    pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')

7、讓文件名和文件鏈接處理為列表，保存后下載

 pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
 # print(pdf_names)
 if all(pdf_url):
      pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
      # print(pdf_url)
      pdf_data=dict(zip(pdf_names,pdf_urls))  # pdf地址和名字整合為字典
      for pdfName,pdfUrl in pdf_data.items():
        pdfName =pdfName.replace('/','.')
        res_pdf= requests.get(url =pdfUrl,headers=heade).content
        houZui = pdfUrl.split('.')[-1]
        pdf_pash = path + '/' + pdfName + '.'+ houZui  # 
        # print(pdf_pash)
        with open(pdf_pash,'wb') as f:
          f.write(res_pdf)
          print(pdfName,'下載成功')

關(guān)于“python爬蟲(chóng)智能翻頁(yè)批量下載文件的實(shí)現(xiàn)方法”這篇文章就分享到這里了，希望以上內(nèi)容可以對(duì)大家有一定的幫助，使各位可以學(xué)到更多知識(shí)，如果覺(jué)得文章不錯(cuò)，請(qǐng)把它分享出去讓更多的人看到。

網(wǎng)站欄目：python爬蟲(chóng)智能翻頁(yè)批量下載文件的實(shí)現(xiàn)方法-創(chuàng)新互聯(lián)
鏈接URL：http://www.chinadenli.net/article42/dchgec.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供外貿(mào)建站、網(wǎng)頁(yè)設(shè)計(jì)公司、搜索引擎優(yōu)化、軟件開(kāi)發(fā)、品牌網(wǎng)站設(shè)計(jì)、動(dòng)態(tài)網(wǎng)站

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)