1. 程式人生 > 程式設計 >Python爬蟲抓取指定網頁圖片程式碼例項

Python爬蟲抓取指定網頁圖片程式碼例項

想要爬取指定網頁中的圖片主要需要以下三個步驟:

(1)指定網站連結,抓取該網站的原始碼(如果使用google瀏覽器就是按下滑鼠右鍵 -> Inspect-> Elements 中的 html 內容)

(2)根據你要抓取的內容設定正則表示式以匹配要抓取的內容

(3)設定迴圈列表,重複抓取和儲存內容

以下介紹了兩種方法實現抓取指定網頁中圖片

(1)方法一:使用正則表示式過濾抓到的 html 內容字串

# 第一個簡單的爬取圖片的程式
import urllib.request # python自帶的爬操作url的庫
import re # 正則表示式


# 該方法傳入url,返回url的html的原始碼
def getHtmlCode(url):
  # 以下幾行註釋的程式碼在本程式中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求
  headers = {
    'User-Agent': 'Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) \
    AppleWebKit/537.36(KHTML,like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36'
  }
  # 將headers頭部新增到url,模擬瀏覽器訪問
  url = urllib.request.Request(url,headers=headers)

  # 將url頁面的原始碼儲存成字串
  page = urllib.request.urlopen(url).read()
  # 字串轉碼
  page = page.decode('UTF-8')
  return page


# 該方法傳入html的原始碼,通過擷取其中的img標籤,將圖片儲存到本機
def getImage(page):
  # [^\s]*? 表示最小匹配, 兩個括號表示列表中有兩個元組
  # imageList = re.findall(r'(https:[^\s]*?(png))"',page)
  imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"',page)
  x = 0
  # 迴圈列表
  for imageUrl in imageList:
    try:
      print('正在下載: %s' % imageUrl[0])
      # 這個image資料夾需要先建立好才能看到結果
      image_save_path = './image/%d.png' % x
      # 下載圖片並且儲存到指定資料夾中
      urllib.request.urlretrieve(imageUrl[0],image_save_path)
      x = x + 1
    except:
      continue
  pass
if __name__ == '__main__':
  # 指定要爬取的網站
  url = "https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html"
  # 得到該網站的原始碼
  page = getHtmlCode(url)
  # 爬取該網站的圖片並且儲存
  getImage(page)
  # print(page)

注意,程式碼中需要修改的就是imageList = re.findall(r'(https:[^\s]*?(jpg|png|gif))"',page) 這一塊內容,如何設計正則表示式需要根據你想要抓取的內容設定。我的設計來源如下:

Python爬蟲抓取指定網頁圖片程式碼例項

可以看到,因為這個網頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r'(https:[^\s]*?(png))"',page)也是可以的。

(2)方法二:使用 BeautifulSoup 庫解析 html 網頁

from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函式庫,是Python內建的網頁分析工具
import urllib # python自帶的爬操作url的庫


# 該方法傳入url,headers=headers)

  # 將url頁面的原始碼儲存成字串
  page = urllib.request.urlopen(url).read()
  # 字串轉碼
  page = page.decode('UTF-8')
  return page


# 該方法傳入html的原始碼,通過擷取其中的img標籤,將圖片儲存到本機
def getImage(page):
  # 按照html格式解析頁面
  soup = BeautifulSoup(page,'html.parser')
  # 格式化輸出DOM樹的內容
  print(soup.prettify())
  # 返回所有包含img標籤的列表,因為在Html檔案中圖片的插入呈現形式是<img src="..." alt=".." />
  imgList = soup.find_all('img')
  x = 0
  # 迴圈找到的圖片列表,注意,這裡手動設定從第2張圖片開始,是因為我debug看到了第一張圖片不是我想要的圖片
  for imgUrl in imgList[1:]:
    print('正在下載: %s ' % imgUrl.get('src'))
    # 得到scr的內容,這裡返回的就是Url字串連結,如'https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png'
    image_url = imgUrl.get('src')
    # 這個image資料夾需要先建立好才能看到結果
    image_save_path = './image/%d.png' % x
    # 下載圖片並且儲存到指定資料夾中
    urllib.request.urlretrieve(image_url,image_save_path)
    x = x + 1
if __name__ == '__main__':
  # 指定要爬取的網站
  url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html'
  # 得到該網站的原始碼
  page = getHtmlCode(url)
  # 爬取該網站的圖片並且儲存
  getImage(page)

這兩種方法各有利弊,我覺得可以靈活結合使用這兩種方法,比如先使用方法2中指定標籤的方法縮小要尋找的內容範圍,然後再使用正則表示式匹配想要的內容,這樣做起來更加簡潔明瞭。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。