1. 程式人生 > 程式設計 >Python爬取知乎圖片程式碼實現解析

Python爬取知乎圖片程式碼實現解析

首先,需要獲取任意知乎的問題,只需要你輸入問題的ID,就可以獲取相關的頁面資訊,比如最重要的合計有多少人回答問題。

問題ID為如下標紅數字

編寫程式碼,下面的程式碼用來檢測使用者輸入的是否是正確的ID,並且通過拼接URL去獲取該問題下面合計有多少答案。

import requests
import re
import pymongo
import time
DATABASE_IP = '127.0.0.1'
DATABASE_PORT = 27017
DATABASE_NAME = 'sun'
client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)
db = client.sun
db.authenticate("dba","dba")
collection = db.zhihuone # 準備插入資料
BASE_URL = "https://www.zhihu.com/question/{}"
def get_totle_answers(article_id):
  headers = {
    "user-agent": "需要自己補全 Mozilla/5.0 (Windows NT 10.0; WOW64)"
  }
  with requests.Session() as s:
    with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:
      html = rep.text
      pattern =re.compile( '<meta itemProp="answerCount" content="(\d*?)"/>')
      s = pattern.search(html)
      print("查詢到{}條資料".format(s.groups()[0]))
      return s.groups()[0]
if __name__ == '__main__':
  # 用死迴圈判斷使用者輸入的是否是數字
  article_id = ""
  while not article_id.isdigit():
    article_id = input("請輸入文章ID:")
  totle = get_totle_answers(article_id)
  if int(totle)>0:
    zhi = ZhihuOne(article_id,totle)
    zhi.run()
  else:
    print("沒有任何資料!")

完善圖片下載部分,圖片下載地址在查閱過程中發現,存在json欄位的content中,我們採用簡單的正則表示式將他匹配出來。細節如下圖展示

編寫程式碼吧,下面的程式碼註釋請仔細閱讀,中間有一個小BUG,需要手動把pic3修改為pic2這個地方目前原因不明確,可能是我本地網路的原因,還有請在專案根目錄先建立一個imgs的資料夾,用來儲存圖片

  def download_img(self,data):
    ## 下載圖片
    for item in data["data"]:
      content = item["content"]
      pattern = re.compile('<noscript>(.*?)</noscript>')
      imgs = pattern.findall(content)
      if len(imgs) > 0:
        for img in imgs:
          match = re.search('<img src="(.*?)"',img)
          download = match.groups()[0]
          download = download.replace("pic3","pic2") # 小BUG,pic3的下載不到
          print("正在下載{}".format(download),end="")
          try:
            with requests.Session() as s:
              with s.get(download) as img_down:
                # 獲取檔名稱
                file = download[download.rindex("/") + 1:]
                content = img_down.content
                with open("imgs/{}".format(file),"wb+") as f: # 這個地方進行了硬編碼
                  f.write(content)

                print("圖片下載完成",end="\n")
          except Exception as e:
            print(e.args)
      else:
        pass

執行結果為

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支援我們。