scrapy框架+selenium的使用

1 使用情景: 　　

　　在通過scrapy框架進行某些網站資料爬取的時候，往往會碰到頁面動態資料載入的情況發生，如果直接使用scrapy對其url發請求，是絕對獲取不到那部分動態加載出來的資料值。但是通過觀察我們會發現，通過瀏覽器進行url請求傳送則會加載出對應的動態加載出的資料。那麼如果我們想要在scrapy也獲取動態加載出的資料，則必須使用selenium建立瀏覽器物件，然後通過該瀏覽器物件進行請求傳送，獲取動態載入的資料值

2 使用流程

　　1 重寫爬蟲檔案的__init__()構造方法，在該方法中使用selenium例項化一個瀏覽器物件（因為瀏覽器物件只需要被例項化一次）.

　　2重寫爬蟲檔案的closed(self,spider)方法，在其內部關閉瀏覽器物件,該方法是在爬蟲結束時被呼叫.

　　3重寫下載中介軟體的process_response方法，讓該方法對響應物件進行攔截，並篡改response中儲存的頁面資料.

　　4在settings配置檔案中開啟下載中介軟體

3 使用案例: 爬取XXX網站新聞的部分板塊內容

　　爬蟲檔案:

# 注意：這裡對請求進行初始化後，每一次請求都是使用selenium

from selenium import webdriver
from  selenium.webdriver.chrome.options import Options    #
 
 使用無頭瀏覽器
import scrapy
無頭瀏覽器設定
chorme_options = Options()
chorme_options.add_argument("--headless")
chorme_options.add_argument("--disable-gpu")


class WangyiSpider(scrapy.Spider):
    name = 'wangyi'
    # allowed_domains = ['wangyi.com']   # 允許爬取的域名
    start_urls = ['https://news.163.com/']

    # 例項化一個瀏覽器物件
 

    def __init__(self):
        self.browser = webdriver.Chrome(chrome_options=chorme_options)
        super().__init__()

    def start_requests(self):
        url = "https://news.163.com/"
        response = scrapy.Request(url,callback=self.parse_index)
        yield response

    # 整個爬蟲結束後關閉瀏覽器
    def close(self,spider):
        self.browser.quit()

    # 訪問主頁的url, 拿到對應板塊的response
    def parse_index(self, response):
        div_list = response.xpath("//div[@class='ns_area list']/ul/li/a/@href").extract()
        index_list = [3,4,6,7]
        for index in index_list:
            response = scrapy.Request(div_list[index],callback=self.parse_detail)
            yield response

    # 對每一個板塊進行詳細訪問並解析, 獲取板塊內的每條新聞的url
    def parse_detail(self,response):
        div_res = response.xpath("//div[@class='data_row news_article clearfix ']")
        # print(len(div_res))
        title = div_res.xpath(".//div[@class='news_title']/h3/a/text()").extract_first()
        pic_url = div_res.xpath("./a/img/@src").extract_first()
        detail_url = div_res.xpath("//div[@class='news_title']/h3/a/@href").extract_first()
        infos = div_res.xpath(".//div[@class='news_tag//text()']").extract()
        info_list = []
        for info in infos:
            info = info.strip()
            info_list.append(info)
        info_str = "".join(info_list)
        item = WangyiproItem()

        item["title"] = title
        item["detail_url"] = detail_url
        item["pic_url"] = pic_url
        item["info_str"] = info_str

        yield scrapy.Request(url=detail_url,callback=self.parse_content,meta={"item":item})    # 通過 引數meta 可以將item引數傳遞進 callback回撥函式,再由 response.meta[...]取出來

    # 對每條新聞的url進行訪問, 並解析
    def parse_content(self,response):
        item = response.meta["item"]    # 獲取從response回撥函式由meta傳過來的 item 值
        content_list = response.xpath("//div[@class='post_text']/p/text()").extract()
        content = "".join(content_list)
        item["content"] = content
        yield item