1. 程式人生 > 實用技巧 >爬蟲爬取豆瓣影院的相關電影資訊

爬蟲爬取豆瓣影院的相關電影資訊

主要的是將相關的電影資訊爬取到之後儲存到excel中:

主要的程式碼入下:

import requests
from bs4 import BeautifulSoup
import openpyxl
headers = {'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36'}
lst=['編號','名稱','推薦語','評分','電影連結']
for i in range (10):
    url = 'https://movie.douban.com/top250?start='+str(i*25)+'&filter='
    resp = requests.get(url, headers=headers)
    bs=BeautifulSoup(resp.text,'html.parser')
    grid_view=bs.find('ol',class_='grid_view')#裡面的每個li表示一個影片資料
    all_li=grid_view.find_all('li')
    #對其進行遍歷
    for item in all_li:
        no=item.find('em').text#電影的序號
        title=item.find('span',class_='title').text#索取標題
        inq=item.find('span',class_='inq')#推薦
        rat=item.find('span',class_='rating_num')#評分
        url_films=item.find('a')['href']
        lst.append([no,title,inq.text if inq!=None else '',rat.text,url_films])

#儲存到excel中
wb=openpyxl.Workbook()
sheet=wb.active
sheet.title="我的電影"
for item in lst:
    sheet.append(item)
wb.save('豆瓣電影')