python爬取電影並下載
阿新 • • 發佈:2018-10-27
多說 即將 str 方法 單獨使用 技術 51cto format ble 一、概述
python安裝和相關的模塊安裝這裏不講述,如有不明白請留言我~
對於一個宅男,喜歡看電影,每次打開電影網站,各種彈出的廣告,很是麻煩,還是要自己去復制下載鏈接到迅雷上粘貼並下載,這個過程中還有選擇困難癥;這一系列的動作讓人甚是不爽,不如有下好的,點著看就好了;作為一個python愛好者,結合對爬蟲的一點小了解,於是周末花了點時間用python寫了一個爬取某電影網站上的最新電影板塊;
思路:
爬蟲針對某電影網站,收集電影名,下載鏈接,評分,等信息;當天更新的電影,特別的打印出來;同時通過評分調用迅雷下載,當然先判斷下,是否已經下載過了,再決定是否下載;然後,就是可以看了~
本次版本是基於python3.x下通過,在windows上才能調用迅雷~linux平臺只能獲取相關信息!
二、代碼
廢話不多說上代碼吧~
# coding:utf-8 # version 20181027 by san import re,time,os from urllib import request from lxml import etree # python xpath 單獨使用導入是這樣的 import platform #爬蟲電影之類 class getMovies: def __init__(self,url,Thuder): ‘‘‘ 實例初始化 ‘‘‘ self.url = url self.Thuder = Thuder def getResponse(self,url): url_request = request.Request(self.url) url_response = request.urlopen(url_request) return url_response #返回這個對象 def newMovie(self): ‘‘‘ 獲取最新電影 下載地址與url ‘‘‘ http_response = self.getResponse(webUrl) #拿到http請求後的上下文對象(HTTPResponse object) data = http_response.read().decode(‘gbk‘) #print(data) #獲取網頁內容 html = etree.HTML(data) newMovies = dict() lists = html.xpath(‘/html/body/div[1]/div/div[3]/div[2]/div[2]/div[1]/div/div[2]/div[2]/ul/table//a‘) for k in lists: if "app.html" in k.items()[0][1] or "最新電影下載" in k.text: continue else: movieUrl = webUrl + k.items()[0][1] movieName = k.text.split(‘《‘)[1].split("》")[0] newMovies[k.text.split(‘《‘)[1].split("》")[0]] = movieUrl = webUrl + k.items()[0][1] return newMovies def Movieurl(self,url): ‘‘‘ 獲取評分和更新時間 ‘‘‘ url_request = request.Request(url) movie_http_response = request.urlopen(url_request) data = movie_http_response.read().decode(‘gbk‘) if len(re.findall(r‘豆瓣評分.+?.+users‘,data)): # 獲取評分;沒有評分的返回null pingf = re.findall(r‘豆瓣評分.+?.+users‘,data)[0].split(‘/‘)[0].replace("\u3000",":") else: pingf = "豆瓣評分:null" times = re.findall(r‘發布時間.*‘,data)[0].split(‘\r‘)[0].strip() # 獲取影片發布時間 html = etree.HTML(data) murl = html.xpath(‘//*[@id="Zoom"]//a‘) for k in murl: for l in k.items(): if "ftp://" in l[1]: print return l[1],times,pingf def check_end(self,fiename,path): ‘‘‘ 檢測文件是否下載完成 ‘‘‘ return os.path.exists(os.path.join(save_path,fiename)) def check_start(self,filename): ‘‘‘ 檢測文件是否開始下載 ‘‘‘ cache_file = filename+".xltd" return os.path.exists(os.path.join(save_path,cache_file)) def DownMovies(self,name,url): ‘‘‘ windows下載 ‘‘‘ PlatForm = platform.system() print("即將下載的電影是:%s" %name) if PlatForm == "Windows": try: print(r‘"{0}" "{1}"‘.format(self.Thuder,url)) os.system(r‘"{0}" {1}‘.format(self.Thuder,url)) except Exception as e: print(e) else: print("當前系統平臺不支持") def Main(self): ‘‘‘ 最終新電影存儲在字典中 ‘‘‘ NewMoveis = dict() Movies = self.newMovie() # 獲取電影的字典信息 for k,v in Movies.items(): NewMoveis[k] = self.Movieurl(v),v return NewMoveis def NewMoives(self): ‘‘‘ 查看已經獲取到的電影信息 ‘‘‘ Today = time.strftime("%Y-%m-%d") print("今天是:%s" %Today) Movies = self.Main() print("最近的 %s 部新電影:" % len(Movies.keys())) for k,v in Movies.items(): # print(v[0][1].split(":")[0]) if Today in v[0][1].split(":")[0]: print("++++++++++++++++今天剛更新++++++++++++++:","\n",k,"-->",v,"\n") else: print("========================================") print(k,"-->",v,"\n") if __name__ == ‘__main__‘: # 以下依據您個人電影迅雷的相關信息填寫即可 save_path="O:\迅雷下載" # 電影下載保存位置 (需要填寫) Thuder = "O:\Program\Thunder.exe" #Thuder: 迅雷Thuder.exe路徑 (需要填寫) webUrl = ‘http://www.dytt8.net‘ # 電影網站 test = getMovies(webUrl,Thuder) # 實例化 test.NewMoives() Movies = test.Main() for k,v in Movies.items(): movies_name = v[0][0].split(‘/‘)[3] socre = v[0][2].split(":")[1] check_down_status = test.check_end(movies_name,save_path) # print(check_down_status) if check_down_status: print("電影: %s 已經下載" %movies_name) continue elif socre == ‘null‘: continue elif float(socre) > 7.0: print(movies_name,socre) test.DownMovies(k,v[0][0]) time.sleep(10)
註意:以上代碼是針對windows平臺下,迅雷版本為非極速版本,本次使用的是9.14 如圖:
另外需要勾選以下配置項,否則程序調用迅雷下載時會有提示框:
程序運行效果如圖:
再看下O盤 下載的目錄:
至此自動獲取最新電影並下載指定評分電影完成~ 再也不用擔心選擇困難了,下好看就行了~
補充說明:
這只是一個基本的獲取並下載電影的程序,也可能擴充成下載好發郵件,或不想下載,定時運行,有新電影發郵件提示的功能~更功能自行發揮吧,如有那位大牛知道linux下自行下載的方法,歡迎留言交流,謝謝~如果覺得還可以,不要忘記點個贊哦~
python爬取電影並下載