python繞過圖片滑動驗證碼實現爬取PTA所有題目功能 附原始碼
阿新 • • 發佈:2021-01-08
最近學了python爬蟲,本著學以致用的態度去應用在生活中。突然發現演算法的考試要來了,範圍就是PTA刷過的題。讓我一個個複製貼上?不可能,必須爬它!
先開頁面,人傻了,PTA的題目是非同步載入的,爬了個寂寞(空資料)。AJAX我又不熟,突然想到了selenium。
selenium可以模擬人的操作讓瀏覽器自動執行動作,具體的自己去了解,不多說了。乾貨來了:
登入介面有個圖片的滑動驗證碼
破解它的最好方式就是用opencv,opencv巨強,自己瞭解。
思路開始:
1.將背景圖片和可滑動的圖片下載
2.用opencv匹配這兩張圖片的最匹配位置,不用在意怎麼實現的,演算法極其BT,不是我這種數學不及格的人能想的。最終會得到一個匹配度最高的XY值
注意:由於演算法問題,可能不能一次成功,重啟程式就行了,或者改動程式碼。
4.進去之後就用selenium各種操作爬就完事了
以下是原始碼:
from selenium import webdriver from selenium.webdriver.common.action_chains import ActionChains import requests import time import numpy import cv2 import os #作者:許文鴻 #未經允許不可轉載,轉載時註明出處 #建立 WebDriver 物件,指明使用chrome瀏覽器驅動 web = webdriver.Chrome(r'd:\chromedriver.exe') web.implicitly_wait(5) #呼叫WebDriver 物件的get方法 可以讓瀏覽器開啟指定網址 web.get('https://pintia.cn/auth/login') zh = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[1]/div/div/div[1]/input') mm = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[2]/div/div/div[1]/input') #在PTA的賬號密碼: zh.send_keys('******@qq.com') mm.send_keys('******') #找到登入按鈕並點選 web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[2]/button/div/div').click() #等待兩秒,驗證碼載入完成 time.sleep(2) #bg背景圖片 bg_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[1]').get_attribute('src') #front可拖動圖片 front_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[2]').get_attribute('src') #儲存圖片 with open("bg.jpg",mode="wb") as f: f.write(requests.get(bg_img_src).content) with open("front.jpg",mode="wb") as f: f.write(requests.get(front_img_src).content) #將圖片載入至記憶體 bg = cv2.imread("bg.jpg") front = cv2.imread("front.jpg") js = 'alert("本人可能將此程式用於python課設,請靚仔靚女不要直接提交本人程式碼。即將報錯,需要刪除第42~44行程式碼即可正常執行");' web.execute_script(js) time.sleep(15) #將背景圖片轉化為灰度圖片,將三原色降維 bg = cv2.cvtColor(bg,cv2.COLOR_BGR2GRAY) #將可滑動圖片轉化為灰度圖片,將三原色降維 front = cv2.cvtColor(front,cv2.COLOR_BGR2GRAY) front = front[front.any(1)] #用cv演算法匹配精度最高的xy值 result = cv2.matchTemplate(bg,front,cv2.TM_CCOEFF_NORMED) #numpy解析xy,注意xy與實際為相反,x=y,y=x x,y = numpy.unravel_index(numpy.argmax(result),result.shape) #找到可拖動區域 div = web.find_element_by_xpath('/html/body/div[3]/div[2]/div/div/div[2]/div/div[2]/div[2]') #拖動滑塊,以實際相反的y值代替x ActionChains(web).drag_and_drop_by_offset(div,xoffset=y // 0.946,yoffset=0).perform() #至此成功破解驗證碼,由於演算法問題,準確率不能達到100%,可能需要多執行1~2次 for page in range(0,1000): time.sleep(1) #此處的網址為PTA固定網頁,僅需要更換page web.get('https://pintia.cn/problem-sets?tab=1&filter=all&page={page_}'.format(page_=page)) #獲取當前頁面題目集網址,A_s為a標籤的列表,urls使用者存放網址 A_s = web.find_elements_by_class_name('name_QIjv7') urls = [] for a in A_s: urls.append(a.get_attribute('href')) #當頁面不存在可爬取的網址,則退出程式 if urls.__len__() == 0: print('爬取完成') os._exit() #對剛才獲取的網址列表進行遍歷 for url in urls: web.get(url) #找到對應的題目物件 tm = web.find_elements_by_css_selector("[class='problemStatusRect_3kpmC PROBLEM_ACCEPTED_1Dzzi']") tm_total = 0 for i in range(0,1000): # 遍歷該頁面的題型 try: tm_type = web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/div/div[2]'.format(i_=i * 2 + 2)).text # 如果題型為程式設計/函式,記錄對應的數量,方便後續爬取 if tm_type == '程式設計題' or tm_type == '函式題': tm_total += int(web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/a/div/div'.format(i_=i * 2 + 2)).text[0]) except: break # 根據函式/程式設計題數量取相應的題目物件,捨棄其他題目 if tm_total != 0: tm = tm[-tm_total:] else: tm = [] # 遍歷剩餘題目 for tm_index in tm: try: tm_index.click() time.sleep(0.5) #獲取題目中的程式碼 tm_title = web.find_element_by_css_selector( "[class='text-center black-3 text-4 font-weight-bold my-3']").text mycode = web.find_element_by_css_selector('textarea').get_attribute('value') print('題目:' + tm_title) print(mycode) #接下來可以存入 except: continue
到此這篇關於python繞過圖片滑動驗證碼實現爬取PTA所有題目功能 附原始碼的文章就介紹到這了,更多相關python圖片滑動驗證碼內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!