爬蟲---批量下載美女圖片
import urllib.request
import os #建立一個資料夾
def url_open(url):
req=urllib.request.Request(url)#為它新增一個request頭,這樣更像是瀏覽器訪問
req.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 SE 2.X MetaSr 1.0')
response=urllib.request.urlopen(url)
html=response.read()
return html
def get_page(url):
html=url_open(url).decode('utf-8')
#查詢,字串查詢用find方法
a=html.find('current-comment-page')+23#加上偏移,正好到44這個4的位置
b=html.find(']',a)
return html[a:b]
def find_imgs(url):
html=url_open(url).decode('utf-8')
img_addrs=[]#用一個列表進行儲存
a=html.find('img src=')
while a!=-1:#當a能找到就繼續迴圈,找不到則停止
b=html.find('.jpg',a,a+255)
if b!=-1:
img_addrs.append(html[a+9:b+4])
else:
b=a+9
a=html.find('img src=',b)#a的下一次起始位置就是上一次的最終位置
return img_addrs
def save_imgs(folder,img_addrs):
for each in img_addrs:
filename=each.split('/')[-1]#把它最後的名字拿出來
with open(filename,'wb') as f:
img=url_open(each)
f.write(img)
def download_mm(folder='ooxx',pages=10):
os.mkdir(folder)#建立一個檔名為floder的資料夾
os.chdir(folder)#當前工作目錄切換過去
url=' https://jandan.net/ooxx'
page_num=int(get_page(url))#獲取後是字元型,要把它轉換為整型
for i in range(pages):
page_num-=i
#https://jandan.net/ooxx/page-43#comments
page_url=url+'/page-'+str(page_num)+'#comments'
#獲取圖片的地址,然後寫成列表返回
img_addrs=find_imgs(page_url)
#儲存頁面到指定資料夾
save_imgs(folder,img_addrs)
if __name__=='__main__':
download_mm()