python3 爬取網頁表格例子
阿新 • • 發佈:2018-11-11
很簡潔明瞭的爬蟲例子,分享給大家
#網址如下:http://www.maigoo.com/news/463071.html from bs4 import BeautifulSoup import requests import csv import bs4 #檢查url地址 def check_link(url): try: r = requests.get(url) r.raise_for_status() r.encoding = r.apparent_encoding return r.text except: print('無法連結伺服器!!!') #爬取資源 def get_contents(ulist,rurl): soup = BeautifulSoup(rurl,'lxml') trs = soup.find_all('tr') for tr in trs: ui = [] for td in tr: ui.append(td.string) ulist.append(ui) #儲存資源 def save_contents(urlist): try: with open("資料.csv",'w') as f: writer = csv.writer(f) writer.writerow(['2016年中國企業500強排行榜']) for i in range(len(urlist)): writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) except: pass def main(): urli = [] url = "http://www.maigoo.com/news/463071.html" rs = check_link(url) get_contents(urli,rs) save_contents(urli) main()
結果如下:
2016年中國企業500強排行榜
名次 , 企業名稱 , 營業收入(萬元)
1 , 國家電網公司 , 207134945
2 , 中國石油天然氣集團公司 , 188073616
3 , 中國石油化工集團公司 , 184977795
4 , 中國工商銀行股份有限公司 , 107983800
5 , 中國建設銀行股份有限公司 , 92587800
原文連結:https://blog.csdn.net/weixin_41059146/article/details/78605081