1. 程式人生 > >python3 爬取網頁表格例子

python3 爬取網頁表格例子

                                     很簡潔明瞭的爬蟲例子,分享給大家

#網址如下:http://www.maigoo.com/news/463071.html
from bs4 import BeautifulSoup  

import requests  
import csv  
import bs4  
  
#檢查url地址  
def check_link(url):  
    try:  
          
        r = requests.get(url)  
        r.raise_for_status()  
        r.encoding = r.apparent_encoding  
        return r.text  
    except:  
        print('無法連結伺服器!!!')  
   
#爬取資源  
def get_contents(ulist,rurl):  
    soup = BeautifulSoup(rurl,'lxml')  
    trs = soup.find_all('tr')  
    for tr in trs:  
        ui = []  
        for td in tr:  
            ui.append(td.string)  
        ulist.append(ui) 
      
#儲存資源  
def save_contents(urlist):
    try:  
        with open("資料.csv",'w') as f:  
            writer = csv.writer(f)  
            writer.writerow(['2016年中國企業500強排行榜'])  
            for i in range(len(urlist)):  
                writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) 
    except:
        pass 
 
def main():  
    urli = []  
    url = "http://www.maigoo.com/news/463071.html"  
    rs = check_link(url)  
    get_contents(urli,rs)  
    save_contents(urli)  
  

main()  

結果如下:

2016年中國企業500強排行榜
 名次 , 企業名稱 , 營業收入(萬元) 
 1 , 國家電網公司 , 207134945 
 2 , 中國石油天然氣集團公司 , 188073616 
 3 , 中國石油化工集團公司 , 184977795 
 4 , 中國工商銀行股份有限公司 , 107983800 
 5 , 中國建設銀行股份有限公司 , 92587800 

原文連結:https://blog.csdn.net/weixin_41059146/article/details/78605081