1. 程式人生 > 程式設計 >python爬取天氣資料的例項詳解

python爬取天氣資料的例項詳解

就在前幾天還是二十多度的舒適溫度,今天一下子就變成了個位數,小編已經感受到冬天寒風的無情了。之前對獲取天氣都是資料上的蒐集,做成了一個數據表後,對溫度變化的感知並不直觀。那麼,我們能不能用python中的方法做一個天氣資料分析的圖形,幫助我們更直接的看出天氣變化呢?

使用pygal繪圖,使用該模組前需先安裝pip install pygal,然後匯入import pygal

bar = pygal.Line() # 建立折線圖
bar.add('最低氣溫',lows)  #新增兩線的資料序列
bar.add('最高氣溫',highs) #注意lows和highs是int型的列表
bar.x_labels = daytimes
bar.x_labels_major = daytimes[::30]
bar.x_label_rotation = 45
bar.title = cityname+'未來七天氣溫走向圖'  #設定圖形標題
bar.x_title = '日期'  #x軸標題
bar.y_title = '氣溫(攝氏度)' # y軸標題
bar.legend_at_bottom = True
bar.show_x_guides = False
bar.show_y_guides = True
bar.render_to_file('temperate1.svg') # 將影象儲存為SVG檔案,可通過瀏覽器

最終生成的圖形如下圖所示,直觀的顯示了天氣情況:

python爬取天氣資料的例項詳解

完整程式碼

import csv
import sys
import urllib.request
from bs4 import BeautifulSoup # 解析頁面模組
import pygal
import cityinfo
 
cityname = input("請輸入你想要查詢天氣的城市:")
if cityname in cityinfo.city:
  citycode = cityinfo.city[cityname]
else:
  sys.exit()
url = '非常抱歉,網頁無法訪問' + citycode + '.shtml'
header = ("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML,like Gecko) Chrome/76.0.3809.132 Safari/537.36") # 設定頭部資訊
http_handler = urllib.request.HTTPHandler()
opener = urllib.request.build_opener(http_handler) # 修改頭部資訊
opener.addheaders = [header]
request = urllib.request.Request(url) # 製作請求
response = opener.open(request) # 得到應答包
html = response.read() # 讀取應答包
html = html.decode('utf-8') # 設定編碼,否則會亂碼
# 根據得到的頁面資訊進行初步篩選過濾
final = [] # 初始化一個列表儲存資料
bs = BeautifulSoup(html,"html.parser") # 建立BeautifulSoup物件
body = bs.body
data = body.find('div',{'id': '7d'})
print(type(data))
ul = data.find('ul')
li = ul.find_all('li')
# 爬取自己需要的資料
i = 0 # 控制爬取的天數
lows = [] # 儲存低溫
highs = [] # 儲存高溫
daytimes = [] # 儲存日期
weathers = [] # 儲存天氣
for day in li: # 便利找到的每一個li
  if i < 7:
    temp = [] # 臨時存放每天的資料
    date = day.find('h1').string # 得到日期
    #print(date)
    temp.append(date)
    daytimes.append(date)
    inf = day.find_all('p') # 遍歷li下面的p標籤 有多個p需要使用find_all 而不是find
    #print(inf[0].string) # 提取第一個p標籤的值,即天氣
    temp.append(inf[0].string)
    weathers.append(inf[0].string)
    temlow = inf[1].find('i').string # 最低氣溫
    if inf[1].find('span') is None: # 天氣預報可能沒有最高氣溫
      temhigh = None
      temperate = temlow
    else:
      temhigh = inf[1].find('span').string # 最高氣溫
      temhigh = temhigh.replace('℃','')
      temperate = temhigh + '/' + temlow
    # temp.append(temhigh)
    # temp.append(temlow)
    lowStr = ""
    lowStr = lowStr.join(temlow.string)
    lows.append(int(lowStr[:-1])) # 以上三行將低溫NavigableString轉成int型別並存入低溫列表
    if temhigh is None:
      highs.append(int(lowStr[:-1]))
      highStr = ""
      highStr = highStr.join(temhigh)
      highs.append(int(highStr)) # 以上三行將高溫NavigableString轉成int型別並存入高溫列表
    temp.append(temperate)
    final.append(temp)
    i = i + 1
# 將最終的獲取的天氣寫入csv檔案
with open('weather.csv','a',errors='ignore',newline='') as f:
  f_csv = csv.writer(f)
  f_csv.writerows([cityname])
  f_csv.writerows(final)
# 繪圖
bar = pygal.Line() # 建立折線圖
bar.add('最低氣溫',lows)
bar.add('最高氣溫',highs)
bar.x_labels = daytimes
bar.x_labels_major = daytimes[::30]
# bar.show_minor_x_labels = False # 不顯示X軸最小刻度
bar.x_label_rotation = 45
bar.title = cityname+'未來七天氣溫走向圖'
bar.x_title = '日期'
bar.y_title = '氣溫(攝氏度)'
bar.legend_at_bottom = True
bar.show_x_guides = False
bar.show_y_guides = True
bar.render_to_file('temperate.svg')

Python爬取天氣資料例項擴充套件:

import requests
from bs4 import BeautifulSoup
from pyecharts import Bar

ALL_DATA = []
def send_parse_urls(start_urls):
  headers = {
  "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML,like Gecko) Chrome/81.0.4044.122 Safari/537.36"
  }
  for start_url in start_urls:
    response = requests.get(start_url,headers=headers)
    # 編碼問題的解決
    response = response.text.encode("raw_unicode_escape").decode("utf-8")
    soup = BeautifulSoup(response,"html5lib") #lxml解析器:效能比較好,html5lib:適合頁面結構比較混亂的
    div_tatall = soup.find("div",class_="conMidtab") #find() 找符合要求的第一個元素
    tables = div_tatall.find_all("table") #find_all() 找到符合要求的所有元素的列表
    for table in tables:
      trs = table.find_all("tr")
      info_trs = trs[2:]
      for index,info_tr in enumerate(info_trs): # 列舉函式,可以獲得索引
        # print(index,info_tr)
        # print("="*30)
        city_td = info_tr.find_all("td")[0]
        temp_td = info_tr.find_all("td")[6]
        # if的判斷的index的特殊情況應該在一般情況的後面,把之前的資料覆蓋
        if index==0:
          city_td = info_tr.find_all("td")[1]
          temp_td = info_tr.find_all("td")[7]
        city=list(city_td.stripped_strings)[0]
        temp=list(temp_td.stripped_strings)[0]
        ALL_DATA.append({"city":city,"temp":temp})
  return ALL_DATA

def get_start_urls():
  start_urls = [
    "http://www.weather.com.cn/textFC/hb.shtml","http://www.weather.com.cn/textFC/db.shtml","http://www.weather.com.cn/textFC/hd.shtml","http://www.weather.com.cn/textFC/hz.shtml","http://www.weather.com.cn/textFC/hn.shtml","http://www.weather.com.cn/textFC/xb.shtml","http://www.weather.com.cn/textFC/xn.shtml","http://www.weather.com.cn/textFC/gat.shtml",]
  return start_urls

def main():
  """
  主程式邏輯
  展示全國實時溫度最低的十個城市氣溫排行榜的柱狀圖
  """
  # 1 獲取所有起始url
  start_urls = get_start_urls()
  # 2 傳送請求獲取響應、解析頁面
  data = send_parse_urls(start_urls)
  # print(data)
  # 4 資料視覺化
    #1排序
  data.sort(key=lambda data:int(data["temp"]))
    #2切片,選擇出溫度最低的十個城市和溫度值
  show_data = data[:10]
    #3分出城市和溫度
  city = list(map(lambda data:data["city"],show_data))
  temp = list(map(lambda data:int(data["temp"]),show_data))
    #4建立柱狀圖、生成目標圖
  chart = Bar("中國最低氣溫排行榜") #需要安裝pyechart模組
  chart.add("",city,temp)
  chart.render("tempture.html")

if __name__ == '__main__':
  main()

到此這篇關於python爬取天氣資料的例項詳解的文章就介紹到這了,更多相關python爬蟲天氣資料的分析內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!