Python pandas對excel的操作實現示例
最近經常看到各平臺裡都有Python的廣告,都是對excel的操作,這裡明哥收集整理了一下pandas對excel的操作方法和使用過程。本篇介紹 pandas 的 DataFrame
對列 (Column) 的處理方法。示例資料請通過明哥的gitee進行下載。
增加計算列
pandas 的 DataFrame
,每一行或每一列都是一個序列 (Series
)。比如:
import pandas as pd df1 = pd.read_excel('./excel-comp-data.xlsx');
此時,用 type(df1['city']
,顯示該資料列(column)的型別是 pandas.core.series.Series
Series
非常重要,因為 pandas 基於 numpy,對資料的計算都是整體計算。深刻理解這個,才能理解後面要說的諸如 apply()
函式等。
如果列名 (column name)沒有空格,則列有兩種方式表達:
df1['city'] df1.city
如果列名有空格,或者建立新列(即該列不存在,需要建立,第一次使用的變數),則只能用第一種表示式。
假設我們要對三個月的資料進行彙總,可以使用下面的方法。實際上就是建立一個新的資料列:
# 由於是建立,不能使用 df.Total df1['Total'] = df1['Jan'] + df1['Feb'] + df1['Mar']
df1['Jan']
到 df1['Mar']
都是 Series
,所以使用 +
號,可以得到三個 Series
對應位置的資料合計。
當然,也可以用下面的方式:
df1['total'] = df1.Jan + df1.Feb + df1.Mar
增加條件計算列
假設現在要根據合計數 (Total 列),當 Total 大於 200,000 ,類別為 A,否則為 B。在 Excel 中實現用的是 IF
函式,但在 pandas 中需要用到 numpy 的 where
函式:
df1['category'] = np.where(df1['total'] > 200000,'A','B')
在指定位置插入列
上面方法增加的列,位置都是放在最後。如果想要在指定位置插入列,要用 dataframe.insert()
方法。假設我們要在 state
列後面插入一列,這一列是 state
的簡稱 (abbreviation)。在 Excel 中,根據 state 來找到 state 的簡稱 ,一般用 VLOOKUP
函式。我們用兩種方法來實現,第一種方法,簡稱來自 Python 的 dict。
資料來源:
state_to_code = {"VERMONT": "VT","GEORGIA": "GA","IOWA": "IA","Armed Forces Pacific": "AP","GUAM": "GU","KANSAS": "KS","FLORIDA": "FL","AMERICAN SAMOA": "AS","NORTH CAROLINA": "NC","HAWAII": "HI","NEW YORK": "NY","CALIFORNIA": "CA","ALABAMA": "AL","IDAHO": "ID","FEDERATED STATES OF MICRONESIA": "FM","Armed Forces Americas": "AA","DELAWARE": "DE","ALASKA": "AK","ILLINOIS": "IL","Armed Forces Africa": "AE","SOUTH DAKOTA": "SD","CONNECTICUT": "CT","MONTANA": "MT","MASSACHUSETTS": "MA","PUERTO RICO": "PR","Armed Forces Canada": "AE","NEW HAMPSHIRE": "NH","MARYLAND": "MD","NEW MEXICO": "NM","MISSISSIPPI": "MS","TENNESSEE": "TN","PALAU": "PW","COLORADO": "CO","Armed Forces Middle East": "AE","NEW JERSEY": "NJ","UTAH": "UT","MICHIGAN": "MI","WEST VIRGINIA": "WV","WASHINGTON": "WA","MINNESOTA": "MN","OREGON": "OR","VIRGINIA": "VA","VIRGIN ISLANDS": "VI","MARSHALL ISLANDS": "MH","WYOMING": "WY","OHIO": "OH","SOUTH CAROLINA": "SC","INDIANA": "IN","NEVADA": "NV","LOUISIANA": "LA","NORTHERN MARIANA ISLANDS": "MP","NEBRASKA": "NE","ARIZONA": "AZ","WISCONSIN": "WI","NORTH DAKOTA": "ND","Armed Forces Europe": "AE","PENNSYLVANIA": "PA","OKLAHOMA": "OK","KENTUCKY": "KY","RHODE ISLAND": "RI","DISTRICT OF COLUMBIA": "DC","ARKANSAS": "AR","MISSOURI": "MO","TEXAS": "TX","MAINE": "ME"}
如果我們想根據 dict 的 key
找到對應的值,可以使用 dict.get()
方法,這個方法在找不到 key 的時候,不會丟擲異常,只是返回 None。比如
state_to_code.get('TEXAS') # 返回 TX state_to_code.get('TEXASS') # 返回 None
dict.get()
方法引數為 key,是一個標量值。我們並不能像下面這樣把整列都傳給這個方法,比如下面這樣:
df1['abbrev'] = state_to_code.get(df1['state'])
所以我們需要先構造一個 Series (abbrev)
,然後把 abbrev
賦值給 df1['abbrev']
:
abbrev = df1['state'].apply(lambda x: state_to_code.get(x.upper())) df1['abbrev'] = abbrev # 在後面插入列 df1.insert(6,'abbr',abbrev) # 在指定位置插入列
apply()
函式值得專門寫一篇,暫且不細說。
Vlookup 函式功能實現
實現類似 Excel 的 VLookup
功能,可以用 dataframe.merge()
方法。為此,需要將 state_to_code
這個 dict
的資料載入到 DataFrame
中。這裡提供兩種方法。
方法1: 把資料放在 excel 工作表中,然後讀取 Excel 檔案載入。資料如下:
excel_file = pd.ExcelFile('excel-comp-data.xlsx') df_abbrev = pd.read_excel(excel_file,sheetname = 'abbrev') df2 = df1.merge(df_abbrev,on='state') # 類似資料庫的 inner join,不匹配資料不會顯示
VLookup
函式根據位置來匹配,merge()
方法根據列名來匹配。因為上面語句中沒有指定連線型別,不匹配的記錄不會顯示。如果需要將 df1
的資料全部顯示出來,需要指定 merge()
方法的 how
引數:
df3 = df1.merge(df_abbrev,on='state',how='left') # 類似資料庫的 left join
方法2:直接將 state_to_code
載入到 DataFrame
。但因為 state_to_code
全部是標量值 (scalar values),方法有一點不同,如下:
# 將 state_to_code 直接載入到 DataFrame abbr2 = pd.DataFrame(list(state_to_code.items()),columns=['state','abbr'])
計算合計數
假如需要對各個月份以及月份合計數進行求和。pandas 可以對 Series
執行 sum()
方法來計算合計:
import pandas as pd import numpy as np df = pd.read_excel('./excel-comp-data.xlsx'); df['Total'] = df.Jan + df.Feb + df.Mar # sum_row 的型別是 pandas.core.series.Series,Jan,Feb 等成為 Series 的 index sum_row = df[['Jan','Feb','Mar','Total']].sum()
也可以將 sum_row
轉換成 DataFrame
,以列的方式檢視。DataFrame
的 T
方法實現行列互換。
# 轉置變成 DataFrame df_sum = pd.DataFrame(data=sum_row).T df_sum
如果想要把合計數放在資料的下方,則要稍作加工。首先通過 reindex()
函式將 df_sum
變成與 df
具有相同的列,然後再通過 append()
方法,將合計行放在資料的後面:
# 轉置變成 DataFrame df_sum = pd.DataFrame(data=sum_row).T # 將 df_sum 新增到 df df_sum = df_sum.reindex(columns=df.columns) # append 建立一個新的 DataFrame df_with_total = df.append(df_sum,ignore_index=True)
分類彙總
Excel 的分類彙總功能,在資料功能區,但因為分類彙總需要對資料進行排序,並且分類彙總的資料與明細資料混在一起,個人很少用到,分類彙總一般使用資料透視表。
而在 pandas 進行分類彙總,可以使用 DataFrame
的 groupby()
函式,然後再對 groupby()
生成的 pandas.core.groupby.DataFrameGroupBy
物件進行求和:
df_groupby = df[['state','Jan','Total']].groupby('state').sum() df_groupby.head()
資料格式化
pandas 預設的資料顯示,沒有使用千分位分隔符,在資料較大時,感覺不方便。如果需要對資料的顯示格式化,可以自定義一個函式 number_format()
,然後對 DataFrame
執行 applymap(number_format)
函式。applymap()
函式對 DataFrame
中每一個元素都執行 number_format
函式。number_format
函式接受的引數必須為標量值,返回的也是標量值。
# 數字格式化 def number_format(x): return "{:,.0f}".format(x) # 使用逗號分隔,沒有小數位 formated_df = df_groupby.applymap(number_format) formated_df.head()
資料透視表
pandas 執行資料透視表,使用 pivot_table()
方法。熟練使用 pivot_table()
需要一些練習。這裡只是介紹最基本的功能:
- index 引數: 按什麼條件進行彙總
- values 引數:對哪些資料進行計算
- aggfunc 引數:aggregation function,執行什麼運算
# pivot table # pd.pivot_table 生成一個新的 DataFrame df_pivot = pd.pivot_table(df,index=['state'],values=['Jan','Total'],aggfunc= np.sum)
總結
Pandas可以對Excel進行基礎的讀寫操作
Pandas可以實現對Excel各表各行各列的增刪改查
Pandas可以進行表中列行篩選等
到此這篇關於Python pandas對excel的操作實現示例的文章就介紹到這了,更多相關Python pandas對excel操作內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!