23 種 Pandas 核心操作,你需要過一遍嗎?
Pandas 是一個 Python 軟體庫,它提供了大量能使我們快速便捷地處理資料的函式和方法。一般而言,Pandas 是使 Python 成為強大而高效的 資料分析 環境的重要因素之一。在本文中,作者從基本資料集讀寫、 資料處理 和 DataFrame 操作三個角度展示了 23 個 Pandas 核心方法。
Pandas 是基於 NumPy 構建的庫,在資料處理方面可以把它理解為 NumPy 加強版,同時 Pandas 也是一項開源專案。它基於 Cython,因此讀取與處理資料非常快,並且還能輕鬆處理浮點資料中的缺失資料(表示為 NaN)以及非浮點資料。在本文中,基本資料集操作主要介紹了 CSV 與 Excel 的讀寫方法,基本資料處理主要介紹了缺失值及特徵抽取,最後的 DataFrame 操作則主要介紹了函式和排序等方法。
基本資料集操作
(1)讀取 CSV 格式的資料集
pd.DataFrame.from_csv(“csv_file”)
或者:
pd.read_csv(“csv_file”)
(2)讀取 Excel 資料集
pd.read_excel("excel_file")
(3)將 DataFrame 直接寫入 CSV 檔案
如下采用逗號作為分隔符,且不帶索引:
df.to_csv("data.csv", sep=",", index=False)
(4)基本的資料集特徵資訊
df.info()
(5)基本的資料集統計資訊
print(df.describe())
(6) Print data frame in a table
將 DataFrame 輸出到一張表:
print(tabulate(print_table, headers=headers))
當「print_table」是一個列表,其中列表元素還是新的列表,「headers」為表頭字串組成的列表。
(7)列出所有列的名字
df.columns
基本資料處理
(8)刪除缺失資料
df.dropna(axis=0, how='any')
返回一個 DataFrame,其中刪除了包含任何 NaN 值的給定軸,選擇 how=「all」會刪除所有元素都是 NaN 的給定軸。
(9)替換缺失資料
df.replace(to_replace=None, value=None)
使用 value 值代替 DataFrame 中的 to_replace 值,其中 value 和 to_replace 都需要我們賦予不同的值。
(10)檢查空值 NaN
pd.isnull(object)
檢查缺失值,即數值陣列中的 NaN 和目標陣列中的 None/NaN。
(11)刪除特徵
df.drop('feature_variable_name', axis=1)
axis 選擇 0 表示行,選擇表示列。
(12)將目標型別轉換為浮點型
pd.to_numeric(df["feature_name"], errors='coerce')
將目標型別轉化為數值從而進一步執行計算,在這個案例中為字串。
(13)將 DataFrame 轉換為 NumPy 陣列
df.as_matrix()
(14)取 DataFrame 的前面「n」行
df.head(n)
(15)通過特徵名取資料
df.loc[feature_name]
DataFrame 操作
(16)對 DataFrame 使用函式
該函式將令 DataFrame 中「height」行的所有值乘上 2:
df["height"].apply(*lambda* height: 2 * height)
或:
def multiply(x): return x * 2 df["height"].apply(multiply)
(17)重新命名行
下面程式碼會重新命名 DataFrame 的第三行為「size」:
df.rename(columns = {df.columns[2]:'size'}, inplace=True)
(18)取某一行的唯一實體
下面程式碼將取「name」行的唯一實體:
df["name"].unique()
(19)訪問子 DataFrame
以下程式碼將從 DataFrame 中抽取選定了的行「name」和「size」:
new_df = df[["name", "size"]]
(20)總結資料資訊
# Sum of values in a data frame df.sum() # Lowest value of a data frame df.min() # Highest value df.max() # Index of the lowest value df.idxmin() # Index of the highest value df.idxmax() # Statistical summary of the data frame, with quartiles, median, etc. df.describe() # Average values df.mean() # Median values df.median() # Correlation between columns df.corr() # To get these values for only one column, just select it like this# df["size"].median()
(21)給資料排序
df.sort_values(ascending = False)
(22)布林型索引
以下程式碼將過濾名為「size」的行,並僅顯示值等於 5 的行:
df[df["size"] == 5]
(23)選定特定的值
以下程式碼將選定「size」列、第一行的值:
df.loc([0], ['size'])