《Python資料分析與挖掘實戰》讀書筆記之資料探索與資料預處理

一、資料探索

Python中用於資料探索的庫主要是Pandas（資料分析）和Matplotlib（資料視覺化）

資料分析內容

資料質量分析

缺失值分析

異常值分析

一致性分析

資料特徵分析

分佈分析

對比分析

統計量分析

週期性分析

貢獻度分析

相關性分析

異常值檢測程式碼

#-*- coding: utf-8 -*-

import sys
reload(sys)

sys.setdefaultencoding('utf-8')

import pandas as
 
 pd

catering_sale = '../data/catering_sale.xls' #餐飲資料
data = pd.read_excel(catering_sale, index_col = u'日期') #讀取資料，指定“日期”列為索引列

import matplotlib.pyplot as plt #匯入影象庫

plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號
plt.figure() #建立影象
p = data.boxplot(return_type='dict'
 
) #畫箱線圖，直接使用DataFrame的方法
x = p['fliers'][0].get_xdata() # 'flies'即為異常值的標籤
y = p['fliers'][0].get_ydata()
y.sort() #從小到大排序，該方法直接改變原物件

for i in range(len(x)): 
  if i>0:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
  else:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08
 
,y[i]))

plt.show() #展示箱線圖

貢獻度分析程式碼（菜品盈利帕累託圖程式碼）

#-*- coding: utf-8 -*-

#菜品盈利資料 帕累託圖
from __future__ import print_function
import pandas as pd
import sys

reload(sys)
sys.setdefaultencoding('utf-8')

#初始化引數
dish_profit = '../data/catering_dish_profit.xls' #餐飲菜品盈利資料
data = pd.read_excel(dish_profit, index_col = u'菜品名')
data = data[u'盈利'].copy()
data.sort_values(ascending=False)
#sorted(data,reverse=True)  #或用這句話

import matplotlib.pyplot as plt #匯入影象庫

plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號
plt.figure()
data.plot(kind='bar')
plt.ylabel(u'盈利（元）')
p = 1.0*data.cumsum()/data.sum()
p.plot(color = 'r', secondary_y = True, style = '-o',linewidth = 2)
plt.annotate(format(p[6], '.4%'), xy = (6, p[6]), xytext=(6*0.9, p[6]*0.9), arrowprops=dict(arrowstyle="->", connectionstyle="arc3,rad=.2")) #添加註釋，即85%處的標記。這裡包括了指定箭頭樣式。
plt.ylabel(u'盈利（比例）')
plt.show()

二、資料預處理

資料預處理內容

資料清洗

缺失值處理

異常值處理

資料整合

資料變換

函式變換

規範化（歸一化）

連續屬性離散化（某些演算法要求資料是分類屬性形式）

屬性構造

小波變換

資料清洗程式碼（拉格朗日法進行插補）

#coding=utf-8
#拉格朗日插值程式碼
import pandas as pd #匯入資料分析庫Pandas
from scipy.interpolate import lagrange #匯入拉格朗日插值函式
pd.options.mode.chained_assignment = None #default='warn'
inputfile = '../data/catering_sale.xls' #銷量資料路徑
outputfile = '../tmp/sales.xls' #輸出資料路徑

data = pd.read_excel(inputfile) #讀入資料
data[u'銷量'][(data[u'銷量'] < 400) | (data[u'銷量'] > 5000)] = None #過濾異常值，將其變為空值
#data.loc[:,(u'銷量',)][(data[u'銷量'] < 400) | (data[u'銷量'] > 5000)] = None #這是對處理後得到一個結果，不能作用到原資料上

#row_indexs=(data[u'銷量']<400|(data[u'銷量']>5000))
#data.loc[row_indexs,u'銷量']=None

#自定義列向量插值函式
#s為列向量，n為被插值的位置，k為取前後的資料個數，預設為5
def ployinterp_column(s, n, k=5):
  y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取數
  y = y[y.notnull()] #剔除空值
  return lagrange(y.index, list(y))(n) #插值並返回插值結果

#逐個元素判斷是否需要插值
for i in data.columns:
  for j in range(len(data)):
    if (data[i].isnull())[j]: #如果為空即插值。
      data[i][j] = ployinterp_column(data[i], j)
      #data.loc[j,i]=ployinterp_column(data[i],j)

data.to_excel(outputfile) #輸出結果，寫入檔案

Pandas報錯：Setting With Copy Warning
新增pd.options.mode.chained_assignment = None #default='warn'
或用”.loc” pandas SettingWithCopyWarning（此程式碼中異常值未置空）

資料離散化程式碼

#-*- coding: utf-8 -*-
#資料規範化
import pandas as pd
atafile = '../data/discretization_data.xls' #引數初始化
data = pd.read_excel(datafile) #讀取資料
data = data[u'肝氣鬱結證型係數'].copy()
k = 4

d1 = pd.cut(data, k, labels = range(k)) #等寬離散化，各個類比依次命名為0,1,2,3

#等頻率離散化
w = [1.0*i/k for i in range(k+1)]
w = data.describe(percentiles = w)[4:4+k+1] #使用describe函式自動計算分位數
w[0] = w[0]*(1-1e-10)
d2 = pd.cut(data, w, labels = range(k))

from sklearn.cluster import KMeans #引入KMeans
kmodel = KMeans(n_clusters = k, n_jobs = 4) #建立模型，n_jobs是並行數，一般等於CPU數較好
kmodel.fit(data.values.reshape((len(data), 1))) #訓練模型
c = pd.DataFrame(kmodel.cluster_centers_).sort_values(0) #輸出聚類中心，並且排序（預設是隨機序的）
w = pd.rolling_mean(c, 2).iloc[1:] #相鄰兩項求中點，作為邊界點
w = [0] + list(w[0]) + [data.max()] #把首末邊界點加上
d3 = pd.cut(data, w, labels = range(k))

def cluster_plot(d, k): #自定義作圖函式來顯示聚類結果
  import matplotlib.pyplot as plt
  plt.rcParams['font.sans-serif'] = ['SimHei'] #用來正常顯示中文標籤
  plt.rcParams['axes.unicode_minus'] = False #用來正常顯示負號

  plt.figure(figsize = (8, 3))
  for j in range(0, k):
    plt.plot(data[d==j], [j for i in d[d==j]], 'o')
    plt.ylim(-0.5, k-0.5)
  return plt

cluster_plot(d1, k).show()
cluster_plot(d2, k).show()
cluster_plot(d3, k).show()

#-*- coding: utf-8 -*-
#主成分分析 降維
import pandas as pd
import numpy as np

#引數初始化
inputfile = '../data/principal_component.xls'
outputfile = '../tmp/dimention_reducted.xls' #降維後的資料

data = pd.read_excel(inputfile, header = None) #讀入資料

from sklearn.decomposition import PCA

pca = PCA()
pca.fit(data)
pca.components_ #返回模型的各個特徵向量
pca.explained_variance_ratio_ #返回各個成分各自的方差百分比

pca=PCA(3)
pca.fit(data)
low_d=pca.transform(data) #降低維度
print low_d
#df=pd.DataFrame(low_d)
#print df
#df.to_html('a.html')
pd.DataFrame(low_d).to_html('a.html') #資料寫入html
#pd.DataFrame(low_d).to_exel(outputfile)
pca.inverse_transform(low_d)

Error：‘DataFrame’ object has no attribute ‘to_exel’
未解決，改為寫入html