模型介紹

Kmeans聚類存在兩個致命缺點，⼀是聚類效果容易受到異常樣本點的影響；⼆是該
演算法⽆法準確地將⾮球形樣本進⾏合理的聚類。
基於密度的聚類則可以解決⾮球形簇的問題，“密度”可以理解為樣本點的緊密程度，
如果在指定的半徑領域內，實際樣本量超過給定的最⼩樣本量閾值，則認為是密度⾼的對
象，就可以聚成⼀個簇。

模型步驟步驟

1. 為密度聚類演算法設定一個合理的半徑以及領域內包含的最少樣本點。
2. 從資料集中隨機挑選出一個樣本點p，檢驗其在領域內是否包含指定的最少樣本量，如果包含就將其定性為核心物件，並構成一個簇C；否則重新挑選一個樣本點。
3. 對於核心物件p所覆蓋的其他樣本點q，如果點q對應的領域內仍然包含最少樣本量，就將其覆蓋的樣本點統統歸於簇C。
4. 重複步驟3，將最大的密度相連所包含的樣本點聚為一類，形成一個大簇。
5. 完成步驟4後，重新回到步驟2，並重復步驟3和4，直到沒有新的樣本點可以生成新簇時演算法結束。

函式介紹

cluster.DBSCAN(eps=0.5, min_samples=5, metric=‘euclidean’, p=None)

eps：⽤於設定密度聚類中的e領域，即半徑，預設為0.5
min_samples：⽤於設定e領域內最少的樣本量，預設為5
metric：⽤於指定計算點之間距離的⽅法，預設為歐⽒距離
p：當引數metric為閔可夫斯基（'minkowski'）距離時，p=1，表示計算點之間的曼哈頓距離；p=2，
表示計算點之間的歐⽒距離；該引數的預設值為2
 

程式碼演示

# 匯入第三方模組
import pandas as pd
import numpy as np
from sklearn.datasets.samples_generator import make_blobs
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn import cluster


# 球形資料Kmeans與DBSCAN對比
# 模擬資料集
X,y = make_blobs(n_samples = 2000, centers = [[-1,-2],[1,3]], cluster_std = [0.5,0.5], random_state = 1234)
# 將模擬得到的陣列轉換為資料框，用於繪圖
plot_data = pd.DataFrame(np.column_stack((X,y)), columns = ['x1','x2','y'])
# 設定繪圖風格
plt.style.use('ggplot')
# 繪製散點圖（用不同的形狀代表不同的簇）
sns.lmplot('x1', 'x2', data = plot_data, hue = 'y',markers = ['^','o'],
           fit_reg = False, legend = False)
# 顯示圖形
plt.show()

# 匯入第三方模組
from sklearn import cluster
# 構建Kmeans聚類和密度聚類
kmeans = cluster.KMeans(n_clusters=2, random_state=1234)
kmeans.fit(X)
dbscan = cluster.DBSCAN(eps = 0.5, min_samples = 10)
dbscan.fit(X)
# 將Kmeans聚類和密度聚類的簇標籤新增到資料框中
plot_data['kmeans_label'] = kmeans.labels_
plot_data['dbscan_label'] = dbscan.labels_

# 繪製聚類效果圖
# 設定大圖框的長和高
plt.figure(figsize = (12,6))
# 設定第一個子圖的佈局
ax1 = plt.subplot2grid(shape = (1,2), loc = (0,0))
# 繪製散點圖
ax1.scatter(plot_data.x1, plot_data.x2, c = plot_data.kmeans_label)
# 設定第二個子圖的佈局
ax2 = plt.subplot2grid(shape = (1,2), loc = (0,1))
# 繪製散點圖(為了使Kmeans聚類和密度聚類的效果圖顏色一致，通過序列的map“方法”對顏色作重對映)
ax2.scatter(plot_data.x1, plot_data.x2, c=plot_data.dbscan_label.map({-1:1,0:2,1:0}))
# 顯示圖形
plt.show()



# 非球形資料Kmeans與DBSCAN對比
# 匯入第三方模組
from sklearn.datasets.samples_generator import make_moons
# 構造非球形樣本點
X1,y1 = make_moons(n_samples=2000, noise = 0.05, random_state = 1234)
# 構造球形樣本點
X2,y2 = make_blobs(n_samples=1000, centers = [[3,3]], cluster_std = 0.5, random_state = 1234)
# 將y2的值替換為2(為了避免與y1的值衝突，因為原始y1和y2中都有0這個值)
y2 = np.where(y2 == 0,2,0)
# 將模擬得到的陣列轉換為資料框，用於繪圖
plot_data = pd.DataFrame(np.row_stack([np.column_stack((X1,y1)),np.column_stack((X2,y2))]), columns = ['x1','x2','y'])

# 繪製散點圖（用不同的形狀代表不同的簇）
sns.lmplot('x1', 'x2', data = plot_data, hue = 'y',markers = ['^','o','>'],
           fit_reg = False, legend = False)
# 顯示圖形
plt.show()

# 構建Kmeans聚類和密度聚類
kmeans = cluster.KMeans(n_clusters=3, random_state=1234)
kmeans.fit(plot_data[['x1','x2']])
dbscan = cluster.DBSCAN(eps = 0.3, min_samples = 5)
dbscan.fit(plot_data[['x1','x2']])
# 將Kmeans聚類和密度聚類的簇標籤新增到資料框中
plot_data['kmeans_label'] = kmeans.labels_
plot_data['dbscan_label'] = dbscan.labels_

# 繪製聚類效果圖
# 設定大圖框的長和高
plt.figure(figsize = (12,6))
# 設定第一個子圖的佈局
ax1 = plt.subplot2grid(shape = (1,2), loc = (0,0))
# 繪製散點圖
ax1.scatter(plot_data.x1, plot_data.x2, c = plot_data.kmeans_label)
# 設定第二個子圖的佈局
ax2 = plt.subplot2grid(shape = (1,2), loc = (0,1))
# 繪製散點圖(為了使Kmeans聚類和密度聚類的效果圖顏色一致，通過序列的map“方法”對顏色作重對映)
ax2.scatter(plot_data.x1, plot_data.x2, c=plot_data.dbscan_label.map({-1:1,0:0,1:3,2:2}))
# 顯示圖形
plt.show()



# 出生率與死亡率案例
# DBSCAN模型
# 讀取外部資料
Province = pd.read_excel(r'Province.xlsx')
Province.head()
# 繪製出生率與死亡率散點圖
plt.scatter(Province.Birth_Rate, Province.Death_Rate, c = 'steelblue')
# 新增軸標籤
plt.xlabel('Birth_Rate')
plt.ylabel('Death_Rate')
# 顯示圖形
plt.show()

# 讀入第三方包
from sklearn import preprocessing
# 選取建模的變數
predictors = ['Birth_Rate','Death_Rate']
# 變數的標準化處理
X = preprocessing.scale(Province[predictors])
X = pd.DataFrame(X)

# 構建空列表，用於儲存不同引數組合下的結果
res = []
# 迭代不同的eps值
for eps in np.arange(0.001,1,0.05):
    # 迭代不同的min_samples值
    for min_samples in range(2,10):
        dbscan = cluster.DBSCAN(eps = eps, min_samples = min_samples)
        # 模型擬合
        dbscan.fit(X)
        # 統計各引數組合下的聚類個數（-1表示異常點）
        n_clusters = len([i for i in set(dbscan.labels_) if i != -1])
        # 異常點的個數
        outliners = np.sum(np.where(dbscan.labels_ == -1, 1,0))
        # 統計每個簇的樣本個數
        stats = str(pd.Series([i for i in dbscan.labels_ if i != -1]).value_counts().values)
        res.append({'eps':eps,'min_samples':min_samples,'n_clusters':n_clusters,'outliners':outliners,'stats':stats})
# 將迭代後的結果儲存到資料框中        
df = pd.DataFrame(res)
df
# 根據條件篩選合理的引數組合
df.loc[df.n_clusters == 3, :]

# 中文亂碼和座標軸負號的處理
plt.rcParams['font.sans-serif'] = ['Microsoft YaHei']
plt.rcParams['axes.unicode_minus'] = False

# 利用上述的引數組合值，重建密度聚類演算法
dbscan = cluster.DBSCAN(eps = 0.801, min_samples = 3)
# 模型擬合
dbscan.fit(X)
Province['dbscan_label'] = dbscan.labels_
# 繪製聚類聚類的效果散點圖
sns.lmplot(x = 'Birth_Rate', y = 'Death_Rate', hue = 'dbscan_label', data = Province,
           markers = ['*','d','^','o'], fit_reg = False, legend = False)
# 新增省份標籤
for x,y,text in zip(Province.Birth_Rate,Province.Death_Rate, Province.Province):
    plt.text(x+0.1,y-0.1,text, size = 8)
# 新增參考線
plt.hlines(y = 5.8, xmin = Province.Birth_Rate.min(), xmax = Province.Birth_Rate.max(), 
           linestyles = '--', colors = 'red')
plt.vlines(x = 10, ymin = Province.Death_Rate.min(), ymax = Province.Death_Rate.max(), 
           linestyles = '--', colors = 'red')
# 新增軸標籤
plt.xlabel('Birth_Rate')
plt.ylabel('Death_Rate')
# 顯示圖形
plt.show()


# Kmeans模型
# 匯入第三方模組
from sklearn import metrics
# 構造自定義函式，用於繪製不同k值和對應輪廓係數的折線圖
def k_silhouette(X, clusters):
    K = range(2,clusters+1)
    # 構建空列表，用於儲存箇中簇數下的輪廓係數
    S = []
    for k in K:
        kmeans = cluster.KMeans(n_clusters=k)
        kmeans.fit(X)
        labels = kmeans.labels_
        # 呼叫字模組metrics中的silhouette_score函式，計算輪廓係數
        S.append(metrics.silhouette_score(X, labels, metric='euclidean'))

    # 中文和負號的正常顯示
    plt.rcParams['font.sans-serif'] = ['Microsoft YaHei']
    plt.rcParams['axes.unicode_minus'] = False
    # 設定繪圖風格
    plt.style.use('ggplot')    
    # 繪製K的個數與輪廓係數的關係
    plt.plot(K, S, 'b*-')
    plt.xlabel('簇的個數')
    plt.ylabel('輪廓係數')
    # 顯示圖形
    plt.show()
    
# 聚類個數的探索
k_silhouette(X, clusters = 10)

# 利用Kmeans聚類
kmeans = cluster.KMeans(n_clusters = 3)
# 模型擬合
kmeans.fit(X)
Province['kmeans_label'] = kmeans.labels_
# 繪製Kmeans聚類的效果散點圖
sns.lmplot(x = 'Birth_Rate', y = 'Death_Rate', hue = 'kmeans_label', data = Province,
           markers = ['d','^','o'], fit_reg = False, legend = False)
# 新增軸標籤
plt.xlabel('Birth_Rate')
plt.ylabel('Death_Rate')
plt.show()