聚類--K均值算法
阿新 • • 發佈:2018-10-28
return turn itl 所在 size load 顯示 ict .data
聚類--K均值算法:自主實現與sklearn.cluster.KMeans調用
1.用python實現K均值算法
K-means是一個反復叠代的過程,算法分為四個步驟:(x,k,y)
import numpy as np x = np.random.randint(1,50,[20,1]) y = np.zeros(20) k = 3
# 選取數據空間中的K個對象作為初始中心,每個對象代表一個聚類中心;def initcenter(x, k): kc def initcenter(x,k): return x[:k] kc = initcenter(x,k) kc # 對於樣本中的數據對象,根據它們與這些聚類中心的歐氏距離,#按距離最近的準則將它們分到距離它們最近的聚類中心(最相似)所對應的類 ; def nearest(kc,i): d=(abs(kc-i)) w=np.where(d==np.min(d)) return w[0][0] kc = initcenter(x,k) def nearest(kc,i): d=(abs(kc-i)) w=np.where(d==np.min(d)) return w[0][0] kc = initcenter(x,k) nearest(kc,93) def xclassify(x,y,kc): for i inrange(x.shape[0]): y[i] = nearest(kc,x[i]) return y kc = initcenter(x,k) y = xclassify(x,y,kc) print(kc,y) #更新聚類中心:將每個類別中所有對象所對應的均值作為該類別的聚類中心,計算目標函數的值; def kcmean(x,y,kc,k): l = list(kc) flag = False for c in range(k): m = np.where(y == c) n = np.mean(x[m])if l[c] != n: l[c] = n flag = True print(l,flag) return (np.array(l),flag) kc = initcenter(x,k) flag = True k = 3 #判斷聚類中心和目標函數的值是否發生改變,若不變,則輸出結果,若改變,則返回2)。 while flag: y = xclassify(x,y,kc) kc,flag = kcmean(x,y,kc,k)
結果:
2. 鳶尾花花瓣長度數據做聚類並用散點圖顯示。
import numpy as np from sklearn.datasets import load_iris iris = load_iris() x = iris.data[:,2] y = np.zeros(150) def initcenter(x,k): #初始聚類中心數組 return x[:k] def nearest(kc,i): #數組中的值,與聚類中心最小距離所在類別的索引號 d = (abs(kc-i)) w = np.where(d == np.min(d)) return w[0][0] def xclassify(x,y,kc): for i in range(x.shape[0]): #對數組的每個值進行分類,shape[0]讀取矩陣第一維度的長度 y[i] = nearest(kc,x[i]) return y def kcmean(x,y,kc,k): #計算各聚類新均值 l = list(kc) flag = False for c in range(k): print(c) m = np.where(y == c) if len(m) == 1: n = x[c] else: n=np.mean(x[m]) if l[c] != n: l[c] = n flag = True #聚類中心發生變化 print(l,flag) return (np.array(l),flag) k = 3 kc = initcenter(x,k) flag = True print(x,y,kc,flag) #判斷聚類中心和目標函數的值是否發生改變,若不變,則輸出結果,若改變,則返回2 while flag: y = xclassify(x,y,kc) kc, flag = kcmean(x,y,kc,k) print(y,kc,type(kc)) print(x,y) import matplotlib.pyplot as plt plt.scatter(x,x,c=y,s=50,cmap="Paired"); plt.show()
結果:
3. 用sklearn.cluster.KMeans,鳶尾花花瓣長度數據做聚類並用散點圖顯示.
#用sklearn.cluster.KMeans,鳶尾花花瓣長度數據做聚類並用散點圖顯示,鳶尾花完整數據做聚類並用散點圖顯示。 from sklearn.cluster import KMeans import numpy as np from sklearn.datasets import load_iris import matplotlib.pyplot as plt data = load_iris() iris = data.data petal_len = iris[:,2:3] print(petal_len) k_means = KMeans(n_clusters=3) #三個聚類中心 result = k_means.fit(petal_len) #Kmeans自動分類 kc = result.cluster_centers_ #自動分類後的聚類中心 y_means = k_means.predict(petal_len) #預測Y值 plt.scatter(petal_len,np.linspace(1,150,150),c=y_means,marker=‘x‘) plt.show()
結果:
4. 鳶尾花完整數據做聚類並用散點圖顯示.
from sklearn.cluster import KMeans import numpy as np from sklearn.datasets import load_iris import matplotlib.pyplot as plt data = load_iris() iris = data.data petal_len = iris print(petal_len) k_means = KMeans(n_clusters=3) #三個聚類中心 result = k_means.fit(petal_len) #Kmeans自動分類 kc = result.cluster_centers_ #自動分類後的聚類中心 y_means = k_means.predict(petal_len) #預測Y值 plt.scatter(petal_len[:,0],petal_len[:,2],c=y_means,marker=‘x‘) plt.show()
結果:
聚類--K均值算法