1.K-means是一個反復叠代的過程，算法分為四個步驟：

（1）選取數據空間中的K個對象作為初始中心，每個對象代表一個聚類中心；

（2）對於樣本中的數據對象，根據它們與這些聚類中心的歐氏距離，按距離最近的準則將它們分到距離它們最近的聚類中心（最相似）所對應的類；

（3）更新聚類中心：將每個類別中所有對象所對應的均值作為該類別的聚類中心，計算目標函數的值；

（4）判斷聚類中心和目標函數的值是否發生改變，若不變，則輸出結果，若改變，則返回2）。

import numpy as np
x=np.random.randint(1,100,[20,1])
y=np.zeros(20)
k=3

#初始聚類中心數組
 

def initcenter(x,k):
    return x[:k].reshape(k)
#數組中的值，與聚類中心最新距離所在類別的索引號
def nearest(kc,i):
    d = (abs(kc - i))
    w = np.where(d == np.min(d))       
    return w[0][0]
#對數組的每個組分類
def xclassify(x,y,kc):
    for i in range(x.shape[0]):
        y[i]=nearest(kc,x[i])
    return y
kc=initcenter(x,k)
y
 
=xclassify(x,y,kc)
print(kc,y)
#計算各聚類新均值
def kcmean(x,y,kc,k):    
    l = list(kc)
    flag = False
    for c in range(k):
        m = np.where(y == c)
        n=np.mean(x[m])
        if m[0].shape != (0,):
            n = np.mean(x[m])
        if l[c] != n:
            l[c] = n
            flag = True     
        
 
return (np.array(l),flag)

k = 3
kc = initcenter(x,k)
flag = True 
print(x,y,kc,flag)
while flag:
    y = xclassify(x,y,kc)
    kc,flag = kcmean(x, y, kc, k)
print(y,kc)
print(x,y)     

運行結果如下：

2. 鳶尾花花瓣長度數據做聚類並用散點圖顯示。

#加載numpy包
import numpy as np
#加載sklearn包
from sklearn.datasets import load_iris 
#讀出鳶尾花數據集iris
iris=load_iris()

x=iris.data[:,1]
y=np.zeros(150)
#初始聚類中心數組
def initcenter(x,k):
    return x[0:k].reshape(k)
#數組中的值，與聚類中心最新距離所在類別的索引號
def nearest(kc,i):
    d = (abs(kc - i))
    w=np.where(d==np.min(d))
    return w[0][0]
#計算各聚類新均值
def kcmean(x, y, kc, k):  
    l = list(kc)
    flag = False
    for c in range(k):
        m = np.where(y == c)
        n = np.mean(x[m])
        if l[c] != n:
            l[c] = n
            flag = True  
    return (np.array(l), flag)
#對數組的每個組分類
def xclassify(x,y,kc):
    for i in range(x.shape[0]):
        y[i]=nearest(kc,x[i])
    return y

k = 3
kc = initcenter(x, k)
flag = True
print(x, y, kc, flag)
while flag:
    y = xclassify(x, y, kc)
    kc, flag = kcmean(x, y, kc, k)
print(y, kc, type(kc))

import matplotlib.pyplot as plt
plt.scatter(x,x,c=y,s=50,cmap=‘rainbow‘,marker=‘p‘,alpha=0.5)
plt.show()

運行結果如下：

3. 用sklearn.cluster.KMeans，鳶尾花花瓣長度數據做聚類並用散點圖顯示.

import numpy as np
from sklearn.cluster import KMeans
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt

iris= load_iris()
x=iris.data

petal_length = x[:, 2:3]
 
print(petal_length)
est = KMeans(n_clusters=3)
est.fit(petal_length)
kc = est.cluster_centers_
y_kmeans = est.predict(petal_length)

print(y_kmeans,kc)
print(kc.shape,y_kmeans.shape,np.shape)
plt.scatter(petal_length,np.linspace(1,150,150),c=y_kmeans,marker=‘o‘,cmap=‘rainbow‘)
plt.show()

運行結果如下：

4. 鳶尾花完整數據做聚類並用散點圖顯示。

import matplotlib.pyplot as plt
import numpy as np
from sklearn.datasets import load_iris
from sklearn.cluster import KMeans

iris=load_iris()
x=iris.data

est = KMeans(n_clusters = 3)
est.fit(x)
kc = est.cluster_centers_
y_kmeans = est.predict(x)  

print(y_kmeans,kc)
print(kc.shape,y_kmeans.shape,np.shape)

plt.scatter(x[:,0],x[:,1],c=y_kmeans,s=50,cmap=‘rainbow‘);
plt.show()

運行結果如下：

聚類--K均值算法：自主實現與sklearn.cluster.KMeans調用