本文共 2231 字，大约阅读时间需要 7 分钟。

0.概述

优点：

原理简单 速度快 能够处理大量的数据

缺点：

需要指定聚类 数量K 对异常值敏感 对初始值敏感

1.无监督学习

在无监督学习中，数据不带任何标签。

能找出数据内在分类规则，并分成独立的点集（蔟），算法称为聚类算法。

2.K均值聚类（K-means）

K-均值是最普及的聚类算法，算法接受一个未标记的数据集，然后将数据聚类成不同的组。

在下图中，可以看到，A，B，C，D，E是五个样本点，而灰色的点是随机点，也就是我们用来找点群的点。有两个种子点，所以K=2。

然后，K-Means的算法如下： 1）随机在图中取K（这里K=2）个种子点。 2）然后对图中的所有点求到这K个种子点的距离，假如点Pi离种子点Si最近，那么Pi属于Si点群。（上图中，我们可以看到A，B属于上面的种子点，C，D，E属于下面中部的种子点） 3）接下来，我们要移动种子点到属于他的“点群”的中心。（见图上的第三步） 4）然后重复第2）和第3）步，直到，种子点没有移动（我们可以看到图中的第四步上面的种子点聚合了A，B，C，下面的种子点聚合了D，E）。

3.随机初始化

在运行 K-均值算法的之前，我们首先要随机初始化所有的聚类中心点，下面介绍怎样做：

（1）我们应该选择 K

4.自问自答

根据K均值聚类算法，问自己几个问题：

1）处理不知道分多少类的数据，如何取K的值？

答：通常是需要根据不同的问题，人工进行选择的。选

择的时候思考我们运用 K-均值算法聚类的动机是什么，然后选择能最好服务于该目的标聚类数。

2）重心初始化什么位置更好？

答：随机选择K个实例的位置作为重心初始位置。

3）这个算法收不收敛，即通过有限次的运算，就能找到“点群”的中心？

答：2，3问题一起回答。最基本的方法是从样本点中随机选取k个点。给定足够的时间，K-means将总是收敛，但这可能是局部最小值。这很大程度上取决于重心的初始化。因此，通常会进行几次计算，重心的初始化不同。帮助解决这个问题的一种方法是k-means ++初始化方案，它已经在scikit-learn中使用（使用init=’kmeans++’参数）。这将初始化质心（通常）彼此远离，导致比随机初始化更好的结果。

4）如何计算重心？

答：除了随机初始化重心之外，后面跟新重心都是依据训练点的。具体计算重心的公式如下图。

5.代码

"""功能：K均值聚类说明：人为设置函数模型为2类作者：唐天泽博客：http://blog.csdn.net/u010837794/article/details/76596063日期：2017-08-04""""""导入项目所需的包"""import pandas as pdimport numpy as npimport matplotlib.pyplot as pltfrom sklearn import datasetsfrom sklearn.cluster import KMeans# 使用交叉验证的方法，把数据集分为训练集合测试集from sklearn.model_selection import train_test_split# 加载数据集def load_data():    iris = datasets.diabetes()    """展示数据集的形状       diabetes.data.shape, diabetes.target.shape    """    # 将数据集拆分为训练集和测试集     X_train, X_test, y_train, y_test = train_test_split(    iris.data, iris.target, test_size=0.10, random_state=0)    return X_train, X_test, y_train, y_test# 使用KMeans考察线性分类KMeans的预测能力def test_KMeans(X_train,X_test,y_train,y_test):    # 选择模型,把数据交给模型训练    y_pred = KMeans(n_clusters=2, random_state=0).fit_predict(X_train)    """绘图"""    fig = plt.figure()    ax = fig.add_subplot(1, 1, 1)    ax.scatter(X_train[:, 2], X_train[:, 3], c=y_pred)    ax.set_xlabel("data")    ax.set_ylabel("target")    ax.set_title("K-means")    ax.legend(framealpha=0.5)    plt.show()    returnif __name__=="__main__":    X_train,X_test,y_train,y_test=load_data() # 生成用于分类的数据集    test_KMeans(X_train,X_test,y_train,y_test) # 调用 test_KMeans

6.参考资料

[1]

[2] [1] 李航 《统计学习方法》 [2] 华校专《Python大战机器学习》