K-Means算法实验报告

题目：K-Means聚类算法分析与实现学院xxxxxxxxxxxxxxxxxxxx专业xxxxxxxxxxxxxxxx学号xxxxxxxxxxx姓名xxxx指导教师xxxx20xx年x月xx日装订线K-Means聚类算法KMeans算法的基本思想是初始随机给定K个簇中心，按照最邻近原则把待分类样本点分到各个簇。然后按平均法重新计算各个簇的质心，从而确定新的簇心。一直迭代，直到簇心的移动距离小于某个给定的值。K-Means聚类算法主要分为三个步骤：(1)第一步是为待聚类的点寻找聚类中心(2)第二步是计算每个点到聚类中心的距离，将每个点聚类到离该点最近的聚类中去(3)第三步是计算每个聚类中所有点的坐标平均值，并将这个平均值作为新的聚类中心反复执行(2)、(3)，直到聚类中心不再进行大范围移动或者聚类次数达到要求为止下图展示了对n个样本点进行K-means聚类的效果，这里k取2：(a)未聚类的初始点集(b)随机选取两个点作为聚类中心(c)计算每个点到聚类中心的距离，并聚类到离该点最近的聚类中去(d)计算每个聚类中所有点的坐标平均值，并将这个平均值作为新的聚类中心(e)重复(c),计算每个点到聚类中心的距离，并聚类到离该点最近的聚类中去(f)重复(d),计算每个聚类中所有点的坐标平均值，并将这个平均值作为新的聚类中心Matlab实现：%随机获取150个点X=[randn(50,2)+ones(50,2);randn(50,2)-ones(50,2);randn(50,2)+[ones(50,1),-ones(50,1)]];opts=statset('Display','final');%调用Kmeans函数%XN*P的数据矩阵%IdxN*1的向量,存储的是每个点的聚类标号%CtrsK*P的矩阵,存储的是K个聚类质心位置%SumD1*K的和向量,存储的是类间所有点与该类质心点距离之和%DN*K的矩阵，存储的是每个点与所有质心的距离;[Idx,Ctrs,SumD,D]=kmeans(X,3,'Replicates',3,'Options',opts);%画出聚类为1的点。X(Idx==1,1),为第一类的样本的第一个坐标；X(Idx==1,2)为第二类的样本的第二个坐标plot(X(Idx==1,1),X(Idx==1,2),'r.','MarkerSize',14)holdonplot(X(Idx==2,1),X(Idx==2,2),'b.','MarkerSize',14)holdonplot(X(Idx==3,1),X(Idx==3,2),'g.','MarkerSize',14)%绘出聚类中心点,kx表示是圆形plot(Ctrs(:,1),Ctrs(:,2),'kx','MarkerSize',14,'LineWidth',4)plot(Ctrs(:,1),Ctrs(:,2),'kx','MarkerSize',14,'LineWidth',4)plot(Ctrs(:,1),Ctrs(:,2),'kx','MarkerSize',14,'LineWidth',4)legend('Cluster1','Cluster2','Cluster3','Centroids','Location','NW')CtrsSumD执行结果：Kmeans6iterations,totalsumofdistances=204.82110iterations,totalsumofdistances=205.88616iterations,totalsumofdistances=204.8219iterations,totalsumofdistances=205.886........9iterations,totalsumofdistances=205.8868iterations,totalsumofdistances=204.8218iterations,totalsumofdistances=204.82114iterations,totalsumofdistances=205.88614iterations,totalsumofdistances=205.8866iterations,totalsumofdistances=204.821Ctrs=1.0754-1.06321.04821.3902-1.1442-1.1121SumD=64.294463.593976.9329聚类效果：