《kmeans算法讲解》由会员分享，可在线阅读，更多相关《kmeans算法讲解（18页珍藏版）》请在金锄头文库上搜索。
1、K-means K-means 算法算法 主要内容：主要内容： K-means算法的缺陷及改进 数据挖掘简介 数据挖掘的任务简介 聚类算法简介 K-means算法简介 什么是数据挖掘？ 定义： 数据挖掘就是从大量的、不完全的、有 噪声的、模糊的、随机的实际应用数据中 ，提取隐含在其中、人们事先不知道的、 但又潜在有用的信息和知识的过程。 数据挖掘的主要任务 分类 （Classification） 预测（Prediction） 聚类（Clustering） 关联规则(Association) 偏差检测（Deviation detection ） l分类：指将数据映射到预先定义好的群组或类。1.从
2、数据 中选出已经分好类的训练集，在该训练集上运用数据挖掘分 类的技术，建立分类模型，2.对于测试数据进行分类。 l预测：预测是通过分类或估值起作用的，也就是说，通过 分类或估值得出模型，该模型用于对未知变量的预言。 l聚类：在没有给定划分类的情况下，根据信息相似度将信 息分组。是一种无指导的学习。 l关联规则：揭示数据之间的相互关系，而这种关系没有在 数据中直接表现出来。 l偏差检测： 用于发现与正常情况不同的异常和变化。并分 析这种变化是有意的欺诈行为还是正常的变化。如果是异常 行为就采取预防措施。 聚类算法简介聚类算法简介 1 2 3 聚类的目标：将一组数据分成若干组，组内数据是相似的，
3、而组间数据是有较明显差异。 与分类区别：分类与聚类最大的区别在于分类的目标事先已 知，聚类也被称为无监督机器学习 聚类手段：传统聚类算法 划分法 层次方法 基于密度 方法 基于网络方法 基于模型方法 什么是什么是KmeansKmeans算法？算法？ Q1：K是什么？A1：k是聚类算法当中类的个数。 Summary：Kmeans是用均值算法把数 据分成K个类的算法！ Q2：means是什么？A2：means是均值算法。 KmeansKmeans算法详解（算法详解（1 1） 步骤一：取得k个初始中心点 KmeansKmeans算法详解（算法详解（2 2） Min of three due to t
4、he EuclidDistance 步骤二：把每个点划分进相应的簇 KmeansKmeans算法详解（算法详解（3 3） Min of three due to the EuclidDistance 步骤三：重新计算中心点 KmeansKmeans算法详解（算法详解（4 4） 步骤四：迭代计算中心点 KmeansKmeans算法详解（算法详解（5 5） 步骤五：收敛 KmeansKmeans算法流程算法流程 1.从数据中随机抽取k个点作 为初始聚类的中心，由这个中 心代表各个聚类 2.计算数据中所有的点到这k 个点的距离，将点归到离其最 近的聚类里 3.调整聚类中心，即将聚类的 中心移动到聚类
5、的几何中心（ 即平均值）处，也就是k- means中的mean的含义 4.重复第2、3步直到聚类的中 心不再移动，此时算法收敛 决定性因素决定性因素 Input & centroids Selected k MaxIterations & Convergence Meassures 数据的采集和抽象 初始的中心选择 最大迭代次数 收敛值 k值的选定 度量距离的手段 factors ？ 主要因素主要因素 初始中 心点 输入的数 据及K值 的选择 距离度 量 主要三个方面因素。 初始中心点的划分初始中心点的划分 讨论初始中心点意义何在？下面的例子一目了然吧？ 初始中心点收敛后 改进的算法改进的算法二分二分 KmeansKmeans算法算法 为了克服k均值算法收敛于局部的问题，提出了二分k 均值算法。该算法首先将所有的点作为一个簇，然后 将该簇一分为二。之后选择其中一个簇继续划分，选 择哪个簇进行划分取决于对其划分是否可以最大程度 降低SSE值。 伪代码如下： 将所有的点看成一个簇 Repeat 从簇表中取出一个簇 （对选定的簇进行多次二分实验） for i=1 to实验次数 do 试用基本K均值（k=2），二分选定的簇 end for 从实验中选取总SSE最小的两个簇添加到簇表中 Until 簇表中包含K个簇
