《5.1 距离与相似系数》由会员分享，可在线阅读，更多相关《5.1 距离与相似系数（16页珍藏版）》请在金锄头文库上搜索。
1、NORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案第五章 第一节一、聚类分析的基本思想及意义二、样品间的相似度量三、变量间的相似度量距离与相似系数DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案一、聚类分析的基本思想及意义聚类分析是研究分类问题的多元数据分析方法，是数值分类学的一分支。有广泛的应用背景，如在经济学中，为了了解不同地区城镇居民的收入及消费情况，往往需要划分不同的类型区研究；在产品质量管理中，要根据各产品的某些重要指标而将其分为一等品、二等品等；在生物学中，要根据各生物体的综合特征进行分类；在考古中要将某些古
2、生物化石进行科学的分类，等等。 DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案聚类分析的基本思想是在样品之间定义距离，在变量之间定义相似系数，距离或相似系数代表样品或变量之间的相似程度。按相似程度的大小，将样品(或变量)逐一归类，关系密切的类聚集到一个小的分类单位，然后逐步扩大,使得关系疏远的聚合到一个大的分类单位，直到所有的样品(或变量)都聚集完毕，形成一个表示亲疏关系的谱系图，依次按照某些要求对样品(或变量)进行分类。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案多元数据形成数据矩阵,在这个数据矩阵中,
3、共有n个样品(列向)，p个指标(横向).聚类分析有两种类型：按样品聚类或按变量(指标)聚类。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案聚类分析与判别分析的区别与联系聚类分析一般寻求客观的分类方法。在进行聚类之前，对总体到底有几类类型并不知道（究竟分几类较为合适需从计算中探索调整）。判别分析则是在总体类型划分已知，在各总体分布或来自总体训练样本基础上，对当前的新样本判定它们属于哪个总体。联系:例如当我们对研究的多元数据的特征不悉 , 就要先进行聚类分析,才能考虑判别分析问题.DateNORTH UNIVERSITY OF CHINA第五章 聚类分析
4、数据分析电子教案二、样品间的相似性度量距离设有n个样品的多元观测数据：每个样品可看成p元空间的一个点，n个样品组成p元空间的n个点。我们用各点之间的距离来衡量各种样品之间的相似程度(或靠近程度)。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案设是样品之间的距离，一般要求它满足下列条件：在聚类分析中，有些距离不满足3）,我们在广义的角度上仍称它为距离。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案聚类分析中常用的距离欧式距离令形成一个距离矩阵其中DateNORTH UNIVERSITY OF CHINA第五章
5、 聚类分析数据分析电子教案绝对距离Minkowski距离当时分别是欧式距离、绝对距离。Minkowski距离又称距离， 距离即欧式距离， 距离即绝对距离.Chebyshev距离Chebyshev距离是Minkowski距离当时的极限。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案以上距离与各变量指标的量纲有关，为消除量纲的 影响，有时应先对数据进行标准化，然后用标准化数据 计算距离。标准化数据其中方差加权距离对标准化数据计算欧式距离时，即方差加权距离.DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案马氏距离算
6、得的协方差阵其中S是由样品样品聚类通常称为Q型聚类.在SAS系统中,采用欧式距离聚类或先将数据标准化，再计算欧式距离进行聚类.（实际上就是采用了方差加权距离）DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案三、变量间的相似性度量相似系数当对p个指标变量进行聚类时，用相似系数来衡量变量之间的相似性程度（或关联性程度）。若表示变量之间的相似系数，应满足DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案相关系数由样品算得协方差矩阵S与相关矩阵R。变量与的相关系数为：DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案变量与的相关系数为：夹角余弦DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案变量聚类通常称为R型聚类。在R型聚类中，相似矩阵相似系数矩阵可以是相关矩阵，也可以是夹角余弦矩阵，Spearman相关矩阵。是出发点。DateNORTH UNIVERSITY OF CHINA第五章 聚类分析数据分析电子教案有时变量之间也可以用距离来描述它们的接近程度.距离和相似系数之间可以相互转化。设是一个距离，则是相似系数.若是相似系数，则可令或或Date
