《应用多元统计分析聚类分析》由会员分享，可在线阅读，更多相关《应用多元统计分析聚类分析（55页珍藏版）》请在金锄头文库上搜索。
1、第五章 聚类分析 第一节 引言 第二节 相似性的量度 第三节 系统聚类分析法 第四节 K均值聚类分析 第一节 引言 n “物以类聚，人以群分”。对事物进行分类，是人们认识事物 的出发点，也是人们认识世界的一种重要方法。因此，分类 学已成为人们认识世界的一门基础科学。 n在生物、经济、社会、人口等领域的研究中，存在着大量量 化分类研究。例如：在生物学中，为了研究生物的演变，生 物学家需要根据各种生物不同的特征对生物进行分类。在经 济研究中，为了研究不同地区城镇居民生活中的收入和消费 情况，往往需要划分不同的类型去研究。在地质学中，为了 研究矿物勘探，需要根据各种矿石的化学和物理性质和所含 化学成
2、分把它们归于不同的矿石类。在人口学研究中，需要 构造人口生育分类模式、人口死亡分类状况，以此来研究人 口的生育和死亡规律。 n但历史上这些分类方法多半是人们主要依靠经验作定性分类 ，致使许多分类带有主观性和任意性，不能很好地揭示客观 事物内在的本质差别与联系；特别是对于多因素、多指标的 分类问题，定性分类的准确性不好把握。为了克服定性分类 存在的不足，人们把数学方法引入分类中，形成了数值分类 学。后来随着多元统计分析的发展，从数值分类学中逐渐分 离出了聚类分析方法。随着计算机技术的不断发展，利用数 学方法研究分类不仅非常必要而且完全可能，因此近年来， 聚类分析的理论和应用得到了迅速的发展。 n
3、聚类分析就是分析如何对样品（或变量）进行量化分类的问 题。通常聚类分析分为Q型聚类和R型聚类。Q型聚类是对样 品进行分类处理，R型聚类是对变量进行分类处理。 第二节 相似性的量度 一 样品相似性的度量 二 变量相似性的度量 一、样品相似性的度量 n在聚类之前，要首先分析样品间的相似性。Q型聚类分析， 常用距离来测度样品之间的相似程度。每个样品有p个指标 （变量）从不同方面描述其性质，形成一个p维的向量。如 果把n个样品看成p维空间中的n个点，则两个样品间相似程 度就可用p维空间中的两点距离公式来度量。两点距离公式 可以从不同角度进行定义，令dij 表示样品Xi与Xj的距离，存 在以下的距离公式
4、： 1明考夫斯基距离 (5.1) 明考夫斯基距离简称明氏距离，按的取值不同又可分成： n欧氏距离是常用的距离，大家都比较熟悉，但是前面已经提 到，在解决多元数据的分析问题时，欧氏距离就显示出了它 的不足之处。一是它没有考虑到总体的变异对“距离”远近的 影响，显然一个变异程度大的总体可能与更多样品近些，既 使它们的欧氏距离不一定最近；另外，欧氏距离受变量的量 纲影响，这对多元数据的处理是不利的。为了克服这方面的 不足，可用“马氏距离”的概念。 2马氏距离 设Xi与Xj是来自均值向量为 ，协方差为 =（0）的总体 G中的p维样品，则两个样品间的马氏距离为 (5.5) 马氏距离又称为广义欧氏距离。显
5、然，马氏距离与上述各种 距离的主要不同就是它考虑了观测变量之间的相关性。如果 各变量之间相互独立，即观测变量的协方差矩阵是对角矩阵 ，则马氏距离就退化为用各个观测指标的标准差的倒数作为 权数的加权欧氏距离。马氏距离还考虑了观测变量之间的变 异性，不再受各指标量纲的影响。将原始数据作线性变换后 ，马氏距离不变。 3兰氏距离 (5.6) 它仅适用于一切Xij0的情况，这个距离也可以克服各个指标 之间量纲的影响。这是一个自身标准化的量，由于它对大的 奇异值不敏感，它特别适合于高度偏倚的数据。虽然这个距 离有助于克服明氏距离的第一个缺点，但它也没有考虑指标 之间的相关性。 4距离选择的原则 n 一般说
6、来，同一批数据采用不同的距离公式，会得到不同的 分类结果。产生不同结果的原因，主要是由于不同的距离公 式的侧重点和实际意义都有不同。因此我们在进行聚类分析 时，应注意距离公式的选择。通常选择距离公式应注意遵循 以下的基本原则： （1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏 距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作 用。 （2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方 法。如在进行聚类分析之前已经对变量作了标准化处理，则通常就 可采用欧氏距离。 （3）要考虑研究对象的特点和计算量的大小。样品间距离公式的选 择是一个比较复杂且带有一定主观性的问题，我
7、们应根据研究对象 的特点不同做出具体分折。实际中，聚类分析前不妨试探性地多选 择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分 析，以确定最合适的距离测度方法。 二、变量相似性的度量 n 多元数据中的变量表现为向量形式，在几何上可用多维空间 中的一个有向线段表示。在对多元数据进行分析时，相对于 数据的大小，我们更多地对变量的变化趋势或方向感兴趣。 因此，变量间的相似性，我们可以从它们的方向趋同性或“ 相关性”进行考察，从而得到“夹角余弦法”和“相关系数”两 种度量方法。 1、夹角余弦 两变量Xi与Xj看作p维空间的两个向量，这两个向量间的夹角 余弦可用下式进行计算 (5.7) 显然，
8、cos ij 1。 2相关系数 相关系数经常用来度量变量间的相似性。变量Xi与Xj的相关 系数定义为 (5.8) 显然也有，rij 1。 n无论是夹角余弦还是相关系数，它们的绝对值都小于1，作 为变量近似性的度量工具，我们把它们统记为cij。当cij = 1时，说明变量Xi与Xj完全相似；当cij近似于1时，说 明变量Xi与Xj非常密切；当cij = 0时，说明变量Xi与Xj完 全不一样；当cij近似于0时，说明变量Xi与Xj差别很大。 据此，我们把比较相似的变量聚为一类，把不太相似的变量 归到不同的类内。 n在实际聚类过程中，为了计算方便，我们把变量间相似性的 度量公式作一个变换为 dij
9、= 1 cij (5.9) 或者 dij2 = 1 cij2 (5.10) 用表示变量间的距离远近，小则与先聚成一类，这比较符合 人们的一般思维习惯。 第三节 系统聚类分析法 一 系统聚类的基本思想 二 类间距离与系统聚类法 三 类间距离的统一性 一、系统聚类的基本思想 n系统聚类的基本思想是：距离相近的样品（或变量）先聚成 类，距离相远的后聚成类，过程一直进行下去，每个样品（ 或变量）总能聚到合适的类中。系统聚类过程是：假设总共 有n个样品（或变量），第一步将每个样品（或变量）独自 聚成一类，共有n类；第二步根据所确定的样品（或变量）“ 距离”公式，把距离较近的两个样品（或变量）聚合为一类
10、，其它的样品（或变量）仍各自聚为一类，共聚成n 1类； 第三步将“距离”最近的两个类进一步聚成一类，共聚成n 2 类；，以上步骤一直进行下去，最后将所有的样品（或 变量）全聚成一类。为了直观地反映以上的系统聚类过程， 可以把整个分类系统画成一张谱系图。所以有时系统聚类也 称为谱系分析。除系统聚类法外，还有有序聚类法、动态聚 类法、图论聚类法、模糊聚类法等，限于篇幅，我们只介绍 系统聚类方法。 二、类间距离与系统聚类法 n在进行系统聚类之前，我们首先要定义类与类之间的距离， 由类间距离定义的不同产生了不同的系统聚类法。常用的类 间距离定义有8种之多，与之相应的系统聚类法也有8种，分 别为最短距离
11、法、最长距离法、中间距离法、重心法、类平 均法、可变类平均法、可变法和离差平方和法。它们的归类 步骤基本上是一致的，主要差异是类间距离的计算方法不同 。以下用dij表示样品Xi与Xj之间距离，用Dij表示类Gi与Gj 之间的距离。 1. 最短距离法 定义类与之间的距离为两类最近样品的距离，即为 (5.11) 设类与合并成一个新类记为，则任一类与的距离为 (5.12) n最短距离法进行聚类分析的步骤如下： （1）定义样品之间距离，计算样品的两两距离，得一距离 阵记为D（0） ，开始每个样品自成一类，显然这时Dij = dij。 （2）找出距离最小元素，设为Dpq，则将Gp和Gq合并成一个 新类，
12、记为Gr，即Gr = Gp，Gq。 （3）按（5.12）计算新类与其它类的距离。 （4）重复（2）、（3）两步，直到所有元素。并成一类为 止。如果某一步距离最小的元素不止一个，则对应这些 最小元素的类可以同时合并。 n【例5.1】设有六个样品，每个只测量一个指标，分别是1，2 ，5，7，9，10，试用最短距离法将它们分类。 （1）样品采用绝对值距离，计算样品间的距离阵D（0） ，见 表5.1 表5.1 （2）D（0）中最小的元素是D12D561，于是将G1和G2合 并成G7，G5和G6合并成G8，并利用（5.12）式计算新类与其 它类的距离D（1） ，见表5.2 表5.2 （3）在D（1）中最
13、小值是D34D482，由于G4与G3合并， 又与G8合并，因此G3、G4、G8合并成一个新类G9，其与其 它类的距离D（2） ，见表5.3 表5.3 （4）最后将G7和G9合并成G10，这时所有的六个样品聚为一 类，其过程终止。 上述聚类的可视化过程见图5.1所示，横坐标的刻度表示并类 的距离。这里我们应该注意，聚类的个数要以实际情况所定 ，其详细内容将在后面讨论。 图5.1 最短距离聚类法的过程 n再找距离最小两类并类，直至所有的样品全归为一类为止。 可以看出最长距离法与最短距离法只有两点不同： 一是类与类之间的距离定义不同； 另一是计算新类与其它类的距离所用的公式不同。 3. 中间距离法
14、最短、最长距离定义表示都是极端情况，我们定义类间距离 可以既不采用两类之间最近的距离也不采用两类之间最远的 距离，而是采用介于两者之间的距离，称为中间距离法。 中间距离将类Gp与Gq类合并为类Gr，则任意的类Gk和Gr的距 离公式为 (14 0) (5.15) 设DkqDkp，如果采用最短距离法，则Dkr = Dkp，如果采用 最长距离法，则Dkr = Dkq。如图5.2所示，(5.15)式就是取它 们（最长距离与最短距离）的中间一点作为计算Dkr的根据 。 n特别当 = 14，它表示取中间点算距离，公式为 (5.16) 图5.2 中间距离法 n n n n【例5.2】针对例5.1的数据，试用
15、重心法将它们聚类。 （1）样品采用欧氏距离，计算样品间的平方距离阵D2（0），见 表5.4所示。 表5.4 （2）D2（0）中最小的元素是D212D2561，于是将G1和G2合 并成G7，G5和G6合并成G8，并利用（5.18）式计算新类与 其它类的距离得到距离阵D2（1） ，见表5.5： 其中， 其它结果类似可以求得 （3）在D2（1）中最小值是D2344，那么G3与G4合并一个新 类G9，其与与其它类的距离D2（2） ，见表5.6： 表5.6 （4）在中最小值是12.5，那么与合并一个新类，其与与 其它类的距离，见表5.7： 表5.7 （5）最后将G7和G10合并成G11，这时所有的六个样
16、品聚为一类 ，其过程终止。 上述重心法聚类的可视化过程见图5.3所示，横坐标的刻度表 示并类的距离。 图5.3 重心聚类法的过程 6. 可变类平均法 由于类平均法中没有反映出Gp和Gq之间的距离Dpq的影响， 因此将类平均法进一步推广，如果将Gp和Gq合并为新类Gr ，类Gk与新并类Gr的距离公式为： （5.22） 其中是可变的且 1，称这种系统聚类法为可变类平均法 。 8. 离差平方和法 该方法是Ward提出来的，所以又称为Ward法。该方法的基 本思想来自于方差分析，如果分类正确，同类样品的离差平 方和应当较小，类与类的离差平方和较大。具体做法是先将 n个样品各自成一类，然后每次缩小一类，每缩小一类，离 差平方和就要增大，选择使方差增加最小的两类合并，直到 所有的样品归为一类为止。 设将n个样品分成k类G1，G2，Gk，用Xit表
