《MATLAB的统计工具箱中的多元统计分析中提供了聚类分析的两种方法》由会员分享，可在线阅读，更多相关《MATLAB的统计工具箱中的多元统计分析中提供了聚类分析的两种方法（5页珍藏版）》请在金锄头文库上搜索。
1、MATLAB 的统计工具箱中的多元统计分析中提供了聚类分析的两种方法：1.层次聚类 hierarchical clustering2.k-means 聚类这里用最简单的实例说明以下层次聚类原理和应用发法。层次聚类是基于距离的聚类方法，MATLAB 中通过 pdist、linkage、dendrogram、cluster 等函数来完成。层次聚类的过程可以分这么几步：(1) 确定对象（实际上就是数据集中的每个数据点）之间的相似性，实际上就是定义一个表征对象之间差异的距离，例如最简单的平面上点的聚类中，最经常使用的就是欧几里得距离。这在 MATLAB 中可以通过 Y=pdist（X）实现，例如 X=
2、randn(6,2)X =-0.4326 1.1892-1.6656 -0.03760.1253 0.32730.2877 0.1746-1.1465 -0.18671.1909 0.7258 plot(X(:,1),X(:,2),bo) %给个图，将来对照聚类结果把 Y=pdist(X)Y =Columns 1 through 141.7394 1.0267 1.2442 1.5501 1.6883 1.8277 1.9648 0.5401 2.9568 0.2228 1.3717 1.1377 1.4790 1.0581Column 152.5092例子中 X 数据集可以看作包含 6 个平
3、面数据点，pdist 之后的 Y 是一个行向量，15 个元素分别代表 X的第 1 点与 2-6 点、第 2 点与 3-6 点,.这样的距离。那么对于 M 个点的数据集 X，pdist 之后的 Y将是具有 M*(M-1)/2 个元素的行向量。Y 这样的显示虽然节省了内存空间，但对用户来说不是很易懂，如果需要对这些距离进行特定操作的话，也不太好索引。MATLAB 中可以用 squareform 把 Y 转换成方阵形式，方阵中位置的数值就是 X 中第 i 和第 j 点之间的距离，显然这个方阵应该是个对角元素为 0 的对称阵。 squareform(Y)ans =0 1.7394 1.0267 1.2
4、442 1.5501 1.68831.7394 0 1.8277 1.9648 0.5401 2.95681.0267 1.8277 0 0.2228 1.3717 1.13771.2442 1.9648 0.2228 0 1.4790 1.05811.5501 0.5401 1.3717 1.4790 0 2.50921.6883 2.9568 1.1377 1.0581 2.5092 0这里需要注意的是，pdist 可以使用多种参数，指定不同的距离算法。help pdist 把。另外，当数据规模很大时，可以想象 pdist 产生的 Y 占用内存将是很吓人的，比如 X 有 10k 个数据点，
5、那么 X 占 10k*8*2Bytes=160K，这看起来不算啥，但是 pdist 后的 Y 会有 10k*10k/2*8Bytes=400M。怕了把，所以，废话说在前面，用 MATLAB 的层次聚类来处理大规模数据，大概是很不合适的。(2) 确定好了对象间的差异度（距离）后，就可以用 Z=linkage(Y)来产生层次聚类树了。 Z=linkage(Y)Z =3.0000 4.0000 0.22282.0000 5.0000 0.54011.0000 7.0000 1.02676.0000 9.0000 1.05818.0000 10.0000 1.3717对于 M 个元素的 X，前面说了
6、Y 是 1 行 M*(M-1)/2 的行向量，Z 则是(M-1)*3 的矩阵。Z 数组的前两列是索引下标列，最后一列是距离列。例如上例中表示在产生聚类树的计算过程中，第 3 和第 4 点先聚成一类，他们之间的距离是 0.2228，以此类推。要注意的是，为了标记每一个节点，需要给新产生的聚类也安排一个标识，MATLAB 中会将新产生的聚类依次用 M+1,M+2,.依次来标识。比如第 3 和第 4 点聚成的类以后就用 7 来标识，第 2 和第 5 点聚成的类用 8 来标识，依次类推。通过 linkage 函数计算之后，实际上二叉树式的聚类已经完成了。Z 这个数据数组不太好看，可以用 dendrog
7、ram(Z)来可视化聚类树。可以看到，产生的聚类树的每一层都是一个倒置的 U 型（或者说是个 n 型，），纵轴高度代表了当前聚类中两个子节点之间的距离。横轴上标记出了各个数据点索引下标。稍微注意以下的是，dendrogram 默认最多画 30 个最底层节点，当然可是设置参数改变这个限制，比如 dendrogram(Z,0)就会把所有数据点索引下标都标出来，但对于成千上万的数据集合，这样的结果必然是图形下方非常拥挤。看你的应用目的了，随你玩(3)初步的聚类树画完后，还要做很多后期工作的，包括这样的聚类是不是可靠，是不是代表了实际的对象分化模式，对于具体的应用，应该怎样认识这个完全版的聚类树，产生
8、具有较少分叉的可供决策参考的分类结果呢？这都是需要考虑的。MATLAB 中提供了 cluster, clusterdata, cophenet, inconsistent 等相关函数。cluster 用于剪裁完全版的聚类树，产生具有一定 cutoff 的可用于参考的树。clusterdata 可以认为是 pdist,linkage,cluster 的综合，当然更简易一点。cophenet 和 inconsistent 用来计算某些系数，前者用于检验一定算法下产生的二叉聚类树和实际情况的相符程度（就是检测二叉聚类树中各元素间的距离和 pdist 计算产生的实际的距离之间有多大的相关性），inco
9、nsistent 则是量化某个层次的聚类上的节点间的差异性（可用于作为cluster 的剪裁标准）。后面这些的理解，大概需要对聚类有一个更深刻更数学的认识，我也不是很清楚，就不多说了。from http:/ 提供了两种方法进行聚类分析：1、利用 clusterdata 函数对数据样本进行一次聚类，这个方法简洁方便，其特点是使用范围较窄，不能由用户根据自身需要来设定参数，更改距离计算方法；2、分步聚类：（1）用 pdist 函数计算变量之间的距离，找到数据集合中两辆变量之间的相似性和非相似性；（2）用 linkage 函数定义变量之间的连接；（3）用 cophenetic 函数评价聚类信息；（4
10、）用 cluster 函数进行聚类。下边详细介绍两种方法:1、一次聚类Clusterdata 函数可以视为 pdist、linkage 与 cluster 的综合，一般比较简单。【clusterdata 函数：调用格式：T=clusterdata(X,cutoff) 等价于 Y=pdist(X,euclid); Z=linkage(Y,single); T=cluster(Z,cutoff) 】2、分步聚类（1）求出变量之间的相似性用 pdist 函数计算出相似矩阵，有多种方法可以求距离，若此前数据还未无量纲化，则可用 zscore 函数对其标准化【pdist 函数：调用格式：Y=pdist(
11、X,metric)说明：X 是 M*N 矩阵，为由 M 个样本组成，每个样本有 N 个字段的数据集metirc 取值为：euclidean：欧氏距离（默认）seuclidean：标准化欧氏距离;mahalanobis：马氏距离 】pdist 生成一个 M*(M-1)/2 个元素的行向量，分别表示 M 个样本两两间的距离。这样可以缩小保存空间，不过，对于读者来说却是不好操作，因此，若想简单直观的表示，可以用 squareform 函数将其转化为方阵，其中 x(i,j)表示第 i 个样本与第 j 个样本之的距离，对角线均为 0.（2）用 linkage 函数来产生聚类树【linkage 函数：调用
12、格式：Z=linkage(Y,method)说明：Y 为 pdist 函数返回的 M*(M-1)/2 个元素的行向量，method 可取值：single：最短距离法（默认）；complete：最长距离法；average：未加权平均距离法；weighted:加权平均法centroid： 质心距离法； median：加权质心距离法；ward：内平方距离法（最小方差算法）】返回的 Z 为一个(M-1)*3 的矩阵，其中前两列为索引标识，表示哪两个序号的样本可以聚为同一类，第三列为这两个样本之间的距离。另外，除了 M 个样本以外，对于每次新产生的类，依次用M+1、M+2、来标识。为了表示 Z 矩阵，我
13、们可以用更直观的聚类数来展示，方法为：dendrogram(Z), 产生的聚类数是一个 n 型树，最下边表示样本，然后一级一级往上聚类，最终成为最顶端的一类。纵轴高度代表距离列。另外，还可以设置聚类数最下端的样本数，默认为 30，可以根据修改 dendrogram(Z,n)参数 n 来实现，1nM。dendrogram(Z,0)则表 n=M 的情况，显示所有叶节点。（3）用 cophenetic 函数评价聚类信息【cophenet 函数: 调用格式：c=cophenetic(Z,Y)说明：利用 pdist 函数生成的 Y 和 linkage 函数生成的 Z 计算 cophenet 相关系数。】cophene 检验一定算法下产生的二叉聚类树和实际情况的相符程度,就是检测二叉聚类树中各元素间的距离和 pdist 计算产生的实际的距离之间有多大的相关性，另外也可以用 inconsistent 表示量化某个层次的聚类上的节点间的差异性。（4）最后，用 cluster 进行聚类，返回聚类列。
