《Fisher最优分割法的结合应用》由会员分享，可在线阅读，更多相关《Fisher最优分割法的结合应用（14页珍藏版）》请在金锄头文库上搜索。
1、主成分分析与 Fisher 最优分割法的结合应用 一.主成分分析计算步骤1.计算相关系数矩阵pppppprrrrrrrrrRLMMMMLL212222111211在上式中，rij（i，j=1，2，p）为原变量的 xi 与 xj 之间的相关系数，其计 算公式为 nknkjkjikinkjkjikiij xxxxxxxx r11221)()()(因为 R 是实对称矩阵（即 rij=rji），所以只需计算上三角元素或下三角元素即 可。2计算特征值与特征向量首先解特征方程，通常用雅可比法（Jacobi）求出特征值0 RI，并使其按大小顺序排列，即；然后分别求出), 2 , 1(piiL0,21pL对应
2、于特征值的特征向量。这里要求=1，即，其中i), 2 , 1(pieiLie112 pjije表示向量的第 j 个分量。ijeie3计算主成分贡献率及累计贡献率主成分的贡献率为iz), 2 , 1(1pipkkiL 累计贡献率为), 2 , 1(11pipkkikk L 一般取累计贡献率达 8595%的特征值所对应的第一、第二，m,21L第 m（mp）个主成分。4 计算主成分载荷其计算公式为), 2 , 1,(),(pjiexzplijijiijL得到各主成分的载荷以后，还可以进一步计算，得到各主成分的得分nmnnmmzzzzzzzzzZLMMMMLL212222111211二Fisher 最
3、优分割法的聚类步骤1.定义类的直径设某一类 G 包含的样品有，记为。该 1,.,iijXXXji,1,.,Gi ij类的均值向量为GX: 1 1jGt t iXXji :用表示这一类的直径，常用的直径有：,D i j ,jGGtt t iD i jXXXX :2定义分类损失函数 用表示将 n 个有序样品分为 k 类的某一种分法，常记分发为：,b n k,b n k 11, 1222, 23,1,.,1 ,1,.,1 , . 1,.,kkkGi iiGi iiGi in其中分点为。12111.11kkkiiiniin即定义上述分类法的损失函数为1 1,1ktt tL b n kD i i 3.的
4、地推公式,L b n k 费希尔算法最核心的部分是利用以下俩个地推公式： 2,2min1,1,min1,1,j nkj nL b nDjD j nL b n kL P jkD j n 4最优解的求法 若分类数已知，求分类法，使它在损失函数意义下达最小，1kkn,P n k其求法如下： 首先找分点，使地推公式达极小，即kj ,1,1,kkL P n kL PjkD jn 于是得第 k 类。然后找，使它满足,1,.,kkkGi in1kj 111,11,2,kkkkL P jkL P jkD jj 得到地 k-1 类。类似的方法一次可以得到所有类11,11,.,1kkkkGiij，这就是我们所求的
5、最优解，即12,.,kG GG 12,.,kP n kG GG总之，为了求最优解，主要是计算和,;1D i jijn ,1,L P i jin ijn 三具体事例的分析 （中学生身体四项指标的主成分分析）在某中学随机抽取某年级 30 名学生， 测量其身高，体重，胸围和坐高，数据见下表：1X2X3X4X序号1X2X3X4X 1148417278 2139347176 3160497786 4149366779 5159458086 6142316676 7153437683 8150437779 9151427780 10139316874 11140296474 12161477884 131
6、3849788314140336777 15137316673 16152357379 17149478279 18145357077 19160477487 20156447885 21151427382 22147387378 23157396880 24147306575 25157488088 26151367480 27144366876 28141306776 29139326873 301483870781.主成分分析 首先，创建 TXT 文件，将数据纯入并保存，命名 lyzbok.txt。然后创建各个 M 文件（lyzstd.m 总和和标准化矩阵；lyzfac.m 计算相关系数
7、矩 阵，特征值和特征向量，特征根排序，贡献率，主成分数，主成分载荷等相关操作； lyzscore.m 计算得分；lyzprint.m 输出最终结果）。最后，在 Matlab 窗口键入以下语句，并最终显示器结果。 lyzprint(lyzbook1.txt,30,4) fid =6 标准化结果如下: v1 =0.0570 0.0310 0.0577 0.02760.0158 0.0318 0.0133 0.03250.0277 0.0607 0.0277 0.05970.0301 0.0169 0.0300 0.01220.0536 0.0310 0.0566 0.02640.0131 0.03
8、22 0.0178 0.03050.0274 0.0559 0.0311 0.06370.0293 0.0125 0.0300 0.01950.0617 0.0273 0.0550 0.03250.0189 0.0298 0.0133 0.03570.0297 0.0563 0.0266 0.06130.0331 0.0117 0.0292 0.01460.0574 0.0257 0.0607 0.03000.0139 0.0298 0.0178 0.03250.0258 0.0647 0.0281 0.05850.0304 0.0189 0.0330 0.01460.0613 0.0314
9、0.0592 0.02760.0173 0.0338 0.0167 0.03090.0308 0.0635 0.0296 0.05720.0331 0.0197 0.0323 0.01220.0547 0.0314 0.0573 0.02720.0119 0.0334 0.0159 0.03090.0254 0.0563 0.0277 0.05640.0293 0.0133 0.0311 0.01300.0590 0.0269 0.0558 0.02760.0166 0.0310 0.0144 0.02960.0293 0.0551 0.0277 0.06010.0320 0.0125 0.0
10、296 0.01540.0578 0.0265 0.0596 0.02840.0166 0.0294 0.0148 0.0317 相关系数矩阵: std =1.0000 -0.1689 0.9831 -0.1795-0.1689 1.0000 -0.1495 0.96440.9831 -0.1495 1.0000 -0.1734-0.1795 0.9644 -0.1734 1.0000 特征向量(vec)及特征向量(val): vec =0.6725 0.2213 0.4889 -0.50970.2190 -0.6711 0.5123 0.4891-0.6748 -0.2084 0.4969
11、-0.5042-0.2107 0.6762 0.5016 0.4968 val =0.0147 0 0 00 0.0376 0 00 0 1.6381 00 0 0 2.3096 特征根排序: 2.30963 1.6381 0.0375937 0.0146792贡献率: newrate =0.5774 0.4095 0.0094 0.0037 主成分数：2主成分载荷: -0.7746 0.62580.7433 0.6557-0.7663 0.63600.7550 0.6420 计算得分: score =-0.0445 0.1104 0.0659 18.00000.0257 0.0600 0.0
12、857 10.00000.0475 0.1131 0.1606 2.0000-0.0245 0.0568 0.0323 27.0000-0.0419 0.1067 0.0648 20.00000.0231 0.0602 0.0833 12.00000.0446 0.1145 0.1591 4.0000-0.0217 0.0581 0.0364 25.0000-0.0451 0.1124 0.0673 16.00000.0243 0.0627 0.0870 8.00000.0448 0.1117 0.1565 5.0000-0.0284 0.0564 0.0280 30.0000-0.0492
13、0.1107 0.0615 21.00000.0222 0.0604 0.0826 13.00000.0507 0.1140 0.1647 1.0000-0.0238 0.0618 0.0380 24.0000-0.0487 0.1143 0.0656 19.00000.0222 0.0634 0.0856 11.00000.0439 0.1165 0.1604 3.0000-0.0266 0.0620 0.0354 26.0000-0.0425 0.1087 0.0663 17.00000.0266 0.0593 0.0859 9.00000.0435 0.1067 0.1502 7.0000-0.0269 0.0552 0.0283 29.0000-0.0476 0.1078 0.0602
