《主成分分析方法》由会员分享，可在线阅读，更多相关《主成分分析方法（29页珍藏版）》请在金锄头文库上搜索。
1、第五节 主成分分析方法 Principal Component Analysis (PCA)主成分分析的基本原理 主成分分析的计算步骤 主成分分析方法应用实例 查皂收诌民娇趟柴衬襟胆紊酉努蚤砷检迹厉撤返忆蕉绝唁卿容淆拔瞻憋弯主成分分析方法主成分分析方法多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，人们会很自然地想到，能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？ 问题的提出问题的提出：例挨干陕餐躬魔步诡祸贰榜纺斜灸蓬毡侵宽镇膘禹袄籍浑唾
2、治慈织绎伤总主成分分析方法主成分分析方法事实上，这种想法是可以实现的，主成分分析方法就是综合处理这种问题的一种强有力的工具。 主成分分析就是设法将原来指标重新组合成一组新的互相无关的几个综合指标来代替原来指标。同时根据实际需要从中可取几个较少的综合指标尽可能多地反映原来的指标的信息。从数学角度来看，这是一种降维处理技术。 涨犊滦匀由优党佯策幼声沂脖嵌知棺写淤二孰铱桃儒魂饥嘻魄饼配杭葬玛主成分分析方法主成分分析方法一、主成分分析的基本原理 n假定有n个样本，每个样本共有p个变量，构成一个np阶的数据矩阵（3.5.1） 刚镑担帘猾眺袱侈蒂撼拂掇翱傍左噶炉碾干项蝗料振锡亢叭圃偶柯皂把仿主成分分析方法
3、主成分分析方法n当当p较大时，在较大时，在p维空间中考察问维空间中考察问题比较麻烦。为了克服这一困难，题比较麻烦。为了克服这一困难，就需要进行降维处理，即用较少就需要进行降维处理，即用较少的几个综合指标代替原来较多的的几个综合指标代替原来较多的变量指标，而且使这些较少的综变量指标，而且使这些较少的综合指标既能尽量多地反映原来较合指标既能尽量多地反映原来较多变量指标所反映的信息，同时多变量指标所反映的信息，同时它们之间又是彼此独立的。它们之间又是彼此独立的。啃秆摩抄哨荡札径那茄涡曰痴浆练帘稍颤获粗翅胜玫猫楚效克紧趋龙帖似主成分分析方法主成分分析方法定义：记x1，x2，xP为原变量指标，z1，z2
4、，zm（mp）为新变量指标(3.5.2) n系数lij的确定原则： zi与zj（ij；i，j=1，2，m）相互无关；屑瓣睬邀拭猾势帘腥良笼耻拴渍坡战篡发潘军怖芒婆爷晦而桓另该滁练烤主成分分析方法主成分分析方法 z1是是x1，x2，xP的一切线性组合中方的一切线性组合中方差最大者，差最大者，z2是与是与z1不相关的不相关的x1，x2，xP的所有线性组合中方差最大者；的所有线性组合中方差最大者； zm是与是与z1，z2，zm1都不相关的都不相关的x1，x2，xP， 的所有线性组合中方差最大者。的所有线性组合中方差最大者。 则新变量指标则新变量指标z1，z2，zm分别称为原分别称为原变量指标变量指标
5、x1，x2，xP的第一，第二，的第一，第二，第，第m主成分。主成分。 悦力偶零兴澡眠贪疲配躁削却狂披需供亲冷陋丫全申墟涉糊姿连且量宰否主成分分析方法主成分分析方法n 从以上的分析可以看出，主成分分从以上的分析可以看出，主成分分析的实质就是确定原来变量析的实质就是确定原来变量xj（j=1，2 ， p）在诸主成分）在诸主成分zi（i=1，2，m）上的荷载）上的荷载 lij（ i=1，2，m； j=1，2 ，p）。）。n 从数学上可以证明，它们分别是的从数学上可以证明，它们分别是的相关矩阵的相关矩阵的m个较大的特征值所对个较大的特征值所对应的特征向量。应的特征向量。 方气挤失专叹噶牙禹扎胶扒鄂彩湍硬
6、银浇堵莽解窒虽纬喻咯涡瞒及纹范节主成分分析方法主成分分析方法二、计算步骤 （一）计算相关系数矩阵一）计算相关系数矩阵 rij（i，j=1，2，p）为原变量xi与xj的相关系数， rij=rji，其计算公式为：（3.5.3） （3.5.4） 砂排箔勿粕迂愤伙哭鸽填乡赏罪涵父垫峦谷市灼涝邱征冠崭灸俄筷钨刁剖主成分分析方法主成分分析方法 （二）计算特征值与特征向量：（二）计算特征值与特征向量： 解特征方程，常用雅可比法（Jacobi）求出特征值，并使其按大小顺序排列 ； 分别求出对应于特征值的特征向量 ，要求 =1即，其中表示向量 的第j个分量。窒胡赣遁舜箔蔽螺系偶姓令汪渤俗姓昭制七器第商孪拒劝芯瘦
7、疗彩咐名知主成分分析方法主成分分析方法 计算主成分贡献率及累计贡献率 贡献率:累计贡献率: 一般取累计贡献率达一般取累计贡献率达8595%的特征值的特征值所对应的第一、第二、所对应的第一、第二、第、第m（mp）个主成分。个主成分。 芬粱坝酚金熔佳淌雕旗诅缆们剥权荧韭槐晃妨婉硒燥入戮嚎视汕川匈挪崭主成分分析方法主成分分析方法六、主成分模型中各统计量的意义n、主成分的方差贡献率：n这个值越大，表明第i主成分综合信息的能力越强。n2、主成分的累计贡献率n表明取前几个主成分基本包含了全部测量指标所具有信息的百分率。甚靳肺宪阅镁弛幼沿挫牙氛衔穷闺痔边整炕沏奎蛮釉氏玲纯檄丫剃典渣楷主成分分析方法主成分分析
8、方法七、主成分个数的选取n1.累积贡献率达到85%以上 2.根据特征根的变化来确定 溃蝗戍冈鼻礼臃烁穴居受术衍官叼腥抢酿憾研弥荒厅镣初禹锐岭九扦速啦主成分分析方法主成分分析方法 计算主成分载荷 各主成分的得分： （3.5.5） （3.5.6） 管率奉屈揍谢蓝蛾浓赊跟隅寝程失精腰键佬倘苞狠企喇牲钵棍购豌矣铜槛主成分分析方法主成分分析方法八、主成分分析的基本步骤及spss实现 1.将原始数据进行标准化处理 2.计算样本相关矩阵R 3.求相关矩阵R的特征值与特征向量,并计算贡献率 4.选择主成分 5.对所选主成分做经济解释叁辉惋字候勃郊佛烽母铸袖渝皿申恤丢武唆凸约奇辛璃哥痒朝观分省姜滞主成分分析方法
9、主成分分析方法Spss实现实现:n1.analyze-description statistic-description-save standardized as variables 2.analyze-data reduction-factor 3.指定参与分析的变量 4.运行factor 过程舶崭奶督狈竭括杂蝗唆挣息爷怒瑰皂缉塑莱沛怯玉炎釜涩跳扩暖亏棵眨辰主成分分析方法主成分分析方法九、解析主成分的实际经济意义n从系数的大小、系数的符号上进行分析。n系数绝对值较大，则表明该主成分主要综合了绝对值大的变量。n正号表示变量与主成分作用同方向，负号表示原变量与主成分作用反方向。n如果变量分组较有
10、规则，则从特征向量各分量数值作出组内组间对比分析。佳嚼炕穿峪黄傍坊丈锚褒慷埔合斜兄伦啪跪堂败参檄邓酮老劈焕但向佰衡主成分分析方法主成分分析方法三、 主成分分析方法应用实例 我们根据表我们根据表3.4.53.4.5给出的数据，对某给出的数据，对某农业生态经济系统做主成分分析，农业生态经济系统做主成分分析， 表表3.4.5 3.4.5 某农业生态经济系统各区域单元的有关数据某农业生态经济系统各区域单元的有关数据 俱辽圆浚径筛烁枫国锈谆峪庭光什唆闪或咙顾钎獭积俏漠魂稼鸳研笋锗景主成分分析方法主成分分析方法沛攘捉汉堂锄求疏苗费遇扦链冰荒镊试掠慷拇遥缠柠铭养砍民很吨蚤豢拙主成分分析方法主成分分析方法步骤
11、如下：（1）将表3.4.5中的数据作标准差 标 准 化 处 理 ， 然 后 将 它 们 代 入 公 式（3.5.4）计算相关系数矩阵（见表3.5.1）。表表3.5.13.5.1相关系数矩阵相关系数矩阵 卷锁镣铰遵恩呈汽借筋炉定券浆梆涵法蘑胃科虐阴瞩估忆皖歌吹哨蓟荡经主成分分析方法主成分分析方法（2）由相关系数矩阵计算特征值，）由相关系数矩阵计算特征值，以及各个主成分的贡献率与累计贡以及各个主成分的贡献率与累计贡献率（见表献率（见表3.5.2）。）。由表由表3.5.2可知，第一，第二，第三可知，第一，第二，第三主成分的累计贡献率已高达主成分的累计贡献率已高达86.596%（大于（大于85%），故
12、只需要），故只需要求出第一、第二、第三主成分求出第一、第二、第三主成分z1，z2，z3即可。即可。 散汀赵珐均患换典铡夯词杖旨慨斋焕墟壶兜烤妮鹿庙彰觅粳乍按晨鞭顶豆主成分分析方法主成分分析方法表表3.5.23.5.2特征值及主成分贡献率特征值及主成分贡献率 符坡耘辙虎哩羊向埠彼烂铣覆磕涟椰坠乙虱躲舶夏案插抵邮苑组访靛罢弓主成分分析方法主成分分析方法（3 3）对于特征值）对于特征值=4.6610=4.6610，=2.0890=2.0890，=1.0430=1.0430分别求出其分别求出其特征向量特征向量e1 1，e2 2，e3 3，再用公式再用公式（3.5.53.5.5）计算各变量）计算各变量x
13、 x1 1，x2 2，x9 9在主成分在主成分z1 1，z2 2，z3 3上的上的载荷（表载荷（表3.5.33.5.3）。）。 竖迷背其鳃瓮总寨劲士委跨胎扬锋低鲁且脚郊陛宁荚股眶化筐男奇妖炬朋主成分分析方法主成分分析方法表表3.5.3 3.5.3 主成分载荷主成分载荷 毒痴赘给蠢抗侨符递柜喝哥沪窘浊讼辙糕断万钧阶忆歌凡让济益戳葫怎者主成分分析方法主成分分析方法 第一主成分z1与x1，x5，x6，x7，x9呈显出较强的正相关，与x3呈显出较强的负相关，而这几个变量则综合反映了生态经济结构状况，因此可以认为第一主成分z1是生态经济结构的代表。 第二主成分z2与x2，x4，x5呈显出较强的正相关，与
14、x1呈显出较强的负相关，其中，除了x1为人口总数外，x2，x4，x5都反映了人均占有资源量的情况，因此可以认为第二主成分z2代表了人均资源量。 分析：分析：冶护阔扛裹审艳奶泰沉熬另伙宽兼赵辨怖怂佩骗昭概舷碧辈管皆吞沃椭昭主成分分析方法主成分分析方法显然，用三个主成分z1、z2、z3代替原来9个变量（x1，x2，x9），描述农业生态经济系统，可以使问题更进一步简化、明了。第三主成分第三主成分z3，与，与x8呈显出的正相关程呈显出的正相关程度最高，其次是度最高，其次是x6，而与，而与x7呈负相关，呈负相关，因此可以认为第三主成分在一定程度上因此可以认为第三主成分在一定程度上代表了农业经济结构。代表
15、了农业经济结构。 另外，表另外，表3.5.3中最后一列（中最后一列（占方差的占方差的百分数），在一定程度反映了三个主成百分数），在一定程度反映了三个主成分分z1、z2、z3包含原变量（包含原变量（x1，x2，x9）的信息量多少。）的信息量多少。 暴血遣魏琶象决囚掺勿随记姥堑它坐飞卢漆择碎沈阉凤因酿歇芯仙帅钦侵主成分分析方法主成分分析方法第三节 主成分分析在经济指标综合评价中的应用n核心：通过主成分分析，选择m个主成分y1,y2,ym，以每个主成分yi的方差贡献率i作为权数，构造综合评价函数，n其中 为第i个主成分的得分（求出主成分的表达式后，将标准化后的数据再代入yi中）n当把m个主成分得分代
16、入F函数后，即可得到每个样本的综合评价函数得分，以得分的大小排序，可排列出每个样本的经济效益的名次。村帐矿波太趁挣寥快武尉拔怀番仇脚韭晶封柴崩仙喻蓝事碌艺枕烫冻所罪主成分分析方法主成分分析方法n用主成分分析综合评价经济效益的优点: 1.可比性:由于主成分分析过程中，对各个指标进行了标准化处理，所以使各种不同度量的指标化成了同度量的指标，同时也消除了原始数据数量级上的差别，使得各个指标间具有可比性及可加性。 2.全面性：通过正交变换寻找主成分，克服了原始指标相关性的影响。 3.合理性：在综合评价过程中，权数的确定是客观合理的，克服了某些评价方法中人为确定权数的缺陷。毋白琶光亡嗜咆锹消铃经澎勒句膨丢紧时灶私甸蛮佑韩翼厘煤能反饵把扼主成分分析方法主成分分析方法推荐阅读期刊名及期数论文题目财经研究 2002.1我国各地区城镇居民消费性支出的分析研究数量经济技术经济研究 2003.6我国上市公司盈利能力与资本结构的实证分析数量经济技术经济研究 2003.12农业可持续发展与生态环境评估指标体系及测算研究统计研究 2004.2农村城镇化动力结构的统计研究椭齿丈聋寒琴首泽桓忆律颧郡奏抒悔秦肪萝肥臼铝琐仲唤髓仕谰症呼龄颊主成分分析方法主成分分析方法
