多元统计分析之主成分分析(2016)

上传人:n**** 文档编号:116519605 上传时间:2019-11-16 格式:PDF 页数:80 大小:821.02KB
返回 下载 相关 举报
多元统计分析之主成分分析(2016)_第1页
第1页 / 共80页
多元统计分析之主成分分析(2016)_第2页
第2页 / 共80页
多元统计分析之主成分分析(2016)_第3页
第3页 / 共80页
多元统计分析之主成分分析(2016)_第4页
第4页 / 共80页
多元统计分析之主成分分析(2016)_第5页
第5页 / 共80页
点击查看更多>>
资源描述

《多元统计分析之主成分分析(2016)》由会员分享,可在线阅读,更多相关《多元统计分析之主成分分析(2016)(80页珍藏版)》请在金锄头文库上搜索。

1、第六章 主成分分析 主成分分析要求:主成分分析要求: 1 1、主成分假定条件?、主成分假定条件? 2 2、主成分的方差与原始变量方差有何关系?、主成分的方差与原始变量方差有何关系? 3 3、主成分如何求解?主成分分析的结构,即、主成分如何求解?主成分分析的结构,即 系数和方差在数学上的含义?系数和方差在数学上的含义? 4 4、主成分分析如何评价?、主成分分析如何评价? 5 5、主成分分析的应用。、主成分分析的应用。 一项十分著名的工作是美国的统计学家斯通 (stone)在1947年关于国民经济的研究。他曾利用美 国1929一1938年各年的数据,得到了17个反映国民 收入与支出的变量要素,例如

2、雇主补贴、消费资料 和生产资料、纯公共支出、净增库存、股息、利息 外贸平衡等等。在进行主成分分析后,竟以97.4 的精度,用三新变量就取代了原17个变量。根据经 济学知识,斯通给这三个新变量分别命名为总收入 F1、总收入变化率F2和经济发展或衰退的趋势F3。 更有意思的是,这三个变量其实都是可以直接测量 的。斯通将他得到的主成分与实际测量的总收入I、 总收入变化率I以及时间t因素做相关分析,得到下 表. 1基本思想 F1F1F2F2F3F3i i i it t F1F11 1 F2F20 01 1 F3F30 00 01 1 i i0.9950.995- -0.0410.0410.0570.0

3、57l l i i- -0.0560.0560.9480.948- -0.1240.124- -0.1020.102l l t t- -0.3690.369- -0.2820.282- -0.8360.836- -0.4140.414- -0.1120.1121 1 主成分分析是把各变量之间互相关联的复杂关系进 行简化分析的方法。在社会经济的研究中,为了全面系 统分析和研究问题,必须考虑许多经济指标,这些指标 能从不同的侧面反映我们所研究的对象的特征,但在某 种程度上存在信息的重叠,具有一定的相关性。主成分 分析试图在力保数据信息丢失最少的原则下,对这种多 变量的截面数据表进行最佳综合简化,也

4、就是说,对高 维变量空间进行降维处理。 很显然,识辨系统在一个低维空间要比在一个高维 空间容易得多。 (1)基于相关系数矩阵还是基于协方差矩阵做 主成分分析。当分析中所选择的经济变量具有不同 的量纲,变量水平差异很大,应该选择基于相关系 数矩阵的主成分分析。 (2) 选择几个主成分。主成分分析的目的是简 化变量,一般情况下主成分的个数应该小于原始变 量的个数。关于保留几个主成分,应该权衡主成分 个数和保留的信息。 (3) 如何解释主成分所包含的经济意义。 在力求数据信息丢失最少的原则下,对高维的变 量空间降维,即研究指标体系的少数几个线性组合, 并且这几个线性组合所构成的综合指标将尽可能多 地

5、保留原来指标变异方面的信息。这些综合指标就 称为主成分。要讨论的问题是: 2 数学模型与几何解释 假设我们所讨论的实际问题中,有p个指标,我们把 这p个指标看作p个随机变量,记为X1,X2,Xp,主成 分分析就是要把这p个指标的问题,转变为讨论p个指标 的线性组合的问题,而这些新的指标F1,F2, Fk(kp),按照保留主要信息量的原则充分反映原指标 的信息,并且相互无关。这种由讨论多个指标降为少数 几个综合指标的过程在数学上就叫做降维。主成分分析 通常的做法是,寻求原指标的线性组合Fi。 假定条件:以方差的大小来衡量变量的重 要性,或者信息的多少。 pppppp pp pp XuXuXuF

6、XuXuXuF XuXuXuF 2211 22221122 12211111 满足如下的条件: 1 22 2 2 1 piii uuu pjijiFFCov ji ,),(210 )()( 21p FVarFVarFVar)( 主成分之间相互无关,无重叠的信息。即 主成分的方差依次递减,重要性依次递减,即 每个主成分的系数平方和为1,保证唯一性。即 为了方便,我们在二维空间中讨论主成分的几 何意义。 设有n个样品,每个样品有两个观测变量 xl和x2,在由变量xl和x2所确定的二维平面中,n个 样本点所散布的情况如椭圆状。由图可以看出这n 个样本点无论是沿着xl轴方向或x2轴方向都具有较 大的离

7、散性,其离散的程度可以分别用观测变量xl 的方差和x2的方差定量地表示。显然,如果只考 虑xl和x2中的任何一个,那么包含在原始数据中的 经济信息将会有较大的损失。 2 x 1 x 1 F 2 F 主 成 分 分 析 的 几 何 解 释 平移、旋转坐标轴 2 x 1 x 1 F 2 F 主 成 分 分 析 的 几 何 解 释 平移、旋转坐标轴 2 x 1 x 1 F 2 F 主 成 分 分 析 的 几 何 解 释 平移、旋转坐标轴 2 x 1 x 1 F 2 F 主 成 分 分 析 的 几 何 解 释 平移、旋转坐标轴 上面的四张图中,哪一种有更高的精度?上面的四张图中,哪一种有更高的精度?

8、原始变量的信息损失最少?原始变量的信息损失最少? 如果我们将xl轴和x2轴先平移,再同时按 逆时针方向旋转角度,得到新坐标轴yl和y2。 yl和y2是两个新变量。根据旋转变换公式: 根据旋转变换的公式: 112 212 cossin sincos yxx yxx x U 2 1 2 1 cossin sincos x x y y 正交矩阵,即有为旋转变换矩阵,它是 U IUUUU , 1 旋转变换的目的是为了使得n个样品点在yl轴方向 上的离 散程度最大,即yl的方差最大。变量yl代表了原 始数据的绝大 部分信息,在研究某经济问题时,即使 不考虑变量y2也无损大局。经过上述旋转变换原始数 据的

9、大部分信息集中到Yl轴上,对数据中包含的信息 起到了浓缩作用。Yl,Y2除了可以对包含在Xl,X2中 的信息起着浓缩作用之外,还具有不相关的性质,这 就使得在研究复杂的问题时避免了信息重叠所带来的 虚假性。二维平面上的个点的方差大部分都归结在Yl 轴上,而Y2轴上的方差很小。Yl和Y2称为原始变量x1 和x2的综合变量。Y简化了系统结构,抓住了主要矛 盾。 3 3 主成分的推导及性质主成分的推导及性质 一、线性代数的结论一、线性代数的结论 1、若A是P阶实对称阵,则一定可以找到正交阵U,使 pp p 00 00 00 2 1 AUU pi i . 2 . 1, A其中是的特征根。 2、若上述矩

10、阵的特征根所对应的单位特征向量为 pppp p p uuu uuu uuu 21 22221 11211 ),( p1 uuU 则实对称阵A属于不同特征根所对应的特征向量是 正交的,即有。 p1 uu, 令 IUUUU 二、主成分的推导 (一)(一) 第一主成分第一主成分 设X的协方差阵为 2 21 2 2 221 112 2 1 ppp p p x 由于 x为非负定的对称阵,则有利用线性代数的 知识可得,必存在正交阵U,使得 p 0 0 1 UU X 其中1, 2, p为x的特征根,不妨假设 1 2 p。而U恰好是由特征根相对应的特 征向量所组成的正交阵。 pppp p p uuu uuu

11、uuu 21 22221 11211 ),( p1 uuU piii uuu, 21i U i Pi, 2 , 1 下面我们来看,是否由U的第一列元素所构成为原始 变量的线性组合有最大的方差。 设有P维正交向量 X Xa a1 11111 pp XaXaF 1 2 1 1111) (aUUaaa p FV 121111 , p aaaa 1 2 1 p 1 2 112p p u u au ,u ,ua u p i i 1 2 11 )( u ua a p i ii 1 111 a au uu ua a 111 a aU UU Ua a 111 a a a a 1 p i ii p i iii

12、1 2 1 1 11 )(u ua a a au uu ua a 当且仅当1=u1时,即时, 有最大的方差1。因为Var(F1)=U1xU1=1。 如果第一主成分的信息不够,则需要寻找第二主成 分。 pp XuXuF 11111 (二)(二) 第二主成分第二主成分 在约束条件下,寻找第二主成分0),cov( 21 FF pp XuXuF 21122 因为 所以 0),cov(),cov( 121122121 uuuuxuxuFF 则,对维向量,有 0 12 u u p p i ii p i iii uuFV 1 2 2 1 22222 )()(uuuuuu p i i 2 2 2 )(uu2 2 u p i ii 1 22 uuuu2 22 uUUu 2 222 u u 2 pp XuXuXuF 22221122 所以如果取线性变换: 则的方差次大。 2 F 类推 pppppp pp pp XuXuXuF XuXuXuF XuXuXuF 2211 22221122 12211111 写为矩阵形式: XUF pppp p p uuu uuu uuu 21 22221 11211 ),( p1 uuU ),( 21 p XXXX 4 4 主成分的性质主成分的性质 一、均值一、均值UU ) (xE 二二、方差为

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 大杂烩/其它

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号