《多元统计分析主成分分析课件》由会员分享，可在线阅读，更多相关《多元统计分析主成分分析课件（83页珍藏版）》请在金锄头文库上搜索。
1、主成分分析主成分分析多元统计分析主成分分析课件主成分分析的基本思想主成分分析的基本思想主成分的计算主成分的计算主成分的性质主成分的性质主成分分析的应用主成分分析的应用主成分回归主成分回归多元统计分析主成分分析课件 一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。1 基本思想多元统计分析主成分分析课件 在进行主成分分析后，竟以97.4的精度，用三新变量就取代了原17个变量。根据经济学知识，斯通给这
2、三个新变量分别命名为总总收收入入F1、总总收收入入变变化化率率F2和经经济济发发展展趋趋势势F3。更有意思的是，这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率I以及时间t因素做相关分析，得到下表：多元统计分析主成分分析课件F1F1F2F2F3F3i ii it tF1F11 1F2F20 01 1F3F30 00 01 1i i0.9950.995-0.041-0.0410.0570.057l li i-0.056-0.0560.9480.948-0.124-0.124-0.102-0.102l lt t-0.369-0.369-0.282-0.282
3、-0.836-0.836-0.414-0.414-0.112-0.1121 1多元统计分析主成分分析课件主成分分析的基本思想 主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分的信息（85%以上），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着降维和简化数据结构的作用。多元统计分析主成分分析课件 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。 在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。
4、 多元统计分析主成分分析课件 主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。 很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。多元统计分析主成分分析课件2 数学模型与几何解释 假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，Xp，主成分分析就是要把这p个指标的问题，转变为讨论 m 个新的指标F1，F2，Fm(mp），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。多元统计分析主成分分析课件其中多元统计分析主成分分析课件这种由讨论多个指标降为少数几个综合
5、指标的过程在数学上就叫做降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。多元统计分析主成分分析课件所以如果不对加以限制，问题就变得无意义。最大最大因此限制为单位向量。函数VAR假设其参数是样本总体中的一个样本。如果数据为样本总体，则应使用函数VAR来计算方差。多元统计分析主成分分析课件满足如下的条件：主成分之间相互独立，即无重叠的信息。即主成分之间相互独立，即无重叠的信息。即主成分的方差依次递减，重要性依次递减，即主成分的方差依次递减，重要性依次递减，即每个主成分的系数平方和为每个主成分的系数平方和为1。即。即多元统计分析主成分分析课件主成分分析的几何解释平移、旋转坐标轴多元统计分析主
6、成分分析课件主成分分析的几何解释平移、旋转坐标轴多元统计分析主成分分析课件 主成分分析的几何解释平移、旋转坐标轴多元统计分析主成分分析课件旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。多元统计分析主成分分析课件Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的n个点的方差大部分都归结在Fl
7、轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。多元统计分析主成分分析课件主成分分析的几何解释平移、旋转坐标轴多元统计分析主成分分析课件3主成分的计算先讨论二维情形求主成分F1和F2。多元统计分析主成分分析课件观察图，我们已经把主成分F1和F2的坐标原点放在平均值所在处，从而使得F1和F2成为中心化的变量，即F1和F2的样本均值都为零。多元统计分析主成分分析课件因此F1可以表示为关键关键是，寻找合适的单位向量，使F1的方差最大。最大最大问题的答案问题的答案是：X的协方差矩阵S 的最大特征根所对应的单位特征向量即为。并且就是F1的方差。推
8、导多元统计分析主成分分析课件同样，F2可以表示为寻找合适的单位向量，使F2与F1独立，且使F2的方差（除F1之外）最大。问题的答案问题的答案是：X的协方差矩阵S 的第二大特征根所对应的单位特征向量即为。并且就是F2的方差。推导多元统计分析主成分分析课件求解主成分的步骤：求解主成分的步骤：1.求样本均值和样本协方差矩阵S;2.求S的特征根求解特征方程，其中I是单位矩阵，解得2个特征根3.求特征根所对应的单位特征向量4.写出主成分的表达式多元统计分析主成分分析课件例1下面是8个学生两门课程的成绩表6585709065455565数学10090707085555545语文对此进行主成分分析。1. 求
9、样本均值和样本协方差矩阵求样本均值和样本协方差矩阵多元统计分析主成分分析课件2.求解特征方程0 化简得： 解得：多元统计分析主成分分析课件3.求特征值所对应的单位特征向量所对应的单位特征向量 ， 其中解得 （）= 所对应的单位特征向量 ，其中解得： 多元统计分析主成分分析课件4. 得到主成分的表达式第二主成分：第一主成分：5.主成分的含义通过分析主成分的表达式中原变量前的系数来解释各主成分的含义。第一主成分F1是和的加权和，表示该生成绩的好坏。第二主成分F2表示学生两科成绩的均衡性多元统计分析主成分分析课件6.比较主成分重要性比较主成分重要性第一主成分F1的方差为第二主成分F2的方差为方差贡献
10、率方差贡献率为主成分F1和F2的方差总和为原变量和的方差总和为总方差保持不方差保持不变多元统计分析主成分分析课件身高x1(cm)胸围x2(cm)体重x3(kg)149.5162.5162.7162.2156.5156.1172.0173.2159.5157.769.577.078.587.574.574.576.581.574.579.038.555.550.865.549.045.551.059.543.553.5例2 下表是10位学生的身高、胸围、体重的数据。对此进行主成分分析。多元统计分析主成分分析课件1. 求样本均值和样本协方差矩阵 2. 求解协方差矩阵的特征方程 3.解得三个特征值
11、和对应的单位特征向量：多元统计分析主成分分析课件4. 由此我们可以写出三个主成分的表达式： 5. 主成分的含义F1表示学生身材大小。F2反映学生的体形特征多元统计分析主成分分析课件三个主成分的方差贡献率分别为：前两个主成分的累积方差贡献率为： 多元统计分析主成分分析课件例3 对88个学生5 门不同课程的考试成绩进行分析，要求用合适的方法对这5 门课程成绩进行平均，以对88个学生的成绩进行评比。这5门课程是：Mechanics Vectors (闭)，Algebra Analysis Statistics (开)。经计算，得到5个主成分的表达式如下：多元统计分析主成分分析课件这5个主成分的方差分
12、别为679.2，199.8，102.6, 83.7和31.8。前两个主成分各自的贡献率和累积贡献率为多元统计分析主成分分析课件在一般情况下，设有n个样品，每个样品观测p个指 标，将原始数据排成如下矩阵： 多元统计分析主成分分析课件1.求样本均值和样本协方差矩阵S;2.求解特征方程=0, 其中I是单位矩阵,解得p个特征根3. 求所对应的单位特征向量 即需求解方程组其中多元统计分析主成分分析课件 再加上单位向量的条件 解得 4. 写出主成分的表达式 多元统计分析主成分分析课件根据累积贡献率的大小取前面m个(m|t|Interceptx1X2x31111-10.12799-0.051400.5869
13、50.286851.212160.070280.094620.10221-8.36-0.736.202.810.00010.48830.00040.0263ParameterEstimatesDependentMean21.89091R-Square0.9919RootMSE0.48887AdjR-Sq0.9884SummaryofFit多元统计分析主成分分析课件F1F2F3x1X2x30.70630.04350.7065-0.03570.9990-0.02580.70700.0070-0.7072EigenvectorsEigenvalueDifferenceProportionCumula
14、tivePCR1PCR2PCR31.99920.99820.00261.00100.99550.66640.33270.00090.66640.99911.0000EigenvaluesoftheCorrelationMatrixF1=0.7063x1+0.0435x2+0.7065x3F2=-0.0357x1+0.9990x2-0.0258x3多元统计分析主成分分析课件SourceDFSumofSquaresMeanSquareF值值ProbFModelErrorTotal28109.88280.117210.00004.94140.0147337.23020.0001AnalysisofV
15、arianceVariableDFEstimateStandardErrort值值Prob|t|F1F2110.69000.19130.02710.038325.48594.99300.00010.0011ParameterEstimates多元统计分析主成分分析课件标准化后的变量把标准化变量还原，代入得：多元统计分析主成分分析课件影响人们外出旅游的因素有居民收入、交通、闲影响人们外出旅游的因素有居民收入、交通、闲暇时间、旅游目的地治安状况、旅游目的地的环暇时间、旅游目的地治安状况、旅游目的地的环境卫生以及接待能力等等。境卫生以及接待能力等等。 由于资料的可得性和代表性，选择以下变量由于资料的
16、可得性和代表性，选择以下变量。国内旅游人数（百万人）农村居民人均纯收入（元）城镇居民人均可支配收入（元）公路线路里程（万公里）数据见sasuser.tourmx例例2 国内旅游人数模型国内旅游人数模型多元统计分析主成分分析课件VariableDFEstimateStandardErrort值值Prob|t|InterceptIncomeonIncomeocHighway1111417.8201-0.13810.1737-3.000974.02300.06990.03020.81925.6445-1.97595.7589-3.66330.00050.08360.00040.0064Paramet
17、erEstimatesDependentMean558.1017R-Square0.9920RootMSE19.2003AdjR-Sq0.9890SummaryofFit多元统计分析主成分分析课件F1F2F3x1X2x30.58100.59180.5588-0.5167-0.26230.81500.6289-0.76220.1533EigenvectorsEigenvalueDifferenceProportionCumulativePCR1PCR2PCR32.80880.18500.00622.62380.17880.93630.06170.00210.93630.99791.0000Eig
18、envaluesoftheCorrelationMatrixF1=0.5810x1+0.5918x2+0.5588x3F2=-0.5167x1-0.2623x2+0.8150x3多元统计分析主成分分析课件SourceDFSumofSquaresMeanSquareF值值ProbFModelErrorTotal291110.71130.288711.00005.35560.0321166.93280.0001AnalysisofVarianceVariableDFEstimateStandardErrort值值Prob|t|F1F2110.5767-0.46200.03220.125617.89
19、77-3.67940.00010.0051ParameterEstimates多元统计分析主成分分析课件标准化后的变量把标准化变量还原，代入得：多元统计分析主成分分析课件选题地区经济发展现状及潜力分析长江三角洲经济发展状况分析长江三角洲产业发展状况分析城市竞争力评价指标体系区域智力资本的测度区域创新能力对经济增长的影响分析区域智力资本对经济增长的影响分析区域软实力评价体系研究多元统计分析主成分分析课件主成分的推导主成分的推导 （一）（一）第一主成分第一主成分寻找合适的单位向量 ，使F1的方差最大。多元统计分析主成分分析课件表明： 应为 的特征值，而 为与 对应的单位特征向量。 而且可见 应取
20、的最大特征根。多元统计分析主成分分析课件如果第一主成分的信息不够，则需要寻找第二主成分。（二）（二）第二主成分第二主成分寻找合适的单位向量 ，使F2的方差最大。多元统计分析主成分分析课件用 左乘上式，00因而表明： 应为 的特征值，而 为与 对应的单位特征向量。 而且这时 能再取 了，应取 。多元统计分析主成分分析课件主成分的改进1、无量纲化的改进无量纲化的改进从标准化的数据提取的主成分，实际上只包含了各指标间从标准化的数据提取的主成分，实际上只包含了各指标间相互影响这一部分信息，不能准确反映原始数据所包含的相互影响这一部分信息，不能准确反映原始数据所包含的全部信息。全部信息。多元统计分析主成分分析课件改进原始数据的无量纲化方法改进原始数据的无量纲化方法u 均值化方法均值化方法均值化后，数据的协方差矩阵均值化后，数据的协方差矩阵S中的元素中的元素多元统计分析主成分分析课件均值化后，数据的协方差矩阵均值化后，数据的协方差矩阵对角线上是原变量标准差系数的平方，其他位置对角线上是原变量标准差系数的平方，其他位置上是变量两两之间的相互关系。上是变量两两之间的相互关系。均值化处理后的协方差矩阵不仅消除了指标量纲与均值化处理后的协方差矩阵不仅消除了指标量纲与数量级的影响，还能包含原始数据的全部信息。数量级的影响，还能包含原始数据的全部信息。多元统计分析主成分分析课件
