因子分析ppt课件分解

《因子分析ppt课件分解》由会员分享，可在线阅读，更多相关《因子分析ppt课件分解（78页珍藏版）》请在金锄头文库上搜索。

1、因子分析 Factor Analysis,因子分析的基本理论,1、什么是因子分析？ 因子分析是主成分分析的推广，也是利用降维的思想，由研究原始变量相关矩阵或协方差矩阵的内部依赖关系出发，把一些具有错综复杂关系的多个变量归结为少数几个综合因子的一种多元统计分析方法。 2、因子分析的基本思想： 把每个研究变量分解为几个影响因素变量，将每个原始变量分解成两部分因素，一部分是由所有变量共同具有的少数几个公共因子组成的，另一部分是每个变量独自具有的因素，即特殊因子。,因子分析的基本理论,3、因子分析的目的： 因子分析的目的之一，简化变量维数。即要使因素结构简单化，希望以最少的共同因素（公共因子），能对总

2、变异量作最大的解释，因而抽取得因子愈少愈好，但抽取因子的累积解释的变异量愈大愈好。 在因子分析的公共因子抽取中，应最先抽取特征值最大的公共因子，其次是次大者，最后抽取公共因子的特征值最小，通常会接近0。,因子分析的基本理论,例：在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。 但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店进行综合评价。而这三个公共因子可以表示为： 称 是不可观测的潜在因子,称 为公共因子。24个变量共

3、享这三个因子，但是每个变量又有自己的个性，不被包含的部分，称为特殊因子。,因子分析的基本理论,4、主成分分析分析与因子分析的联系和差异： 联系：（1）因子分析是主成分分析的推广，是主成分分析的逆问题。 （2）二者都是以降维为目的，都是从协方差矩阵或相关系数矩阵出发。 区别：（1）主成分分析模型是原始变量的线性组合，是将原始变量加以综合、归纳，仅仅是变量变换；而因子分析是将原始变量加以分解，描述原始变量协方差矩阵结构的模型；只有当提取的公因子个数等于原始变量个数时，因子分析才对应变量变换。 （2）主成分分析，中每个主成分对应的系数是唯一确定的；因子分析中每个因子的相应系数即因子载荷不是唯一的。

4、（3）因子分析中因子载荷的不唯一性有利于对公因子进行有效解释；而主成分分析对提取的主成分的解释能力有限。,因子分析的基本理论,5、因子分析模型：,设 个变量，如果表示为,（1） （2）,称为 公共因子，是不可观测的变量，他们的系数称为因子载荷。 是特殊因子，是不能被前m个公共因子包含的部分。其中：,相互独立即不相关；,即 互不相关，方差为1。,（3）,即互不相关，方差不一定相等， 。 满足以上条件的，称为正交因子模型 如果（2）不成立，即 ，各公共因子之间不独立，则因子分析模型为斜交因子模型,因子分析案例,F1 体现逻辑思维和运算能力，F2 体现空间思维和推理能力,因子分析的基本理论,6、因子

5、分析模型中的几个重要统计量的意义： （1）因子负荷量（或称因子载荷）-是指因子结构中原始变量与因子分析时抽取出的公共因子的相关程度。,在各公共因子不相关的前提下， （载荷矩阵中第i行，第j列的元素）是随机变量xi*与公共因子Fj的相关系数，表示xi*依赖于Fj的程度。反映了第i个原始变量在第j个公共因子上的相对重要性。因此 绝对值越大，则公共因子Fj与原有变量xi的关系越强。,（2）共同度-又称共性方差或公因子方差（community或common variance）就是变量与每个公共因子之负荷量的平方总和（一行中所有因素负荷量的平方和）。变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记

6、为 从共同性的大小可以判断这个原始实测变量与公共因子间之关系程度。如因子分析案例中 共同度h12 = 0.8962 + 0.3412 = 0.919 特殊因子方差（剩余方差）-各变量的特殊因素影响大小就是1减掉该变量共同度的值。如 =1- 0.919 = 0.081,（3）特征值-是第j个公共因子Fj对于X*的每一分量Xi*所提供的方差的总和。又称第j个公共因子的方差贡献。即每个变量与某一共同因素之因素负荷量的平方总和（因子载荷矩阵中某一公共因子列所有因子负荷量的平方和）。 如因子分析案例中 F1的特征值 G=（0.896）平方+（0.802）平方+（0.516）平方+（0.841）平方+（0

7、.833）平方=3.113 （4）方差贡献率-指公共因子对实测变量的贡献，又称变异量 方差贡献率=特征值G/实测变量数p，是衡量公共因子相对重要性的指标，Gi越大，表明公共因子Fj对X*的贡献越大，该因子的重要程度越高 如因子分析案例中 F1的贡献率为3.113/5=62.26%,因子的基本内容,1、因子分析的基本步骤： （1）因子分析的前提条件鉴定 考察原始变量之间是否存在较强的相关关系，是否适合进行因子分析。因为： 因子分析的主要任务之一就是对原有变量中信息重叠的部分提取和综合成因子，最终实现减少变量个数的目的。所以要求原有变量之间应存在较强的相关关系。否则，如果原有变量相互独立，不存在信

8、息重叠，也就无需进行综合和因子分析。 （2）因子提取 研究如何在样本数据的基础上提取综合因子。,（3）因子旋转 通过正交旋转或斜交旋转使提取出的因子具有可解释性。 （4）计算因子得分 通过各种方法求解各样本在各因子上的得分，为进一步分析奠定基础。,2、因子分析前提条件相关性分析： 分析方法主要有： （1）计算相关系数矩阵(correlation coefficients matrix) 如果相关系数矩阵中的大部分相关系数值均小于0.3，即各变量间大多为弱相关，原则上这些变量不适合进行因子分析。 （2）计算反映象相关矩阵（Anti-image correlation matrix),（3）巴特利

9、特球度检验（Bartlett test of sphericity ) 该检验以原有变量的相关系数矩阵为出发点，其零假设H0是：相关系数矩阵为单位矩阵，即相关系数矩阵主对角元素均为1，非主对角元素均为0。（即原始变量之间无相关关系）。,（4）KMO(Kaiser-Meyer-Olkin)检验 KMO检验的统计量是用于比较变量间简单相关系数矩阵和偏相关系数的指标，数学定义为： KMO值越接近1，意味着变量间的相关性越强，原有变量适合做因子分析；越接近0，意味变量间的相关性越弱，越不适合作因子分析。 Kaiser给出的KMO度量标准：0.9以上非常适合；0.8表示适合；0.7表示一般；0.6表示不

10、太适合；0.5以下表示极不适合。,3、因子提取和因子载荷矩阵的求解： 因子载荷矩阵求解的方法： （1）基于主成分模型的主成分分析法 （2）基于因子分析模型的主轴因子法 （3）极大似然法 （4）最小二乘法 （5）a因子提取法 （6）映象分析法,（1）基于主成分模型的主成分分析法Principal components,设随机向量 的均值为，协方差为, 为的特征根， 为对应的 标准化特征向量，则,上式给出的表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的p-m项的贡献，有：,上式有一个假定，模型中的特殊因子是不重要的，因而从的分解中忽略了特殊因子

11、的方差。,（2）基于因子分析模型的主轴因子法Principal axis factoring 是对主成分方法的修正，假定我们首先对变量进行标准化变换。则 R=AA+D R*=AA=R-D 称R*为约相关矩阵，R*对角线上的元素是 ,而不是1。,直接求R*的前p个特征根和对应的正交特征向量。得如下的矩阵：,当特殊因子 的方差已知：,4、因子旋转： 为什么要旋转因子？ 建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组，更重要的要知道每个公共因子的意义，以便进行进一步的分析，如果每个公共因子的含义不清，则不便于进行实际背景的解释。由于因子载荷阵是不惟一的，所以应该对因子载荷阵进行旋转。目

12、的是使每个变量在尽可能少的因子上有比较高的载荷，让某个变量在某个因子上的载荷趋于1，而在其他因子上的载荷趋于0。即：使载荷矩阵每列或行的元素平方值向0和1两极分化。,奥运会十项全能运动项目 得分数据的因子分析 百米跑成绩 跳远成绩 铅球成绩 跳高成绩 400米跑成绩 百米跨栏 铁饼成绩 撑杆跳远成绩 标枪成绩 1500米跑成绩,相关矩阵,因 子 载 荷 矩 阵,因子载荷矩阵可以看出，除第一因子在所有的变量在公共因子上有较大的正载荷，可以称为一般运动因子。其他的3个因子不太容易解释。似乎是跑和投掷的能力对比，似乎是长跑耐力和短跑速度的对比。于是考虑旋转因子，得下表,旋转变幻后因子载荷矩阵,通过旋

13、转，因子有了较为明确的含义。 百米跑， 跳远和 400米跑，需要爆发力的项目在 有较大的载荷， 可以称为短跑速度因子； 铅球， 铁饼和 标枪在 上有较大的载荷，可以称为爆发性臂力因子； 百米跨栏， 撑杆跳远， 跳远和为 跳高在 上有较大的载荷， 爆发腿力因子； 长跑耐力因子。,旋转的方法有：（1）正交旋转；（2）斜交旋转 （1）正交旋转 由初始载荷矩阵A左乘一正交矩阵得到；目的是新的载荷系数尽可能的接近于0或尽可能的远离0；只是在旋转后的新的公因子仍保持独立性。主要有以下方法： varimax:方差最大旋转。简化对因子的解释 quartmax:四次最大正交旋转。简化对变量的解释 equamax

14、:等量正交旋转,A、方差最大法 方差最大法从简化因子载荷矩阵的每一列出发，使和每个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子上有较高的载荷时，对因子的解释最简单。方差最大的直观意义是希望通过因子旋转后，使每个因子上的载荷尽量拉开距离，一部分的载荷趋于1，另一部分趋于0。,B、四次方最大旋转 四次方最大旋转是从简化载荷矩阵的行出发，通过旋转初始因子，使每个变量只在一个因子上有较高的载荷，而在其它的因子上尽可能低的载荷。如果每个变量只在一个因子上有非零的载荷，这时的因子解释是最简单的。 四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。,C、等量最大法 等量最大

15、法把四次方最大法和方差最大法结合起来求行和列因子载荷平方的方差的加权平均最大。,（2）斜交旋转 目的是新的载荷系数尽可能的接近于0或尽可能的远离0；只是在旋转时，放弃了因子之间彼此独立的限制，旋转后的新公因子更容易解释。主要有以下的方法： direct oblimin:直接斜交旋转。允许因子之间具有相关性； promax:斜交旋转方法。允许因子之间具有相关性；,5、因子得分 因子得分的概念 前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关问题。如果我们要使用这些因子做其他的研究，比如把得到的因子作为自变量来做回归分析，对样本进行分类或评价，这就需要我们对公共因子进行测度，即给出公

16、共因子的值。,例：人均要素变量因子分析。对我国32个省市自治区的要素状况作因子分析。指标体系中有如下指标： X1 ：人口（万人） X2 ：面积（万平方公里） X3 ：GDP（亿元） X4 ：人均水资源（立方米/人） X5：人均生物量（吨/人） X6：万人拥有的大学生数（人） X7：万人拥有科学家、工程师数（人）,Rotated Factor Pattern FACTOR1 FACTOR2 FACTOR3 X1 -0.21522 -0.27397 0.89092 X2 0.63973 -0.28739 -0.28755 X3 -0.15791 0.06334 0.94855 X4 0.95898 -0.01501 -0.07556 X5 0.97224 -0.06778 -0.17535 X6 -0.11416 0.98328 -0.08300 X7 -0