7.因子分析原理new

《7.因子分析原理new》由会员分享，可在线阅读，更多相关《7.因子分析原理new（82页珍藏版）》请在金锄头文库上搜索。

1、1,因子分析,2,1 引言因子分析(factor analysis)是一种数据简化的技术。它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个假想变量来表示其基本的数据结构。这几个假想变量能够反映原来众多变量的主要信息。原始的变量是可观测的显在变量，而假想变量是不可观测的潜在变量，称为因子。例如，在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。,3,但消费者主要关心的是三个方面，即商店的环境、商店的服务和商品的价格。因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店

2、进行综合评价。而这三个公共因子可以表示为：,称 是不可观测的潜在因子。24个变量共享这三个因子，但是每个变量又有自己的个性，不被包含的部分 ，称为特殊因子。,4,注： 因子分析与回归分析不同，因子分析中的因子是一个比较抽象的概念，而回归因子有非常明确的实际意义；主成分分析分析与因子分析也有不同，主成分分析仅仅是变量变换，而因子分析需要构造因子模型。主成分分析:原始变量的线性组合表示新的综合变量，即主成分；因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。,5, 2 因子分析模型,一、数学模型,设 个变量，如果表示为,6,称为 公共因子，是不可观测的变量，他们的系数称为因子载荷。 是

3、特殊因子，是不能被前m个公共因子包含的部分。并且满足：,即不相关；,即 互不相关，方差为1。,7,即互不相关，方差不一定相等， 。,8,用矩阵的表达方式,9,二、因子分析模型的性质,1、原始变量X的协方差矩阵的分解,D的主对角线上的元素值越小，则公共因子共享的成 分越多。,10,2、模型不受计量单位的影响,将原始变量X做变换X*=CX,这里Cdiag(c1,c2,cn),ci0。,11,12,3、因子载荷不是惟一的,设T为一个pp的正交矩阵，令A*=AT，F*=TF，则模型可以表示为,且满足条件因子模型的条件,13,三、 因子载荷矩阵中的几个统计特征,1、因子载荷aij的统计意义,因子载荷 是

4、第i个变量与第j个公共因子的相关系数,模型为,在上式的左右两边乘以,再求数学期望,根据公共因子的模型性质，有,（载荷矩阵中第i行，第j列的元素）反映了第i个变量与第j个公共因子的相关重要性。绝对值越大，相关的密切程度越高。,14,2、变量共同度的统计意义,定义：变量 的共同度是因子载荷矩阵的第i行的元素的平方和。记为,统计意义：,两边求方差,所有的公共因子和特殊因子对变量 的贡献为1。如果 非常靠近1， 非常小，则因子分析的效果好，从原变量空间到公共因子空间的转化性质好。,15,3、公共因子 方差贡献的统计意义,因子载荷矩阵中各列元素的平方和 称为所有的 对 的方差贡献和。衡量 的相对重要性。

5、,16, 3 因子载荷矩阵的估计方法,设随机向量 的均值为，协方差为,为的特征根， 为对应的 标准化特征向量，则,（一）主成分分析法,17,上式给出的表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的p-m项的贡献，有,18,上式有一个假定，模型中的特殊因子是不重要的，因而从的分解中忽略了特殊因子的方差。,19,注：残差矩阵,其中S为样本的协方差矩阵。,20,（二）主因子法,主因子方法是对主成分方法的修正，假定我们首先对变量进行标准化变换。则R=AA+DR*=AA=R-D 称R*为约相关矩阵， R*对角线上的元素是 , 而不是1。,21,直接求

6、R*的前p个特征根和对应的正交特征向量。得如下 的矩阵：,22,当特殊因子 的方差不为且已知的，问题非常好解决。,23,24,在实际的应用中，个性方差矩阵一般都是未知的， 可以通过一组样本来估计。估计的方法有如下几种：,首先，求 的初始估计值，构造出,1）取 ，在这个情况下主因子解与主成分解等价；2）取 ， 为xi与其他所有的原始变量xj的复相关系数的平方，即xi对其余的p-1个xj的回归方程的判定系数，这是因为xi 与公共因子的关系是通过其余的p-1个xj 的线性组合联系起来的；,25,2）取 ，这意味着取xi与其余的xj的简单相关系数的绝对值最大者；,4）取 ，其中要求该值为正数。,5）取

7、 ，其中 是 的对角元素。,26,（三）极大似然估计法（略）,如果假定公共因子F和特殊因子服从正态分布，那么可以得到因子载荷和特殊因子方差的极大似然估计。设 为来自正态总体Np(,)的随机样本。,27,它通过依赖和。上式并不能唯一确定,为此可添加一个唯一性条件：这里式一个对角矩阵，用数值极大化的方法可以得 到极大似然估计 。极大似然估计 将使 为对角阵，且似然函数达到最大。相应的共同度的似然估计为：第J个因子对总方差的贡献：,28,例 假定某地固定资产投资率 ，通货膨胀率 ，失业率 ，相关系数矩阵为试用主成分分析法求因子分析模型。,29,特征根为：,30,可取前两个因子F1和F2为公共因子，第

8、一公因子F1物价就业因子，对X的贡献为1.55。第一公因子F2为投资因子，对X的贡献为0.85。共同度分别为1，0.706，0.706。,31,假定某地固定资产投资率 ，通货膨胀率 ，失业率 ，相关系数矩阵为试用主因子分析法求因子分析模型。假定用 代替初始的 。 。,32,特征根为：,对应的非零特征向量为：,33,34, 4 因子旋转（正交变换）,建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组，更重要的要知道每个公共因子的意义，以便进行进一步的分析，如果每个公共因子的含义不清，则不便于进行实际背景的解释。由于因子载荷阵是不惟一的，所以应该对因子载荷阵进行旋转。目的是使因子载荷阵的

9、结构简化，使载荷矩阵每列或行的元素平方值向0和1两极分化。有三种主要的正交旋转法。四次方最大法、方差最大法和等量最大法。,（一）为什么要旋转因子,35,百米跑成绩跳远成绩铅球成绩跳高成绩400米跑成绩百米跨栏铁饼成绩撑杆跳远成绩标枪成绩1500米跑成绩,奥运会十项全能运动项目 得分数据的因子分析,36,37,因子载荷矩阵可以看出，除第一因子在所有的变量在公共因子上有较大的正载荷，可以称为一般运动因子。其他的3个因子不太容易解释。似乎是跑和投掷的能力对比，似乎是长跑耐力和短跑速度的对比。于是考虑旋转因子，得下表,38,39,通过旋转，因子有了较为明确的含义。 百米跑，跳远和 400米跑，需要爆发

10、力的项目在 有较大的载荷， 可以称为短跑速度因子； 铅球， 铁饼和 标枪在 上有较大的载荷，可以称为爆发性臂力因子；百米跨栏， 撑杆跳远， 跳远和为 跳高在 上有较大的载荷， 爆发腿力因子； 长跑耐力因子。,40,变换后因子的共同度,设正交矩阵，做正交变换,变换后因子的共同度没有发生变化！,（二）旋转方法,41,变换后因子贡献,设正交矩阵，做正交变换,变换后因子的贡献发生了变化！,42,1、方差最大法方差最大法从简化因子载荷矩阵的每一列出发，使和每个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子上又较高的载荷时，对因子的解释最简单。方差最大的直观意义是希望通过因子旋转后，使每个因

11、子上的载荷尽量拉开距离，一部分的载荷趋于1，另一部分趋于0。,43,44,45,46,1、四次方最大旋转四次方最大旋转是从简化载荷矩阵的行出发，通过旋转初始因子，使每个变量只在一个因子上又较高的载荷，而在其它的因子上尽可能低的载荷。如果每个变量只在一个因子上又非零的载荷，这是的因子解释是最简单的。四次方最大法通过使因子载荷矩阵中每一行的因子载荷平方的方差达到最大。,47,48,3、等量最大法等量最大法把四次方最大法和方差最大法结合起来求Q和V的加权平均最大。,权数等于m/2，因子数有关。,49, 5 因子得分,（一）因子得分的概念,前面我们主要解决了用公共因子的线性组合来表示一组观测变量的有关

12、问题。如果我们要使用这些因子做其他的研究，比如把得到的因子作为自变量来做回归分析，对样本进行分类或评价，这就需要我们对公共因子进行测度，即给出公共因子的值。,50,人均要素变量因子分析。对我国32个省市自治区的要素状况作因子分析。指标体系中有如下指标： X1 ：人口（万人） X2 ：面积（万平方公里） X3 ：GDP（亿元） X4 ：人均水资源（立方米/人） X5：人均生物量（吨/人） X6：万人拥有的大学生数（人） X7：万人拥有科学家、工程师数（人）,Rotated Factor PatternFACTOR1 FACTOR2 FACTOR3X1 -0.21522 -0.27397 0.89

13、092X2 0.63973 -0.28739 -0.28755X3 -0.15791 0.06334 0.94855X4 0.95898 -0.01501 -0.07556X5 0.97224 -0.06778 -0.17535X6 -0.11416 0.98328 -0.08300X7 -0.11041 0.97851 -0.07246,51,X1=-0.21522F1-0.27397F2+0.89092F3X2=0.63973F1-0.28739F2-0.28755F3X3=-0.15791F1+0.06334F2+0.94855F3X4=0.95898F1-0.01501F2-0.075

14、56F3X5=0.97224F1-0.06778F2-0.17535F3X6=-0.11416F1+0.98328F2-0.08300F3X7=-0.11041F1+0.97851F2-0.07246F3,52,Standardized Scoring CoefficientsFACTOR1 FACTOR2 FACTOR3X1 0.05764 -0.06098 0.50391X2 0.22724 -0.09901 -0.07713X3 0.14635 0.12957 0.59715X4 0.47920 0.11228 0.17062X5 0.45583 0.07419 0.10129X6 0.05416 0.48629 0.04099X7 0.05790 0.48562 0.04822,F1=0.05764X1+0.22724X2+0.14635X3+0.47920X4+0.45583X5+0.05416X6+0.05790X7 F2=-0.06098X1-0.09901X2+0.12957X3+0.11228X4+0.07419X5+0.48629X6+0.48562X7 F3=0.50391X1-0.07713X2+0.59715X3+0.17062X4+0.10129X5+0.04099X6+0.04822X7,53,前三个因子得分,