《多重共线性问题的几种解决方法》由会员分享，可在线阅读，更多相关《多重共线性问题的几种解决方法（6页珍藏版）》请在金锄头文库上搜索。
1、多重共线性问题的几种解决方法在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之 间不存在线性关系，也就是说，解释变量 X, X2，,， Xk中的任何一个都不能 是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释 变量与其他解释变量间存在线性关系， 就称线性回归模型中存在多重共线性。 多 重共线性违背了解释变量间不相关的古典假设， 将给普通最小二乘法带来严重后 果。这里，我们总结了 8个处理多重共线性问题的可用方法， 大家在遇到多重共 线性问题时可作参考：1、保留重要解释变量，去掉次要或可替代解释变量2、用相对数变量替代绝对数变量3、差分法4、逐步回归分析5、
2、主成份分析6偏最小二乘回归7、岭回归8、增加样本容量这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的逐步回归分析方法的基本思想是通过相关系数 r、拟合优度R2和标准误 差三个方面综合判断一系列回归方程的优劣， 从而得到最优回归方程。具体方法 分为两步：第一步，先将被解释变量y对每个解释变量；J作简单回归：厲）y = /U2）y = /（jcj对每一个回归方程进行统计检验分析（相关系数 r、拟合优度R2和标准 误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方 程，根据每个新加的解释变量的标准差和复相关系数来
3、考察其对每个回归系数的 影响，一般根据如下标准进行分类判别：1 .如果新引进的解释变量使R2得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。2 .如果新引进的解释变量对 R2改进不明显，对其他回归系数也没有多大 影响，则不必保留在回归模型中。3.如果新引进的解释变量不仅改变了 R2，而且对其他回归系数的数值或 符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多 重共线性问题。不利变量未必是多余的，如果它可能对被解释变量是不可缺少的， 则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，
4、重新进 行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中 一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变 量，模型中保留影响较大的那个变量。下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具 体应用过程。具体实例例1设某地10年间有关服装消费、可支配收入、流动资产、服装类物价 指数、总物价指数的调查数据如表 1,请建立需求函数模型。表1服装消费及相关变量调查数据年份服装开支 可支配收入流动资产服装类物价总物价指数指数PcCYLP o（百万兀）（百万兀）（百万兀）1992 年=1001992 年=10019888.482.917.1929
5、419899.688.021.39396199010.499.925.19697199111.4105.329.09497199212.2117.734.0100100199314.2131.040.0101101199415.8148.244.0105104199517.9161.849.0112109199619.3174.251.0112111199720.8184.753.0112111（1）设对服装的需求函数为C = / + /?/ + PJ + 炖菇 + U用最小二乘法估计得估计模型:C = -13.534 4- 0.097Y + 0.015L- 0.199Pc + O.Q334P
6、o模型的检验量得分，R2=0.998, D- W=3.383 F=626.4634R2接近1说明该回归模型与原始数据拟合得很好。由626 4634 珂网SR = 5得出拒绝零假设，认为服装支出与解释变量间存在 显著关系。(2) 求各解释变量的基本相关系数 畑=0.98830扣=0.9804rr?e = 0.9877 么=09799巳 =0.9695 口馮=0.9918上述基本相关系数表明解释变量间高度相关，也就是存在较严重的多重共线 性。（3）为检验多重共线性的影响，作如下简单回归:C =-1.2455+0.U78Y(-3.J102)(41.9370)2 = 0.9955 D-fT = 2,6
7、271C = -38.5190+0.5164Pc(-9.1682)(12.5363)R2 =0.9516D-W= 2.4013 C = 2.1182 + 0.32691-2.5853)(15.3096)宀 09667C = -53.6508+ 0.6632JJ(-U.7710)(1S.65S5)A2 = 0.9775 D-fT = 2.1720各方程下边括号内的数字分别表示的是对应解释变量系数的t检验值观察以上四个方程，根据经济理论和统计检验(t检验值=41.937最大，拟 合优度也最高)，收入Y是最重要的解释变量，从而得出最优简单回归方程(4) 将其余变量逐个引入，计算结果如下表2:表2服装
8、消费模型的估计& （常如斤心）D-FTC = M)-1.24550.117O995S2.6271C-3.3102)(419370C = f(YrPc)1 40470.12570.03610 99572.533S(0.2852)(8.4259)(-0.5398)0.94000 1387-0j03450 99593 1568(0.1815)(5.5B45)(-0.4&41)(-0.66S2)C = f(X,Pc)-12.75930.1036O.18B20 31860 99803.5241C -l 9581(7 4640)(-2.4693)(2 6139C=fPctL)-155335QQ970-O.
9、1S91001510 34010.99803.3325C-1.8013 D(3.6603)C-220B7)C 0.3053)(2.2714结果分析： 在最优简单回归方程-11中引入变量Pc,使R2由0.9955提高到0.9957 ;根据经济理论分析，正号，-负号是合理的。然而t检验 亠不显著 认炕八前”卜。则），而从经济理论分析，Pc应该是重要因素。虽 然丫与Pc高度相关，但并不影响收入 丫回归系数的显著性和稳定性。依照第 1条判别标准，Pc可能是“有利变量”，暂时给予保留。 模型中引入变量L , R2由0.9957提高到0.9959，值略有提高。一方面,AA-虽然丫与L，Pc与L均高度相关，
10、但是L的引入对回归系数|、-的影响不大（其中的值由0.1257变为0.1387, J值由-0.0361变为-0.0345，变化很 小）；另一方面，根据经济理论的分析，L与服装支出C之间应该是正相关关系，A.即的符号应该为正号而非负号，依照第 2条判别标准，解释变量L不必保留在模型中 舍去变量L，加入变量P0，使R2由0.9957提高到0.9980 , R2值改进较大。、- 均显著（这三个回归系数的t检验值绝对值均大于丄i913），从经济意义上看也是合理的（服装支出C与Y,P0之间呈正 相关，而与服装价格Pc之间呈负相关关系）。根据判别标准第 1条，可以认为 Pc、P0皆为“有利变量”，给予保留
11、。 最后再引入变量L ,此时R2 = 0.9980没有增加（或几乎没有增加），新 引入变量对其他三个解释变量的参数系数也没有产生多大影响，可以确定 L是 多余变量，根据判别标准第2条，解释变量L不必保留在模型中。因此我们得到如下结论回归模型为最优模型。通过以上案例的分析，我们从理论和实际问题两方面具体了解了逐步回归分 析是如何对多重共线性问题进行处理的。事实上，一般统计软件如SPSS在回归模型的窗口中都会提供变量逐步进入的选项，勾选后实际上就是选择了运用逐步回归的思想来构建回归模型。运用 SPSS软件不需要我们懂得其背后的运行规 律，然而作为分析师，了解并理解模型背后的理论知识，将更有助于我们理解模型、解释结论背后的内在含义，从而达到更好地分析问题的目的。
