《应用回归分析 第七章答案》由会员分享,可在线阅读,更多相关《应用回归分析 第七章答案(16页珍藏版)》请在金锄头文库上搜索。
1、第七章岭回归1.岭回归估计是在什么情况下提出的?答:当解释变量间出现严重的多重共线性时,用普通最小二乘法估计模型参数,往往参数估计方差太大,使普通最小二乘法的效果变得很不理想,为了解决这一问题,统计学家从模型和数据的角度考虑,采用回归诊断和自变量选择来克服多重共线性的影响,这时,岭回归作为一种新的回归方法被提出来了。2.岭回归估计的定义及其统计思想是什么?答:一种改进最小二乘估计的方法叫做岭估计。当自变量间存在多重共线性,XX0时,我们设想给XX加上一个正常数矩阵kI(k0),那么XX+kI 接近奇异的程度小得多,考虑到变量的量纲问题,先对数据作标准化,为了计算方便,标准化后的设计阵仍然用X表
2、示,定义为 1X XIX y ,称为的岭回归估计,其中k称为岭参数。3.选择岭参数k有哪几种主要方法?答:选择岭参数的几种常用方法有1.岭迹法,2.方差扩大因子法,3.由残差平方和来确定k值。4.用岭回归方法选择自变量应遵从哪些基本原则?答:用岭回归方法来选择变量应遵从的原则有:(1)在岭回归的计算中,我们假定设计矩阵X已经中心化和标准化了,这样可以直接比较标准化岭回归系数的大小,我们可以剔除掉标准化岭回归系数比较稳定且绝对值很小的自变量。(2) 当k值较小时标准化岭回归系数的绝对值并不是很小,但是不稳定,随着k的增加迅速趋于零。像这样的岭回归系数不稳定,震动趋于零的自变量,我们也可以予以删除
3、。(3) 去掉标准化岭回归系数很不稳定的自变量,如果有若干个岭回归系数不稳定,究竟去掉几个,去掉哪几个,这并无一般原则可循,这需根据去掉某个变量后重新进行岭回归分析的效果来确定。5.对第5章习题9的数据,逐步回归的结果只保留了3个自变量x1,x2,x5,用y对这3个自变量做岭回归分析。答: 依题意,对逐步回归法所保留的三个自变量做岭回归分析。程序为:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=y/enter x1 x2 x5/start=0.0/stop=1/inc=0.01.岭迹图如下:1.200001.00
4、0000.800000.600000.400000.200000.000004.0000003.0000002.0000001.0000000.000000-1.000000-2.000000x5 Kx2 Kx1 Kx5 Kx2 Kx1 KKR RI ID DG GE E T TR RA AC CE E计算结果为:可以看到,变量x1、x2迅速由负变正,x5迅速减小,在0.01-0.1之间各回归系数的岭估计基本稳定,重新做岭回归。岭迹图如下:先取k=0.08:语法命令如下:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg de
5、p=y/enter x1 x2 x5/k=0.08.运行结果如下:得到回归方程为:1230.160.080.06738.84yxxx再取k=0.01:语法命令如下:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=y/enter x1 x2 x5/k=0.01.运行结果:* Ridge Regression with k = 0.01 *Mult R .9931857RSquare .9864179Adj RSqu .9840210SE 329.6916494ANOVA tabledf SS MSRegress 3.
6、000 134201841 44733947Residual 17.000 1847841.9 108696.58F value Sig F411.5487845 .0000000-Variables in the Equation-B SE(B) Beta B/SE(B)x1 .0556780 .0615651 .0981355 .9043751x2 .0796395 .0218437 .3291293 3.6458814x5 .1014400 .0108941 .5621088 9.3114792Constant 753.3058478 121.7381256 .0000000 6.187
7、9205回归方程为: y=753.3058-0.05568x10.0796x20.1014x5从上表可看出,方程通过F检验,R检验,经查表,所有自变量均通过t检验,说明回归方程通过检验。从经济意义上讲,x1(农业增加值)、x2(工业增加值)x5(社会消费总额)的增加应该对y(财政收入)有正方向的影响,岭回归方程中三个自变量的系数均为正值,与实际的经济意义相符。比逐步回归法得到的方程有合理解释。6.对习题3.12的 问题,分别用普通最小二乘和岭回归建立GDP对第二产业增加值x2,和第三产业增加值x3的二元线性回归,解释所得到的回归系数?答:(1)普通最小二乘法:C Co oe ef ff fi
8、ic ci ie en nt ts sa a4352.859679.0656.410.000 1.438.151.7759.544.000 .679.244.2262.784.017(Constant) Model 1BStd. ErrorUnstandardized Coefficients BetaStandardized Coefficients tSig.Dependent Variable: GDPa. 根据上表得到y与x2,x3的线性回归方程为:=4352.859+1.438x2+0.679x3y 上式中的回归系数得不到合理的解释. 的数值应该大于1,实际上,x3的年增长幅度大于x
9、1和x2的年增长幅度,因此3 合理的的数值应大于1。这个问题产生的原因仍然是存在共线性, 3 所以采用岭回归来改进这个问题。(2)岭回归法:程序为:includeC:Program FilesSPSSEVALRidge regression.sps.ridgereg dep=GDP/enter x2 x3/start=0.0/stop=0.5/inc=0.01.根据岭迹图(如下图)可知,和很不稳定,但其和大体上稳定)( 2k )( 3k ,说明x2和x3存在多重共线性。取k=0.1,SPSS输出结果为:Mult R .998145, RSquare .996294Adj RSqu .99567
10、7,SE 2364.837767ANOVA tabledf SS MSRegress 2.000 1.80E+010 9.02E+009Residual 12.000 67109492 5592457.7F value Sig F1613.140715 .000000-Variables in the Equation-B SE(B) Beta B/SE(B)x2 .907990 .021842 .489067 41.571133x3 1.393800 .035366 .463649 39.410560Constant 6552.305986 1278.903452 .000000 5.123
11、3780.600000.500000.400000.300000.200000.100000.000000.8000000.7000000.6000000.5000000.4000000.3000000.200000x3 Kx2 KKR RI ID DGGE E T TR RA AC CE E得岭参数k=0.1时,岭回归方程为 = 6552.306+0.908 x2+1.3938 y x3,得岭参数k=0.01时,岭回归方程为 = 3980.2+1.091 x2+1.227 x3,y 与普通最小二乘回归方程相差很大。岭回归系数=1.227与前面的分析是吻合的,其解释是当第二产业增加值3 x2保
12、持不变时,第三产业增加值 x3每增加1亿元GDP增加1.227亿元,这个解释是合理的。7.一家大型商业银行有多家分行,近年来,该银行的贷款额平稳增长,但不良贷款额也有较大比例的提高,为弄清楚不良贷款形成的原因,希望利用银行业务的有关数据做些定量分析,以便找出控制不良贷款的办法,表7.5是该银行所属25家分行2002年的有关业务数据。(1)计算y与其余四个变量的简单相关系数。(2)建立不良贷款y对4个自变量的线性回归方程,所得的回归系数是否合理?(3)分析回归模型的共线性。(4)采用后退法和逐步回归法选择变量,所得回归方程的回归系数是否合理,是否还存在共线性?(5)建立不良贷款y对4个自变量的岭
13、回归。(6)对第4步剔除变量后的回归方程再做岭回归。(7)某研究人员希望做y对各项贷款余额,本年累计应收贷款.贷款项目个数这三个变量的回归,你认为这种做是否可行,如果可行应该如何做?相关性不良贷款y各项贷款余额x1本年累计应收到款x2贷款项目个数x3本年固定资产投资额x4Pearson 相关性不良贷款y1.000.844.732.700.519各项贷款余额x1.8441.000.679.848.780本年累计应收到款x2.732.6791.000.586.472贷款项目个数x3.700.848.5861.000.747本年固定资产投资额x4.519.780.472.7471.000不良贷款y.
14、000.000.000.004各项贷款余额x1.000.000.000.000本年累计应收到款x2.000.000.001.009贷款项目个数x3.000.000.001.000Sig. (单侧)本年固定资产投资额x4.004.000.009.000.不良贷款y2525252525各项贷款余额x12525252525本年累计应收到款x22525252525贷款项目个数x32525252525N本年固定资产投资额x42525252525系数a非标准化系数标准系数共线性统计量模型B标准 误差试用版tSig.容差VIF(常量)-1.022.782-1.306.206各项贷款余额x1.040.010.8913.837.001.1885.331本年累计应收到款x2.148.079.2601.879.075.5291.890贷款项目个数x3.015.083.034.175.863.2613.8351本年固定资产投资额x4-.029.015-.325-1.937.067.3602.781a. 因变量: 不良贷款y共线性诊断a方差比例模型维数特征值条件索引(常量)各项贷款余额x1本年累计应收到款x2贷款项目个数x3本年固定资产投资额x414.5381.000.01.00.01.00.002.2034.733.68.03.02.01.093.1575.378.16.00.66.01.134.066