《计量经济学课件》由会员分享，可在线阅读，更多相关《计量经济学课件（59页珍藏版）》请在金锄头文库上搜索。
1、第三章 多元线性回归模型n估计问题n推断问题n多元线性回归模型的延伸计量经济学优秀课件一、估计问题n多元线性回归模型n多元线性回归模型的假设n偏回归系数的OLS估计n偏回归系数的含义计量经济学优秀课件1. 多元线性回归模型n设因变量y是k-1个解释变量x2，x3， xk和误差项的线性函数： yi=1+2x2i+3x3i+kxki+i i=1,2, n 其中：1为常数项，2, 3 , k为偏回归系数n这一模型实际上包含n个方程： y1=1+2x21+3x31+kxk1+1 yn=1+2x2n+3x3n+kxkn+n计量经济学优秀课件多元回归模型的矩阵表示Y = X + Un1n1nkk1注意：解
2、释变量个数为k-1计量经济学优秀课件2. 多元回归模型的假设n假设1： x2，x3， xk是非随机的。n假设2：E(i)=0 i=1,2, nn假设3：Var(i)=2 (E(ii)= 2 )n假设4：无序列相关， E(ij)=0n假设5：x诸变量间无准确的线性关系，即：无多重共线性。数学表示为：不存在一组不全为零的数2、3、 k，使得： 2x2i+ 3x3i+ + kxki=0n假设6：i N(0, 2)计量经济学优秀课件关于多重共线性的进一步说明n如果存在一组不全为零的数2、3、 k，使得： 2x2i+ 3x3i+ + kxki=0 n不妨设20，则上式可变为： x2i=-(3x3i+ +
3、 kxki)/2称解释变量之间存在完全共线性，此时，某个解释变量可以写为其它解释变量的线性组合。n如果 ，会不会破坏无多重共线假定？不会，因为这两个变量的关系是非线性的！计量经济学优秀课件经典假设的矩阵表示n假设2：n假设3和4：n假设5：矩阵X的秩等于回归参数的个数（或解释变量个数加1），R(X)=k ， nk计量经济学优秀课件3. 偏回归系数的OLS估计n二元回归的样本回归函数为：nOLS估计：极值条件正规方程解此联立方程既可求得参数估计值计量经济学优秀课件OLS估计量的方差和标准误自变量相关程度越高，参数估计的方差越大。当x2和x3完全共线时，方差趋于无穷。计量经济学优秀课件OLS估计量
4、的性质n在经典线性模型假定下，可证明，偏回归系数的OLS估计量满足高斯-马尔可夫定理。nOLS回归线的性质：n三变量回归线通过各观测值均值n n n n残差和i不相关，即：计量经济学优秀课件4. 偏回归系数的含义n二元回归模型为：二元回归模型为：yi= 1+ 2x2i+ 3x3i+ i 偏回归系数表示了其他因素不变时，相应解释变量对因变量的偏回归系数表示了其他因素不变时，相应解释变量对因变量的“净影响净影响”。计量经济学优秀课件例1 “期望扩充”菲利普斯曲线n菲利普斯曲线表明：通货膨胀率和失业率是反向变化的。期望扩充菲利普斯曲线增加了预期通货膨胀率的影响。n1970-1982年美国真实通货膨胀
5、率y（%）、失业率x2（%）和与其通货膨胀率x3（%）数据如表，作菲利普斯曲线。n原始菲利普斯曲线：yt=b1+b12x2t+1tn期望扩充菲利普斯曲线:yt=1+2x2t+3x3t+t 计量经济学优秀课件b12 2估计值为正，失业率与通胀率同方向？符号正确，统计显著。统计上不显著异于0例1 “期望扩充”菲利普斯曲线n估计结果n原始菲利普斯曲线n 期望扩充菲利普斯曲线设定偏误设定偏误? ?计量经济学优秀课件a1=-1.392472=22表示了x3不变时，x2单位变化到值的y均值的变化例1 偏回归系数2的含义n做三步回归 ：nyt = b1 + b13x3t+ 1t nX2t = b2 + b2
6、3x3t + 2tn1t = a0 + a1 2t + 3t1t=yt-b1 -b13x3t 表示除去x3对y的线性影响后的yt值2t= x2t-b2 b23x3t 表示除去x3对x2的线性影响后的x2t值净化了的yt对净化了的x2t的回归:系数a1反映了x2的单位变化对y的真实或“净”影响计量经济学优秀课件E(b12 ) = 2 + 3 b32 b12不仅度量了x2对y的净影响，还包括了x2对x3的影响而间接对y产生的影响2=-1.392472b12 2？ 设定偏误初探设定偏误初探nyt=b1+b12x2t+1tnyt=1+2x2t+3x3t+t b12=0.244934nx3t=b2+b3
7、2x2t+2t x3t =-0.725280+1.113857x2tb32=1.113857计量经济学优秀课件5. 复判定系数R2n以二元回归为例，复判定系数R2定义如下：ESSRSSTSSn0R2 1， R2 =1时，所拟合的回归线100%地解释y的变异。计量经济学优秀课件校正的复判定系数nR2的重要性质：模型中解释变量个数的非减函数，即随着解释变量个数的增加， R2几乎必然增大，不减小。易给人错觉：要使模型拟合得更好，只要在方程中加入新的变量即可。n校正的判定系数定义如下：对有k-1个解释变量的多元回归方程 n-k为残差平方和的自由度 n-1为总平方和的自由度是真实方差的一个无偏估计为y的
8、样本方差校正指对R2中的平方和用其自由度校正计量经济学优秀课件二、相关分析n简单相关系数n偏相关系数n复相关系数计量经济学优秀课件1. 简单相关系数n两个变量间的相关系数n总体相关系数：n由于总体参数未知，样本相关系数：n样本项关系数与回归系数的关系n一元线性回归方程：样本标准误rxy=0时， 即当x与y线性无关时，回归系数应为0，反之亦然。计量经济学优秀课件例2 n某地一年级12名女大学生的体重x与肺活量y数据如表，试计算肺活量与体重的相关系数，并检验两者间是否有直线相关关系。n求解过程：AnalyzeCorelateBivariate计量经济学优秀课件1. 简单相关系数n相关矩阵：多个变量
9、两两之间的简单相关系数形成的矩阵。n例3 手表需求：手表价格、销售量和人均收入之间的相关矩阵。计量经济学优秀课件2. 偏相关系数n偏相关定义：在多个变量y,x1,x2,xk之间，如果只考虑两个变量之间的真实相关关系，而排除其他变量对它们的影响（或者说其他变量保持不变），这种相关成为偏相关。n在偏相关中，根据被固定的变量数目的多少，可分为零阶偏相关（即简单相关）、一阶偏相关、二阶偏相关、（k-1）阶偏相关等。n偏相关系数：用来衡量偏相关程度的数量指标。n例： 为x3保持不变下y和x2的一阶偏相关系数 计量经济学优秀课件简单相关系数vs偏相关系数nr123与r12的关系nr12=0时， r123并
10、不为0，除非r13或r23为0。nr123与r12不一定同号。n n即使 r13= r23 =0， r12不一定为0，即y与x3不相关，x2与x3也不相关，但并不意味着y与x2不相关。如果如果y y与与x x2 2的偏向关系数为的偏向关系数为0 0，意味，意味着在消除了着在消除了x x3 3对每个变量的线性影对每个变量的线性影响后，响后，y y与与x x2 2之间没有线性关联，这之间没有线性关联，这时我们可以下结论说：在模型中时我们可以下结论说：在模型中x x2 2对对y y没有直接影响。没有直接影响。计量经济学优秀课件例4n某地15名13岁男童身高x1(cm)、体重x2(kg)、和肺活量y(
11、ml)的数据如表。试对该资料做控制体重影响的身高与肺活量的偏相关分析。n步骤： AnalyzeCorelatePartialn选“身高”和“肺活量”为分析变量，“体重”为控制变量，“双尾检验”，“显示实际显著性水平”n选项：同时输出均值和标准差及零阶相关系数计量经济学优秀课件偏判定系数n 可称为偏判定系数，并可解释为y的变异中未被x2 解释的部分，由于x3被引进到模型总来而得到解释的比例。n复判定系数R2、简单相关系数以及偏判定系数之间的关系由x2和x3解释的部分由x2单独解释的部分未被x2解释的部分乘以在x2影响保持不变下由x3解释的比例解释变量个数的非减函数计量经济学优秀课件3. 复相关系
12、数Rn定义：指反映多个变量y,x2,xk，其中一个变量y于其他所有变量相关程度的度量指标。n n复相关系数意义不大计量经济学优秀课件三、推断问题n关于单个偏回归系数的假设检验n方程总显著性检验n检验两个或多个系数是否相等n检验偏回归系数是否满足某种约束条件n检验所估计的回归模型在时间上或在不同截面上的稳定性n检验回归模型的函数形式计量经济学优秀课件 单个偏回归系数假设检验n假设iN(0,2)，便可用t检验统计量对任一个别偏回归系数的假设进行检验。n单零检验：H0:2=0 ; H1: 20 检验统计量服从自由度为n-3的t分布服从n-4的t分布n例：检验两个回归系数是否相等： H0:2= 3 H
13、0:2-3 =0 H1: 2 3 H1:2-3 0计量经济学优秀课件 方程显著性检验n概念：n对二元线性回归方程， H0:2=3=0 H1: 2和3不同时为0 被称作对所估回归系数的总显著性检验，即检验y是否与x2和x3有线性关系。联合检验。n联合检验与单零检验是否等同？即是否能通过对偏回归系数逐一进行单零检验，以此来检验联合假设呢？否！Cov(2,3)未必是0计量经济学优秀课件1. 多元回归的总显著性检验n给定多元线性回归方程 yi=1+2x2i+3x3i+kxki+in联合检验为： H0:2=3= k=0 H1: 全部回归系数不同时为0检验统计量如果FF(k-1,n-k)，或由F得到的p值
14、足够小，则拒绝H0 ，否则不要拒绝。计量经济学优秀课件2. R2与F的关系n假定干扰为正态分布， n从上式可看出，F与R2是通向变化的：n当R2 =0时，F=0nR2越大，F值也越大。当R2=1时，FnF检验既是所估回归的总显著性的一个度量，也是R2的一个显著性检验计量经济学优秀课件3. 一个解释变量的“边际”贡献n例5 1956-1970年美国个人消费PCE(y)和个人可支配收入PDI(x2)数据如表。n做回归：yt=b1+b12x2t+1t (1)n针对可能存在的谬误相关，引入时间趋势变量x3n做新回归： yt=1+2x2t+3x3t+t (2)计量经济学优秀课件3. 一个解释变量的“边际
15、”贡献n解释变量的“边际”贡献：指当计量经济模型已存在若干个解释变量时，再新增加一个解释变量，这个解释变量的引入是否相对于RSS来说，“显著地”增加了ESS，从而增加了R2。n例5：美国个人消费支出和个人可支配收入模型，nyt=b1+b12x2t+1t (1)n新增加一个时间趋势变量x3，模型变为：nyt=1+2x2t+3x3t+t (2)n新模型的判定系数R2是否由于新解释变量x3的引入而显著增加了x3的边际贡献问题计量经济学优秀课件新变量增量贡献的方差分析表变异来源平方和（SS）df均方和ESS仅由于x2ESS由于x3的加入ESS由于x2和x3RSS总计（TSS）Q2=Q3-Q1Q4=Q5
16、-Q3112n-3n-1Q1/1Q2/1Q3/2Q4/n-3为了评估x3的增量贡献，构造F统计量：计量经济学优秀课件例5 时间趋势变量的边际贡献变异来源平方和（SS）df均方和ESS仅由于x2ESS由于x3的加入ESS由于x2和x3RSS总计（TSS）Q1=65898.2354Q2=Q3-Q1=66.866Q3=65965.10098Q4=77.16902Q5=66042.27112121465898.266.86632982.66.43075F服从(1,12)的F分布，查F表可知F值在1%水平上显著，时间变量的引入显著地增大ESS，应把时间变量加到模型中来计量经济学优秀课件四、多元线性回归模
17、型的延伸n线性回归模型的普遍性n对数线性模型测度弹性n半对数模型测量增长率n倒数模型n多项式回归n受约束的最小二乘法：检验线性等式约束计量经济学优秀课件1. 线性回归模型的普遍性n“线性”一词的含义：两重n对解释变量线性：y的条件期望值是xi的线性函数n对参数线性：y的条件期望是诸参数的线性函数n我们前面给出的模型：nyi=1+2x2i+3x3i+kxki+i i=1,2, n符合哪种含义？n线性回归指对参数为线性的回归，对解释变量x可以非线性。通过适当的变换，就可得到标准多元线性回归模型。计量经济学优秀课件2. 对数线性模型测度弹性n对数线性模型的特点：斜率系数2测度了y对x的弹性：计量经济
18、学优秀课件例6 美国咖啡需求：1970-1980n美国咖啡消费（y）与平均真实零售价格（x）数据如表，（x=名义价格/食品与饮料的消费者价格指数，1967年=100），求咖啡消费函数。n输入数据n散点图：确定函数形式：y-x; lny-lnxn建立模型: lny=+lnx+in参数估计：计量经济学优秀课件线性模型对数线性模型R2=0.663 1=-0.480R2=0.745 1=-0.253哪个模型更好？ 回归参数的意义？不可比不可比计量经济学优秀课件R2的可比性问题n根据判定系数来比较两个模型的时候，一定要注意样本容量n和因变量都必须相同，而解释变量则可取任何形式。n对咖啡需求的两个模型：n
19、yi=+xi+inlnyi=+lnxi+InR2项是不可直接相比的，因为它们是不同尺度的。要比较必须进行处理。计量经济学优秀课件不同尺度R2的比较方法n以咖啡需求为例nyi=+xi+i (1)nlnyi=+lnxi+i (2)n方法一：对模型(1)得到的 取对数，然后求其与方程(2)的lnyi之间的R2，此R2与(2)的判定系数有可比性。n(1)转换后的R2=0.677线性模型的R2n两种方法比较结果相同：对数线性模型的拟合程度高于线性模型。计量经济学优秀课件3. 半对数模型-测度增长率n假如要求GDP的增长率，有如下公式：nyt=y0(1+r)tn其中，yt：时间t的实际GDP; y0：实际
20、GDP的初始值；r：y的复合增长率。n两边取对数：lnyt=lny0+tln(1+r)n令1=lny0 ，2=ln(1+r)，并增加干扰项n方程变为： lnyt =1+2t+i半对数模型n模型特点：2：测度了GDP的恒定相对增长率。计量经济学优秀课件b23=17.13,说明个人可支配收入每年平均增长17亿美元。例：n用例5数据，求1956-1970年美国个人可支配收入的增长率。X2:个人可支配收入，x3:时间变量n模型：lnx2i= 1+2x3i+in求解过程n结果：2=0.04228，说明56-70年间，美国个人可支配收入每年增长4.23%比较线性趋势模型：x2i= b2+b23x3i+i计
21、量经济学优秀课件4. 倒数模型n模型特点：随着x无限增大， 项趋于0，y趋于极限值。n分三种类型：201010xy120xy1倒数模新的线性化：令 原方程变为：y=1+2zi+i计量经济学优秀课件5. 多项式回归模型n关于参数线性n令： 作代换得: y= 0+1xi +2x2i+i常用于成本和生产函数的计量经济分析计量经济学优秀课件6. 受约束的最小二乘法n经济理论有时会提出某一回归模型中系数满足一些线性等式约束条件受约束最小二乘法n例：柯克道格拉斯生产函数如果规模报酬不变，即每一同比例的投入变化有同比例的产出变化，则C-D函数有如下约束：2+3=1计量经济学优秀课件2+3=1的检验nt检验法
22、：先做无约束回归，得到2、3的估计之后，就可通过t检验来检验约束是否满足。t服从n-k的t分布。计量经济学优秀课件F检验法：受约束最小二乘法n基本思路：将约束条件纳入估计过程中。n将 2=1- 3 带入模型：产出与劳动比率资本与劳动比率对上式进行参数估计后，计算2=1- 3 ，就可得到2值。这种估计方法保证了所估计的两投入系数之和必然等于1。可推广到含有任意多个解释变量、有多于一个线性等式约束的模型。计量经济学优秀课件F检验法：受约束最小二乘法n判断约束条件是否成立的F检验：nH0: 2+3=1F遵循分子自由度为m，分母自由度为(n-k)的F分布。F还可以通过R2表达如下：用R2计算F时要注意
23、：当受约束和无约束模型中的因变量不同时， R2需要经转换后再计算。计量经济学优秀课件例7 58-72年台湾农业C-D函数n1958-1972年台湾地区农业部门的实际总产值、劳动日和实际资本投入数据如表，求生产函数。n无约束回归:？计量经济学优秀课件例7 规模报酬不变的t检验=0.05,=0.10，t/2=2.179 t/2=1.782遵循15-3=12的t分布结论：在5%的水平上不能拒绝原假设，农业经历规模报酬不变仍有可能不仍有可能不显著异于显著异于1 1注意注意注意注意：计量经济学优秀课件例7 受约束回归N=15, k=3, m=1=0.05,=0.10，F=4.75 F=3.18F在5%水
24、平上不显著，接受原假设；在10%水平上显著，拒绝原假设。显著性水平显著性水平影响结论影响结论2=1- 3=1-0.613=0.387计量经济学优秀课件有约束模型回归系数有约束模型回归系数 3 3的标的标准误小，估计精度高。准误小，估计精度高。例7 两模型的比较：哪个更好？R2=0.769, 转换后R2=0.85哪个模型拟合哪个模型拟合程度高？程度高？计量经济学优秀课件一般的F检验方法nyi=1+2x2i+3x3i+kxki+i i=1,2, nn约束条件：n约束条件F检验一般策略：n先有一个较大模型，为无约束模型。n然后通过删除某些变量或对无约束模型的参数施加某种线性约束，得到一个较小的受约束
25、模型。n分别用这两个模型去拟合数据，以获得RSSUR（自由度为n-k）和RSSR（自由度为线性约束的个数或从模型中略去的回归元个数m）。n计算：计量经济学优秀课件例8 美国子鸡需求n1960-1982年美国子鸡需求数据如表，求需求函数，y:子鸡消费量，x2:可支配收入，x3:子鸡价格，x4:猪肉价格，x5:牛肉价格。n无约束回归： 0:替代品 20；30； 4 、5 0:互补品 =0：无关产品偏回归系数符号：不显著异于0计量经济学优秀课件例8 受约束回归nH0:4=5=0 m=2, n=23, k=5n受约束回归模型：=0.05, F=3.55 在0.05水平上，接受原假设，子鸡需求与猪肉、牛
26、肉无关计量经济学优秀课件作业1：n电话线制造商用来预测1968-1983年一主要用户的销售量的数据如表（见电线电缆需求）。y:年销售量（百万尺双线），x2：国民总产值（10亿美元），x3:新房动工数（1千单位），x4:失业率（%），x5:滞后6个月的最惠利率，x6:用户用线增量%。n考虑以下模型：yt=1+2x2t+3x3t+4x4t+5x5t+ 6x6t+tn此模型中各系数的预期符号是什么？n估计以上回归，经验结果与事前预期一致吗？n偏回归系数是否显著？n假使你先做y对x2、x3和x4的回归，然后决定是否在加进变量x5和x6，你如何检验是否值得把x5和x6加进来？说明必要的计算。计量经济学优秀课件作业2计量经济学优秀课件
