计量经济学第4章多元回归分析

《计量经济学第4章多元回归分析》由会员分享，可在线阅读，更多相关《计量经济学第4章多元回归分析（42页珍藏版）》请在金锄头文库上搜索。

1、第四章第四章 多元线性回归分析多元线性回归分析计量经济学，高教出版社，2011年6月 王少平、杨继生、欧阳志刚等编著1多元线性回归模型多元线性回归模型包含多个解释变量的线性回包含多个解释变量的线性回归模型归模型n一元线性回归模型能合理地描述实际经济情况吗？n现实经济情况往往体现：对一个经济变量的解释有多个因素，因此应该使用多个解释变量的多元回归分析。n如果一个模型确实存在多个解释变量，我们使用一元线性回归会产生设定偏误。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著24.1 多元线性回归模型的两个例子多元线性回归模型的两个例子一、例题一、例题1：CD生产函数生产函数 n这

2、是一个非线性函数，但取对数可以转变为一个这是一个非线性函数，但取对数可以转变为一个对参数线性的模型对参数线性的模型n注意：注意：“线性线性”的含义是指方程对参数而言是线的含义是指方程对参数而言是线性的性的 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著3二、二、 多元线性回归模型的一般形式多元线性回归模型的一般形式n一般形式可以表述为如下的形式：n均值方程n线性回归方程与均值方程的联系计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著4问题本质：问题本质： 这部分是解释变量无法解释的随机噪声。并且被分解的这两部分是正交的，即这两部分没有信息的重叠。 多元

3、线性回归方程将被解释变量分解成为两部分： 这部分是可以由解释变量来解释。 （2）（1）计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著5三、偏效应三、偏效应n解释变量的估计参数 表示 对被解释变量均值的偏效应。 n表示其他被解释变量均保持不变时， 变化一个单位，导致被解释变量均值变化 个单位。n为什么叫偏效应？这是因为它的含义恰好类似于高等数学中偏导数的含义。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著64.2 多元线性回归模型的多元线性回归模型的OLS估计估计n一、回归系数的估计一、回归系数的估计n1. 回归系数的回归系数的OLS估计：一般形式估计

4、：一般形式 其样本回归函数为： 是OLS估计量 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著7问题本质问题本质nOLS的估计思想：（1）寻找参数估计量 ，使得样本回归函数与所有样本观测点的偏离最小，即残差平方和最小。 为什么不选择离差之和最小化或者离差绝对为什么不选择离差之和最小化或者离差绝对值之和最小化呢？值之和最小化呢？ 因为离差之和会使正负误差抵消，而离差绝对值不便于数学上做优化处理，所以选择了离差平方和最小化作为优化目标，这也就是为什么这种估计方法被称为最小二乘法的原因。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著8n（2）优化目标）优化

5、目标根据其一阶优化条件：计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著9得到计算回归系数估计量的正规方程组：注意注意：只有回归方程中包含常数项，由OLS估计所得残差总和才一定为0。含义含义：OLS估计所的残差与解释变量不相关。即残差中不存在任何可解释的成份。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著10假定假定7：回归模型的解释变量之间不能存：回归模型的解释变量之间不能存在完全的多重共线性。在完全的多重共线性。 n“完全的多重共线性”：是指一个解释变量是其他解释变量的线性组合 。说明该解释变量所说明该解释变量所提供的信息与其他解释变量是完全重复的

6、。提供的信息与其他解释变量是完全重复的。n当存在完全共线性时，模型的参数不可识别。即任何方法都无法得到参数估计值，包括OLS。n存在不完全共线性时，可以得到参数估计值。OLS估计量是BLUE。但与没有多重共线性时相比，估计量的方差较大，估计精度下降。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著112. 回归系数的回归系数的OLS估计：以二元回归模型为例估计：以二元回归模型为例 基于残差平方和的最小化，得到正规方程组：计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著12由正规方程组求解，得到回归系数的估计量：由正规方程组求解，得到回归系数的估计量：计量

7、经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著13n基于方差公式得到各回归系数估计量的方差：基于方差公式得到各回归系数估计量的方差：计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著14例子：基于表例子：基于表4.1.1的数据估计中国宏观生产函数的数据估计中国宏观生产函数Se： 0.7880 0.0902 0.0220t值： -11.31367 7.3534 34.1171p值： 0.0000 0.0000 0.0000 P值非常小，这表明各个解释变量对被解释变量有显著的解释作用。 回忆回忆：P值是检验结论犯第一类“弃真”错误的概率。P值非常小的含义是什么呢

8、？计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著15二、随机误差项方差的估计二、随机误差项方差的估计的无偏估计量可以表述为： 自由度为什么是自由度为什么是N-(K+1)？ 多元回归模型的OLS估计中，我们基于正规方程组中的K+1个约束估计了K+1个回归系数，所以损失了K+1个自由度，独立的观测信息只剩下N-(K+1)个。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著16三、判定系数的调整三、判定系数的调整总平方和等于解释平方和加上残差平方和 TSSESS+RSS 判定系数 后果后果：在回归模型中增加新的解释变量时， 只可能增加，而决不会下降。 缺陷缺

9、陷： 只反映拟合效果，不反映自由度损失。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著17调整后的调整后的 调整思想整思想： 对 进行自由度调整。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著181. 单个回归系数的显著性检验单个回归系数的显著性检验如果随机误差项是经典误差项，并且满足正态性假定 ： 用估计量的标准误替代标准差，统计量服从t分布。即： 注意：注意：与一元回归的唯一区别是自由度。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著4.3 多元线性回归模型的假设检验多元线性回归模型的假设检验19三、多参数的线性约束检验三、

10、多参数的线性约束检验1：模型的总体显著性检验：模型的总体显著性检验（5.4.3）、 若随机误差项满足中至少一个不为0。则在原假设成立情况下：有计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著20F分布的密度函数分布的密度函数0F概率1概率概率密度图4.3.3 F检验的判定规则注意：注意：总体显著性检验是单边的右侧检验总体显著性检验是单边的右侧检验 。 若统计量的统计值超过 ，则拒绝原假设计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著21可决系数与可决系数与F检验检验由方差分析可以看出，由方差分析可以看出，F检验与可决系数有密切联系，二者检验与可决系数有

11、密切联系，二者都建立在对应变量变差分解的基础上。都建立在对应变量变差分解的基础上。F统计量也可通过可统计量也可通过可决系数计算：决系数计算：可看出：当可看出：当 时，时， 越大，越大， 值也越大值也越大 当当 时，时， 222：模型参数之间的线性约束检验：模型参数之间的线性约束检验：例子：柯布道格拉斯生产函数检验假设为：1 这样的多参数单个线性约束，有两种检验方法. 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著23本例中： =5.9456。 p值为0.0000 结论：结论：拒绝规模报酬不变的原假设。 （1）t检验检验计量经济学，高教出版社2011年6月，王少平、杨继生、

12、欧阳志刚等编著24（2）F检验：检验：n无约束回归方程n将原假设中的约束条件带入回归方程，得到了所谓的“有约束回归方程” 。将其RSS记为，自由度为N-3。将其RSS记为，自由度为N-2。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著25基于和，在原假设成立的情况下，有如果原假设为真，我们会倾向于得到较小的值。反之，我们会倾向于得到较大的值。检验统计量检验统计量判定判定：若F值大于临界值，或p值小于显著性水平，则拒绝原假设。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著26中国生产函数的例子中国生产函数的例子 ：39.2330。 0.0279，0.0

13、700， F检验统计值为：该F统计值的p值为0.0000，所以，我们可以拒绝中国经济规模报酬不变的原假设。 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著27基于和，在原假设成立的情况下，有如果原假设为真，我们会倾向于得到较小的值。反之，我们会倾向于得到较大的值。检验统计量检验统计量判定判定：若F值大于临界值，或p值小于显著性水平，则拒绝原假设。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著3：参数的线性约束检验：参数的线性约束检验：F检验一般形式检验一般形式284：经济关系的结构稳定性检验：经济关系的结构稳定性检验：F检验的一检验的一个例子个例子邹

14、检验邹检验n例：中国宏观生产函数在1992年前后是否不同？19781992年： 19932006年： 无约束回归无约束回归：参数可以不同受约束回归受约束回归：参数不变19782006年： 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著29F检验统计量检验统计量：在原假设为真时，其分布为 本例中，邹检验结果：P=0.0000。 结论结论：拒绝中国生产函数保持稳定的原假设。 待待检验假假设：原假设中约束条件至少有一个不成立。 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著30t检验与检验与F检验的总结检验的总结nt检验检验 优点：优点：可作单侧检验 不足

15、：不足：无法检验多个约束条件nF检验检验 优点：优点：可检验多个约束条件 不足：不足：无法进行单侧检验计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著314.6 多元回归分析实例：货币需求分析多元回归分析实例：货币需求分析n货币需求的影响因素：货币需求的影响因素： 总收入和持有货币的机会成本 RM： 经过价格因素调整的货币供给量M2 RGDP： 经过价格调整后的实际GDP， IB：为长期债券利率（作为长期利率的替代变量） ID：为储蓄利率（作为短期利率的替代变量）计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著32OLS估计结果：估计结果：t值 7.55

16、6 13.789 -7.970 0.896p值(t统计量) 0.000 0.000 0.000 0.374 0.926， 0.922， RSS0.0926。总体显著性的F统计值213.235 p值(F统计量)0.000。 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著33-0.10-0.050.000.050.1011.511.611.711.811.912.012.11984198619881990199219941996残差观测值拟合值 图4.6.1 货币需求的实际观测值、拟合值和残差 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著34一、回归结

17、果的经济解释一、回归结果的经济解释n1. 回归系数的经济解释回归系数的经济解释（1）lnRGDPn系数估计值1.296：总收入对货币需求有正向的影响（交易性需求）。 n实际收入水平每增加一个百分点，实际货币需求相应地平均增加1.296个百分点。n系数估计值的t统计值为13.789，其p值0.00，意味着我们可以拒绝 0的原假设. 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著35（2）IBn系数估计值为-2.616：长期利率的上升会导致持有货币的机会成本增加，从而减少对货币的需求。n长期利率每上调一个基点（0.0001），货币需求平均下降0.02616，即0.02616个

18、百分点。 n系数估计值的t统计值为-7.970，其p值0.00，（3）IDn系数估计值的t统计值为0.896，其p值为0.374，意味着短期利率对于货币需求量的影响在统计上是不显著的。 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著36二、残差及其正态性检验二、残差及其正态性检验n在有限样本中，所有的统计推断都依赖于随机误差项的正态性假设，所以必须对误差项的正态性假设进行检验。n残差项的QQ图、直方图提供了最简单的图形观察的检验方式。nJB统计量的检验计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著37nJB正态性检验统计量正态性检验统计量其中：S为残

19、差序列的偏度；K为其峰度。JB检验用来判定一个分布的偏度和峰度是否与正态分布一致。（正态分布偏度为0，峰度为3）。JB检验的原假设为：变量（这里就是残差）服从正态分布。 原假设成立时，JB检验统计量服从自由度为2的分布，即。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著38n货币需求方程残差的货币需求方程残差的JB检验检验 偏度S-0.1117 峰度K2.8329 JB0.1783 p值为0.9147。根据JB检验统计量的p值，我们不能拒绝残差序列（进而误差项）服从正态分布的原假设。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著39三、参数线性约束的

20、检验三、参数线性约束的检验n货币需求方程： （4.6.1） n文献中通常会用长期利率与短期利率之差长期利率与短期利率之差即变量IB-ID作为持有货币机会成本的度量指标。即模型（4.6.1）可以表述为： （4.6.4） 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著40n回归系数的线性约束：回归系数的线性约束：n命题命题“长期利率与短期利率之差可以度量持有长期利率与短期利率之差可以度量持有货币的机会成本货币的机会成本” 对应的待检验假设：对应的待检验假设： （4.6.4）是无约束方程（4.6.1）的受约束形式。 计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著41nF检验检验 RSSur0.0926，RSSr0.12216.192 检验结论检验结论：就本例所考察的经济体而言，“长期利率与短期利率之差可以度量持有货币的机会成本” 这一命题不成立。 在5显著性水平上，F(1,51)的临界值为4.03。计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著42