《计量经济学(第四版)3.2 多元线性模型的参数估计》由会员分享,可在线阅读,更多相关《计量经济学(第四版)3.2 多元线性模型的参数估计(43页珍藏版)》请在金锄头文库上搜索。
1、3.2 多元线性回归模型的估计 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题六、估计实例 说 明估计对象: 模型结构参数 随机项的分布参数(方差) 估计方法: 3大类方法:OLS、ML或者MM 在经典模型中多应用OLS 在非经典模型中多应用ML或者MM一、普通最小二乘估计(OLS)1、普通最小二乘估计 最小二乘原理:根据被解释变量的所有观测值 与估计值之差的平方和最小的原则求得参数估 计量。已知假定 步骤 :正规方程组的矩阵形式条件? OLS估计的矩阵表示 2、正规方程组的另一种表达该正规方程 组成立的条 件是什么?3、随机误差项的方差的无偏估计
2、M为等幂矩阵二、最大似然估计1、最大似然法 最大似然法(Maximum Likelihood,ML),也 称最大或然法,是不同于最小二乘法的另一种 参数估计方法,是从最大或然原理出发发展起 来的其它估计方法的基础。 基本原理:当从模型总体随机抽取n组样本观 测值后,最合理的参数估计量应该使得从模型 中抽取该n组样本观测值的概率最大。 ML必须已知随机项的分布。2、估计步骤:以一元模型为例Yi的分布Yi的概率函数 Y的所有样 本观测值的 联合概率 似然函数 对数似然 函数 对数似然函 数极大化的 一阶条件结构参数的 ML估计量分布参数的 ML估计量3、似然函数 4、ML估计量 由对数似然函数求极
3、大,得到参数估计量结果与参数的OLS估计相同 分布参数估计结果与OLS不同 注意: ML估计必须已知Y的分布。 只有在正态分布时ML和OLS的结构参数估计结果 相同。 如果Y不服从正态分布,不能采用OLS。例如:选 择性样本模型、计数数据模型等。三、矩估计 Moment Method, MM1、参数的矩估计 参数的矩估计就是用样本矩去估计总体矩。 用样本的一阶原点矩作为期望的估计量。 用样本的二阶中心矩作为方差的估计量。 从样本观测值计算样本一阶(原点)矩和二阶( 原点)矩,然后去估计总体一阶矩和总体二阶矩 ,再进一步计算总体参数(期望和方差)的估计 量。 样本的一阶 矩和二阶矩 总体一阶矩和
4、总体 二阶矩的估计量 总体参数 (期望和 方差)的 估计量 2、多元线性计量经济学模型的矩估计 如果模型的设定是正确,则存在一些为0的条件矩。 矩估计的基本思想是利用矩条件估计模型参数。一组矩条件,等同于OLS估计的正规方程组。3、矩估计法是工具变量方法和广义矩估计法 的基础 矩估计利用随机干扰项与各解释变量不相关特性 构造矩条件。 如果某个解释变量与随机干扰项相关,只要能找 到1个工具变量,仍然可以构成一组矩条件,就是 工具变量法(IV)。 如果存在多于(k+1)个变量(解释变量或工具变 量)与随机干扰项不相关,可以构成一组包含多 于(k+1)的矩条件,就是广义矩估计法(GMM) 。 四、参
5、数估计量的性质说明 在满足基本假设的情况下,多元线性模型结构 参数的普通最小二乘估计、最大或然估计及 矩估计具有线性性、无偏性、有效性。 同时,随着样本容量增加,参数估计量具有渐 近无偏性、渐近有效性、一致性。 利用矩阵表达可以很方便地证明,注意证明过 程中利用的基本假设。1、无偏性这里利用了假设: E(X)=02、有效性(最小方差性)五、样本容量问题1、最小样本容量 所谓“最小样本容量”,即从最小二乘原理和最大 或然原理出发,欲得到参数估计量,不管其质量 如何,所要求的样本容量的下限。 样本最小容量必须不少于模型中解释变量的数目 (包括常数项),即nk+1。为什么?2、满足基本要求的样本容量
6、 从统计检验的角度:n30 时,Z检验才能应用;n-k8时, t分布较为稳定。 一般经验认为:当n30或者至少n3(k+1)时,才能说满足模 型估计的基本要求。 模型的良好性质只有在大样本下才能得到理 论上的证明。六、例题地区城镇居民消费模型 被解释变量:地区城镇居民人均消费Y 解释变量: 地区城镇居民人均工资性收入X1 地区城镇居民人均其它X2 样本:2013年,31个地区数据地区现金消费支出 Y工资性收入 X1其他收入 X2地区现金消费支出 Y工资性收入 X1其他收入 X2北 京26274.930273.015000.8 湖 北15749.515571.89608.7天 津21711.92
7、3231.912423.7 湖 南15887.113951.410691.6河 北13640.614588.49554.4 广 东24133.325286.511217.5山 西13166.216216.47797.2 广 西15417.615647.89381.0内蒙古19249.118377.98600.1 海 南15593.015773.09146.8辽 宁18029.715882.012022.9 重 庆17813.916654.710195.7吉 林15932.314388.39155.9 四 川16343.514976.08917.9黑龙江14161.712525.88623.4
8、贵 州13702.913627.67785.5上 海28155.033235.415643.9 云 南15156.115140.79557.6江 苏20371.521890.013241.0 西 藏12231.919604.02956.7浙 江23257.224453.016788.0 陕 西16679.716441.07667.8安 徽16285.215535.39470.8 甘 肃14020.713329.76819.3福 建20092.721443.411939.3 青 海13539.514015.68115.4江 西13850.514767.58181.9 宁 夏15321.115363.98402.8山 东17112.221562.19066.0 新 疆15206.215585.36802.6河 南14822.014704.28982.3变量间关系变量间关系OLS估计OLS估计结果ML估计ML估计结果MM估计MM估计结果