《计量经济学-第三章-多元线性回归培训教材》由会员分享，可在线阅读，更多相关《计量经济学-第三章-多元线性回归培训教材（42页珍藏版）》请在金锄头文库上搜索。
1、计量经济学,授课人：田立法 教材：张晓峒计量经济学基础（第3版） 授课班级：金融0905、0906，信用0901 公共信箱：sd_jiliang_ tianlifa,计量经济学,天津商业大学经济学院,天津商业大学经济学院,2011年9月,第三章 多元线性回归模型,第一节：模型的建立及其假定条件 第二节：最小二乘法 第三节：最小二乘估计量的特性 第四节：可决系数 第五节：显著性检验与置信区间 第六节：预测 第七节：案例分析,第一节 模型的建立及其假定条件,1. 为什么要引入多元线性回归模型？,在实际经济问题中，一个经济变量往往不只受到一个经济因素的影响，而是受到多个经济因素的影响。如，商品的需求
2、量不但受到商品本身价格的影响，还会受到消费者偏好、消费者收入以及其它相关商品价格、预期价格等因素的影响。 引入多元线性回归模型，为我们深入探究某经济问题如何被多个经济因素所影响提供了可能，并有助于我们解析出经济问题背后存在的内在规律。 多元线性回归模型是一元线性回归模型的推广，其基本原理和方法同一元模型完全相似。,第一节 模型的建立及其假定条件,3. 多元线性回归模型的方程组与矩阵形式？,被解释向量=解释变量矩阵未知参数向量+随机误差向量,第一节 模型的建立及其假定条件,3. 多元线性回归模型的方程组与矩阵形式？,第一节 模型的建立及其假定条件,4. 多元线性回归模型的样本估计形式？,样本回归
3、模型 矩阵形式为： 样本回归方程 矩阵形式为：,表示残差（随机误差项估计值）的列向量,第一节 模型的建立及其假定条件,5. 多元线性回归模型的假定条件,假定1： E(ui) = 0 i1,2n,这样，被解释变量Yi的期望值 为： E(Yi) = 0 +1X1 i+ 2X2i + kX ki,第一节 模型的建立及其假定条件,5. 多元线性回归模型的假定条件,假定2：Var(ui) = Eui - E(ui) 2 = E(ui)2 = 2 i1,2,n,这样，Yi的方差也相同，且等于 2，即： Var(Yi) = 2 i1,2,n,假定3：Cov(ui, uj) = E(ui - E(ui) )
4、( uj - E(uj) ) = E(ui, uj) = 0,(i j ) i，j1,2,n,即：随机误差项无序列相关。,第一节 模型的建立及其假定条件,5. 多元线性回归模型的假定条件,假定2和假定3可以由下列矩阵表示：,第一节 模型的建立及其假定条件,5. 多元线性回归模型的假定条件,假定2和假定3可以由下列矩阵表示：,上式称为随机误差向量u的方差协方差矩阵。,第一节 模型的建立及其假定条件,5. 多元线性回归模型的假定条件,即样本观测值矩阵X必须是满秩矩阵，应满足：,假定4：Cov(uj, Xij) =0 i1,2k；i，j1,2n,即 ui 与Xi 彼此不相关。,rank（X）=k1n
5、,假定5：解释变量X1 ,X2 ,X k之间不存在完全的线性关系，,假定6：随机误差项服从正态分布，即uiN（0, 2）,同时，被解释变量也服从正态分布 YiN(0 +1X1 i+ 2X2i + kX ki, 2),第二节 最小二乘法,参数的最小二乘估计 第一步 构建最小二乘函数：,第二节 最小二乘法,参数的最小二乘估计 第二步 应用极值定理，对参数求导：,第二节 最小二乘法,参数的最小二乘估计 第二步 应用极值定理，对参数求导：,化 简,第二节 最小二乘法,参数的最小二乘估计 第二步 应用极值定理，对参数求导： 写成矩阵形式,第二节 最小二乘法,参数的最小二乘估计 第三步 解方程组：,因为：
6、,第二节 最小二乘法,参数的最小二乘估计 第三步 解方程组：,所以：,于是：,就是 的最小二乘估计量。,第二节 最小二乘法,2. 最小二乘估计的矩阵微分法则,其中，,第二节 最小二乘法,2. 最小二乘估计的矩阵微分法则,对矩阵求 向量的微分，得,整理，得,于是,可见，矩阵微分法与解方程组法的结果是一样的。,第二节 最小二乘法,例 3.1 由经济理论知，在市场上某种商品的需求量 主要 取决于该商品的价格 和消费者的收入 。试建立该 种商品的需求量与商品价格和消费者平均收入之间的线 性回归模型。 第一步：确立研究问题； 第二步：搜集研究数据；,第二节 最小二乘法,例 3.1 第三步：构建计量经济学
7、模型；,第二节 最小二乘法,例 3.1 第三步：构建计量经济学模型；,M是一个 n 阶对称幂等矩阵，即,第二节 最小二乘法,3. 随机误差项的方差 的估计量,第二节 最小二乘法,3. 随机误差项的方差 的估计量,则,注：符号 tr 表示矩阵的迹，它等于矩阵主对角线上元素之和.,第二节 最小二乘法,3. 随机误差项的方差 的估计量,于是有，,可见，随机误差项的方差2 的无偏估计量为：,残差平方和 的计算方法如下：,第二节 最小二乘法,3. 随机误差项的方差 的估计量,请计算例3.1中误差项方差的回归标准差。,所谓线性性是指最小二乘估计量 是被解释变量的观测值 的线性函数： 已知 令 则 ，A是一
8、个非随机 (k+1)n阶常数矩阵。 2. 无偏性 由 知,第三节 最小二乘估计量的特性,1. 线性性,由 知 令 则 ，因 b 是 的无偏估计量，所以 从而有,第三节 最小二乘估计量的特性,3. 最小方差性（有效性）,第三节 最小二乘估计量的特性,高斯马尔科夫定理 如果基本假设(1)(5)成立，则最小二乘估计量 是 的 最优线性无偏估计量（BLUE），即 的所有线性无偏估 计量中， 具有最小方差性。 例3.3 试计算例3.1中 和 的标准差的估计值。 解：,第四节 可决系数,1. 总离差平方和的分解 多元回归模型同一元回归模型相似，总离差平 方和也可分解为： 其中 即,总离差平方和=回归平方和
9、+残差平方和,TSS = RSS+ ESS,第四节 可决系数,2. 多元样本的可决系数 修正的多元样本可决系数,第四节 可决系数,在实际应用时， 和 越大，模型拟合得越好。 和 仅仅说明了在给定的样本条件下，估计的回归方程对于样本 观测值拟合的优度，拟合优度并不是评价模型优劣的惟一标 准。我们并不能仅以 和 的大小来选择模型，有时为了 使有重要经济意义的解释变量保留在模型中，宁可牺牲一点 拟合优度。 例3.4 计算例3.1的可决系数,第五节 显著性检验与置信区间,1. 回归方程的显著性检验（ F 检验）,回归方程的显著性检验是指，在一定的显著水平下，从总体上对模型中被解释变量与解释变量之间的线
10、性关系是否显著成立进行的一种统计检验。 对于多元回归模型 提出原假设 备择假设为 当H0成立时,第五节 显著性检验与置信区间,1. 回归方程的显著性检验（ F 检验）,例3.5 试对例3.1中的估计的回归方程进行显著性检验。 解：从Eviews的输出结果中，也能够直接看出,第五节 显著性检验与置信区间,2. 解释变量的显著性检验（ t 检验 ）,多元线性回归模型同一元线性回归模型一样，检验未知参数的显著性也可用 t 统计量： 已知 ，其中 有 记 ，若假设H0成立 则可得,第五节 显著性检验与置信区间,2. 解释变量的显著性检验（ t 检验 ）,例3.6 试对例3.1的回归系数 ， 进行显著性
11、检验。 解：,第五节 显著性检验与置信区间,3. 回归系数的置信区间,已知 所以，有 例3.7 试对例3.1中的回归系数建立置信度为95%的置信区间。 解：基于Eviews的输出结果可得 和 的置信区间为,第六节 预测,1. 点预测,点预测：就是将解释变量X1,X2,Xk的一组特定值： X0=(1,X10,X20,Xk0) 代入估计的回归方程中，计算出被解释变量Y0 的点预测值： 即：,与一元情形一样，对 有两种解释：,（1）看作 Y 的条件期望 E ( Y0 | X0 ) 的点估计 （2）看作 Y 的个别值（真值）Y0 的点估计,第六节 预测,2. 区间预测 （1） 的预测区间 因此， 是 的无偏估计量。,即,第六节 预测,2. 区间预测 （1） 的预测区间,第六节 预测,2. 区间预测 （1） 的预测区间 得 的预测区间为 （2） 的预测区间 例3.8 对于例3.1中建立的估计得回归方程，假设商品的价格为X10=8.5，消费者的平均收入X20=140，试求 和 的预测区间（ ）。 解：见教材。,
