《计量经济学-3章：多元线性回归模型课件》由会员分享，可在线阅读，更多相关《计量经济学-3章：多元线性回归模型课件（60页珍藏版）》请在金锄头文库上搜索。
1、重庆工商大学经济贸易学院张文爱,4/23/2019,1,计量经济学 (Econometrics),授课教师: 张文爱 重庆工商大学经济贸易学院,重庆工商大学经济贸易学院张文爱,4/23/2019,2,第3章 多元线性回归模型,计量经济学,张文爱,2010.10,重庆工商大学经济贸易学院张文爱,4/23/2019,3,通过本章的学习，要求学生： 1、根据经济理论，对具体的经济问题建立适当的多元线性回归模型； 2、对模型进行分析与评价； 3、应用模型，对现实经济问题进行具体分析。,教学目的,重庆工商大学经济贸易学院张文爱,4/23/2019,4,教学内容,一、模型的建立及其假定条件 二、多元线性回
2、归模型的参数估计：OLS 三、最小二乘估计量的统计性质 四、拟合优度检验 五、显著性检验与置信区间 六、预测 七、案例分析,重庆工商大学经济贸易学院张文爱,4/23/2019,5,总体回归模型,样本回归模型,总体回归函数,样本回归函数,回顾: 一元线性回归模型,重庆工商大学经济贸易学院张文爱,4/23/2019,6,根据经济理论，在市场上某种商品的需求量(Y) ，主要取决于该商品的价格(P)和消费者的平均收入(X)。假设某地区有关的统计资料左下表所示，试建立该商品的需求量与商品价格和消费者平均收入之间的线性回归模型。,从“一元“到“多元“ :一个实例,重庆工商大学经济贸易学院张文爱,4/23/
3、2019,7,1、 基本概念 在许多实际问题中，我们所研究的因变量的变动可能不仅与一个解释变量有关，而可能与多个解释变量有关。因此，有必要考虑线性模型的更一般形式，即多元线性回归模型。 多元线性回归模型:在线性回归模型中，解释变量有多个。,3.1 模型的建立及其假定条件,重庆工商大学经济贸易学院张文爱,4/23/2019,8,假设被解释变量Y是解释变量X1,X2,X3, Xk和随机误差项u的线性函数，它们可以表述为如下形式：,（i=1,2,n）,该模型称为多元总体线性回归模型，简称总体回归模型(PRM ,Population Regression Model).,在这个模型中，Y由X1,X2,
4、X3, Xk所解释， k为解释变量的数目，未知参数0、1、2、k称为回归系数, 为随机扰动项(随机误差项,简称扰动项,误差项).,(1)多元总体线性回归模型,重庆工商大学经济贸易学院张文爱,4/23/2019,9,（i=1,2,n）,=,+,重庆工商大学经济贸易学院张文爱,4/23/2019,10,总体回归模型的矩阵表示,其中：,重庆工商大学经济贸易学院张文爱,4/23/2019,11,描述被解释变量Y的（条件）期望值与解释变量X1，X2，XK 线性关系的方程为： 这个式子称为多元总体线性回归函数（方程）,简称总体回归函数（方程）(PRF,Population Regression Funct
5、ion).,（i=1,2,n）,j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，X j每变化1个单位时，Y的均值E(Y)的变化量。,(2)多元总体线性回归函数（方程）,重庆工商大学经济贸易学院张文爱,4/23/2019,12,总体回归函数的矩阵表示,其中：,重庆工商大学经济贸易学院张文爱,4/23/2019,13,由于总体回归模型的参数 (j=0,1,k) 都是未知的,我们可以利用样本观测值对它们进行估计。用来估计总体回归函数的样本回归函数（方程）为： 上式为多元样本线性回归函数（方程）,简称样本回归函数（方程）(SRF, Sample Regression Function). (
6、j=0,1,k)为根据样本数据所估计得到的参数估计量。,（i=1,2,n）,(3)多元样本线性回归函数（方程）,重庆工商大学经济贸易学院张文爱,4/23/2019,14,对应于其样本回归函数（方程）的样本回归模型:,上式称为多元样本线性回归模型,简称样本回归模型(SRM, Sample Regression Model). ei称为残差 (residual)，可看成是总体回归模型中随机扰动项i的样本估计。,（i=1,2,n）,(4)多元样本线性回归模型,重庆工商大学经济贸易学院张文爱,4/23/2019,15,其中：,样本回归函数：,样本回归模型：,样本回归函数/模型的矩阵表示,重庆工商大学经
7、济贸易学院张文爱,4/23/2019,16,多元线性回归模型/函数: 整理,（i=1,2,n）,PRM,PRF,SRM,SRF,（i=1,2,n）,（i=1,2,n）,（i=1,2,n）,重庆工商大学经济贸易学院张文爱,4/23/2019,17,总体回归模型(PRM),样本回归函数(SRF),样本回归模型(SRM),总体回归函数(PRF),多元线性回归模型/函数矩阵表示: 整理,重庆工商大学经济贸易学院张文爱,4/23/2019,18,零均值假设。随机误差项的条件期望为零，即 E(ui)=0 ( i=1,2,n) 其矩阵表达形式为:E(U)=0 (2)同方差假设。随机误差项有相同的方差，即,2
8、 模型的假定,(3)无自相关假设。随机误差项彼此之间不相关，即,（i=1,2,n）,（ ij ；i，j=1,2,n）,重庆工商大学经济贸易学院张文爱,4/23/2019,19,基本假设(1)-(3)的图示,注:红杆位置表示Y的条件期望,重庆工商大学经济贸易学院张文爱,4/23/2019,20,将假设条件(2)和(3)结合起来,得到其相应的矩阵表达形式“方差-协方差矩阵”,重庆工商大学经济贸易学院张文爱,4/23/2019,21,(5)无多重共线性假设。解释变量X1,X2,Xk之间不存在精确的(完全的)线性关系,即解释变量的样本观测值矩阵X是满秩矩阵.满足rank(X)=k+1n (6)随机误差
9、项服从正态分布,即 i=1,2,n,(4)解释变量X1,X2,Xk是确定性变量,不是随机变量,与随机误差项彼此之间不相关,即 j=1,2k , i=1,2,.,n,重庆工商大学经济贸易学院张文爱,4/23/2019,22,3.2 多元线性回归模型的参数估计 OLS,重庆工商大学经济贸易学院张文爱,4/23/2019,23,1、参数估计思路,对于总体回归模型：,我们收集得到关于Y和X的容量为n的一个随机样本数据，据此对参数进行估计，得到其估计量。即：,重庆工商大学经济贸易学院张文爱,4/23/2019,24,要使残差平方和最小，,2、方法：OLS,OLS准则：残差平方和最小，即：,记：,根据：,
10、重庆工商大学经济贸易学院张文爱,4/23/2019,25,要使残差平方和 为最小，则应有： 我们得到如下k+1个方程（即正规方程）：,重庆工商大学经济贸易学院张文爱,4/23/2019,26,我们得到如下k+1个方程,重庆工商大学经济贸易学院张文爱,4/23/2019,27,整理,得正规方程组,重庆工商大学经济贸易学院张文爱,4/23/2019,28,写成矩阵形式,重庆工商大学经济贸易学院张文爱,4/23/2019,29,重庆工商大学经济贸易学院张文爱,4/23/2019,30,其中,解得,重庆工商大学经济贸易学院张文爱,4/23/2019,31,3、随机误差项的方差2的无偏估计,随机误差项的
11、方差(2)的无偏估计量为：,重庆工商大学经济贸易学院张文爱,4/23/2019,32,在满足基本假设的情况下，其结构参数 的普通最小二乘估计量 具有： 线性性、无偏性、最小方差性（有效性）,3.3 最小二乘估计量的性质,重庆工商大学经济贸易学院张文爱,4/23/2019,33,1、线性性,其中,C=(XX)-1 X 为一仅与固定的X有关的行向量,2、无偏性,这里利用了假设: E(X)=0,重庆工商大学经济贸易学院张文爱,4/23/2019,34,3、最小方差性（有效性）,重庆工商大学经济贸易学院张文爱,4/23/2019,35,其中利用了,和,高斯-马尔科夫(Gauss-Markov)定理:P
12、61,对于 ，在满足基本假设的条件下，普通最小二乘估计量是最佳线性无偏估计量（BLUE, Best Linear Unbiased Estimator）,重庆工商大学经济贸易学院张文爱,4/23/2019,36,3.4 多元线性回归模型的拟合优度检验,类似于一元线性回归模型的拟合优度检验，对于多元线性回归模型，也同样需要进行拟合优度检验，其检验思路与一元线性回归模型的检验相同。,重庆工商大学经济贸易学院张文爱,4/23/2019,37,1、总离差平方和的分解,则,TSS=RSS+ESS,重庆工商大学经济贸易学院张文爱,4/23/2019,38,2、可决系数（ coefficient of de
13、termination）,该统计量越接近于1，模型的拟合优度越高。,重庆工商大学经济贸易学院张文爱,4/23/2019,39,残差平方和的一个特点是，每当模型增加一个解释变量，并用改变后的模型重新进行估计，残差平方和的值会减小；而在不改变样本容量的情况下，TSS不变。 由此可以推论，可决系数是一个与解释变量的个数有关的量： 解释变量个数增加 减小 增大 也就是说， 是解释变量个数的增函数，如果在模型中增加一个解释变量， 会增大。,3、调整的可决系数 （adjusted coefficient of determination）,重庆工商大学经济贸易学院张文爱,4/23/2019,40,这就给人
14、一个错觉：要使得模型拟合得好，只要增加解释变量即可，即人们总是可以通过增加模型中解释变量的方法来增大R2 的值。 但是，真实情况往往是，由增加解释变量个数引起的R2的增大与拟合优度的好坏无关，故对于多元线性回归模型而言，用R2 来作为拟合优度的测度，不是十分令人满意的。 因此，R2需要调整，以得到调整的可决系数 。,重庆工商大学经济贸易学院张文爱,4/23/2019,41,是经过自由度调整的可决系数，称为调整（修正）的可决系数。 我们有：（1） （2）仅且仅当k=0时，等号成立，即 （3）当k增大时，二者的差异也随之增大。 （4） 可能出现负值。,其中：n-k-1为残差平方和的自由度，n-1为
15、总体平方和的自由度。,调整的思路：用“平方和的自由度”进行修正。,重庆工商大学经济贸易学院张文爱,4/23/2019,42,解：由公式: 下面改变n的值，看一看 的值如何变化。我们有: 当 n = 20, 则 =0.64 若 n =10， 则 = 0.55 若 n = 5， 则 = - 0.20 由本例可看出， 有可能为负值。这与 不同 （ ）。,例1. 设 = 0.70 ,k = 3. 求(1)当n = 20, (2) n=10,(3)n=5时， 分别等于多少,重庆工商大学经济贸易学院张文爱,4/23/2019,43,1、回归方程的显著性检验(F检验),方程的显著性检验，旨在一定的显著性水平下，从总体上对模型中被解释变量与解释变量之间的线性关系是否显著成立进行的一种统计检验。,3.5 显著性检验与置信区间,i=1,2, ,n,检验模型中的参数j(j=1,2,k)是否全部显著为0。,即对于总体回归模型:,重庆工商大学经济贸易学院张文爱,4/23/2019,44,F检验的步骤,重庆工商大学经济贸易学院张文爱,4/23/2019,45,F(k,n-k-1),重庆工商大学经济贸易学院张文爱,4/23/2019,46,方差分析表,重庆工商大学经济贸易学院张文爱,4/23/20
