《计量经济学第4章1-多元线性回归-ppt课件》由会员分享，可在线阅读，更多相关《计量经济学第4章1-多元线性回归-ppt课件（90页珍藏版）》请在金锄头文库上搜索。
1、第第4 4章章 多元线性回归模型多元线性回归模型学习目标学习目标 知识目标：知识目标：了解多元线性回归模型的基本假了解多元线性回归模型的基本假设、掌握其估计方法以及检验程序。设、掌握其估计方法以及检验程序。技能目标：技能目标：在其计算过程中充分利用进行计在其计算过程中充分利用进行计算，通过本算，通过本 章的学习熟练地掌握了和运用，章的学习熟练地掌握了和运用，尤其是对中矩阵逆及相乘的运算。尤其是对中矩阵逆及相乘的运算。能力目标：能力目标：会建立多元线性回归模型会建立多元线性回归模型,会对会对多元线性回归模型进行估计、统计检验并进多元线性回归模型进行估计、统计检验并进行经济预测。拿出一个案例能够独
2、立的对其行经济预测。拿出一个案例能够独立的对其进行模型设定、参数估计、统计检验和预测。进行模型设定、参数估计、统计检验和预测。第第4章章 多元线性回归模型多元线性回归模型4.1 多元线性回归模型及假定多元线性回归模型及假定4.2 多元线性回归模型的参数估计多元线性回归模型的参数估计4.3 多元线性回归模型的统计检验多元线性回归模型的统计检验4.4 多元线性回归模型的置信区间多元线性回归模型的置信区间4.5 受约束回归受约束回归4.6 案例分析案例分析4.1 多元线性回归模型及假定多元线性回归模型及假定4.1.1 4.1.1 多元线性回归模型多元线性回归模型4.1.2 4.1.2 多元线性回归模
3、型的若干假定多元线性回归模型的若干假定4.1.1 多元线性回归模型多元线性回归模型多元线性回归模型多元线性回归模型的一般形式的一般形式 其中其中k是解是解释变释变量的数目量的数目。给定样本给定样本则上述模型表示为则上述模型表示为几何意义：几何意义：代数意义：代数意义：经济意义：经济意义：与与存在线性关系，后者是前者的重要存在线性关系，后者是前者的重要解释变量；解释变量；与与存在线性关系；存在线性关系；表示一个多维平面。表示一个多维平面。 多元总体回归函数多元总体回归函数 该函数又称为该函数又称为条件期望函数条件期望函数，表明在给定，表明在给定 下下 的分布的（总体）的分布的（总体）均值均值与与
4、 存在着函数关系。存在着函数关系。 多元线性回归模型表示的多元线性回归模型表示的n个随机方程的矩阵表达式个随机方程的矩阵表达式其中其中样本回归函数样本回归函数 用来估计总体回归函数用来估计总体回归函数其其随机表示式随机表示式 ei称为称为残差残差或或剩余项剩余项，可看成是总体回归函，可看成是总体回归函数中随机扰动项数中随机扰动项ui的近似替代。的近似替代。或或其中：其中：样本回归函数样本回归函数的的矩阵表达矩阵表达: :4.1.2 多元线性回归模型的若干假定多元线性回归模型的若干假定假定假定1 解释变量是非随机的解释变量是非随机的,即在重复抽样中即在重复抽样中,解释变解释变量取固定值量取固定值
5、,且相互之间互不相关（无多重共线性）。且相互之间互不相关（无多重共线性）。 假定假定2 随机干扰项与解释变量之间不相关。随机干扰项与解释变量之间不相关。假定假定3 随机干扰项服从零均值随机干扰项服从零均值,同方差同方差,零协方差。零协方差。假定假定4 随机干扰项服从正态分布。随机干扰项服从正态分布。 假定假定5 正确设定回归模型。正确设定回归模型。 (1)选择了正确的变量进入模型；选择了正确的变量进入模型； (2)对模型的形式进行正确的设定；对模型的形式进行正确的设定； (3)对模型的解释变量、被解释变量以对模型的解释变量、被解释变量以 及随及随机机 干扰项做了正确的假定。干扰项做了正确的假定
6、。 上述上述假定条件假定条件称为称为多元线性回归模型的经典假定多元线性回归模型的经典假定。在本章，我们假定以上条件都成立。在本章，我们假定以上条件都成立。 4.2 多元线性回归模型的参数估计多元线性回归模型的参数估计4.2.1 普通最小二乘法普通最小二乘法4.2.2 极大似然法估计极大似然法估计4.2.3 参数估计量的性质参数估计量的性质4.2.1 普通最小二乘法普通最小二乘法1.普通最小二乘估计普通最小二乘估计 利用利用最小二乘法估计模型最小二乘法估计模型的参数，同样应该使的参数，同样应该使残差平方和达到最小，即残差平方和达到最小，即取最小值。取最小值。 根据多元函数的极值原理，可得如下方程
7、组：根据多元函数的极值原理，可得如下方程组： 写成矩阵形式为：写成矩阵形式为：式式 和式和式 叫做叫做正规方程组正规方程组。由式由式 可得这就是向量可得这就是向量 的的 OLS估计值。估计值。2. 随机干扰项方差估计值随机干扰项方差估计值 的普通最小二乘估计的普通最小二乘估计可以证明：随机干扰项的方差的无偏估计为可以证明：随机干扰项的方差的无偏估计为4.2.3 参数估计量的性质参数估计量的性质 1. 线性性线性性 参数估计量是线性估计量，即是随机变量参数估计量是线性估计量，即是随机变量Y的线性的线性函数。函数。 显然，参数估计量是随机变量显然，参数估计量是随机变量Y的线性函数，所的线性函数，所
8、以是线性估计量。以是线性估计量。2. 无偏性无偏性所以，所以，3.最小方差性最小方差性是单位矩阵，是单位矩阵，4. 随机误差项方差估计量的性质随机误差项方差估计量的性质由于被解释变量的估计值与观察值之间的残差由于被解释变量的估计值与观察值之间的残差由于由于所以残差平方和所以残差平方和为为 所以所以随机误差项方差的估计量为随机误差项方差的估计量为 例例4-1 经过研究发现，学生用于购买书籍及课外读物的经过研究发现，学生用于购买书籍及课外读物的支出与本人受教育年限和其家庭收入水平有关。现对支出与本人受教育年限和其家庭收入水平有关。现对某地区某地区18名学生进行调查，得到样本数据如表名学生进行调查，
9、得到样本数据如表4-1所示所示,其中其中Y表示表示购买书籍及课外读物购买书籍及课外读物（元（元/年），年），X1表示表示学学生受教育年限生受教育年限，X2表示表示家庭月可支配收入家庭月可支配收入(元元/月月)。下。下面我们估计学生面我们估计学生购买书籍及课外读物的支出购买书籍及课外读物的支出与与受教育受教育年限年限、家庭月可支配收入家庭月可支配收入之间的线性关系。之间的线性关系。回归线性模型设定如下回归线性模型设定如下用矩阵表示为：用矩阵表示为： 估计的回归模型表示为估计的回归模型表示为4.3 多元线性回归模型的统计检验多元线性回归模型的统计检验 4.3.1 模型的拟合优度检验模型的拟合优度检
10、验4.3.2 回归方程的显著性检验回归方程的显著性检验4.3.3 变量变量的显著性检验的显著性检验4.3.1 模型的拟合优度检验模型的拟合优度检验1. R2检验检验（1）总离差平方和的分解）总离差平方和的分解有有k个解释变量的多元线性回归模型对应的回归方程为个解释变量的多元线性回归模型对应的回归方程为将将Yi与其平均值与其平均值 之间的离差分解如下：之间的离差分解如下： 将将Yi与其平均值与其平均值 之间的离差分解如下：之间的离差分解如下： 总离差平方和总离差平方和回归平方和回归平方和残差平方和残差平方和 即即总离差平方和总离差平方和分解为分解为回归平方和回归平方和与与残差平残差平方和方和两部
11、分。两部分。（2）多元样本决定系数多元样本决定系数R2与拟合优度检验与拟合优度检验多元样本决定系数多元样本决定系数因为因为所以总有所以总有 R2的数值越接近的数值越接近1，表明，表明Y 中总离差平方和中总离差平方和中可由样本回归线解释的部分越大，残差平方和中可由样本回归线解释的部分越大，残差平方和越小，样本回归线与样本观测值的拟合程度越高；越小，样本回归线与样本观测值的拟合程度越高；反之则拟合得越差。反之则拟合得越差。 R2作为度量回归值作为度量回归值 对样本观测值对样本观测值Yi 拟合优度拟合优度的指标，显然其数值越接近的指标，显然其数值越接近1越好。越好。在例在例4-1中，计算可得中，计算
12、可得 （3）修正样本决定系数修正样本决定系数 的大小与模型中解释变量的数目有关，解释的大小与模型中解释变量的数目有关，解释变量的个数越多，它的值就越大，在实际运用中需变量的个数越多，它的值就越大，在实际运用中需要对其进行调整。要对其进行调整。 调整的思想调整的思想是将是将残差平方和残差平方和与与总离差平方和总离差平方和之比之比的分子分母分别用各自的自由度去除，变成均方差的分子分母分别用各自的自由度去除，变成均方差之比，以之比，以剔除剔除解释变量个数对拟合优度的影响。解释变量个数对拟合优度的影响。于是，于是，修正的样本决定系数修正的样本决定系数为为 调整的可决系数与未经调整的可决系数之间存调整的
13、可决系数与未经调整的可决系数之间存在如下关系：在如下关系：其中，其中，n是样本观测值的个数，是样本观测值的个数，k是解释变量的个数。是解释变量的个数。 在实际应用中，在实际应用中， 或或 R2究竟要多大才算模型究竟要多大才算模型通过了检验通过了检验,没有绝对的标准，要视具体情况而定。没有绝对的标准，要视具体情况而定。在例在例4-1中，中， 拟合优度并不是评价模型优劣的唯一标准拟合优度并不是评价模型优劣的唯一标准必须对回归方程和模型中各参数的估计量作进一步必须对回归方程和模型中各参数的估计量作进一步的显著性检验的显著性检验2. 赤池信息准则和施瓦茨准则赤池信息准则和施瓦茨准则赤池信息准则赤池信息
14、准则(AIC)施瓦茨准则施瓦茨准则(SC ) 这两个准则均要求仅当所增加的解释变量能够减这两个准则均要求仅当所增加的解释变量能够减少少AIC值或值或SC值时才在原模型中增加该解释变量。值时才在原模型中增加该解释变量。 估计结果显示：某地区学生购买书籍及课外读物的估计结果显示：某地区学生购买书籍及课外读物的支出二元例中支出二元例中 建立某地区学生购买书籍及课外读物的支出一元例中建立某地区学生购买书籍及课外读物的支出一元例中从这点看从这点看, 可以说家庭月可支配收入应包含在模型中。可以说家庭月可支配收入应包含在模型中。 4.3.2 回归方程的显著性检验回归方程的显著性检验1. 回归方程的显著性检验
15、回归方程的显著性检验 回归方程的显著性检验是指在一定的显著性水回归方程的显著性检验是指在一定的显著性水平下，从总体上对模型中被解释变量与解释变量之平下，从总体上对模型中被解释变量与解释变量之间的线性关系是否显著成立而进行的一种统计检验。间的线性关系是否显著成立而进行的一种统计检验。检验的原假设与备择假设分别为检验的原假设与备择假设分别为检验的思想来自于总离差平方和的分解式：检验的思想来自于总离差平方和的分解式： ESS是解释变量的联合对被解释变量的线性作用是解释变量的联合对被解释变量的线性作用的结果的结果,可通可通过该过该比比值值ESS/RSS的大小的大小对总对总体体线线性关性关系系进进行推断
16、。行推断。 根据数理统计学中的定义，在根据数理统计学中的定义，在H0成立的条件成立的条件下，构造一个统计量：下，构造一个统计量： 它服从自由度为它服从自由度为( (k,n-k-1) )的的F分布。分布。 给给定一个定一个显显著性水平著性水平 ，查查分布表，得到一分布表，得到一个个临临界界值值F ( (k,n-k-1) ) 。 如果发生如果发生F F ( (k,n-k-1) ) ，则在，则在1- 水平下拒水平下拒绝原假设，即模型的线性关系显著成立，模型通绝原假设，即模型的线性关系显著成立，模型通过方程显著性检验。过方程显著性检验。 如果未发生如果未发生 F F ( (k,n-k-1) )则在则在1- 水平下接水平下接受原假设，即模型的线性关系显著不成立，模型未受原假设，即模型的线性关系显著不成立，模型未通过方程显著性检验。通过方程显著性检验。 在在例例4-1中中，检验的，检验的原假设原假设与与备择假设备择假设分别为分别为 所以结论是拒绝原假设，即所以结论是拒绝原假设，即Y与与X1,X2 存存在线性回归关系。在线性回归关系。 2. 拟合优度拟合优度 检验与方程总体线性的显著性检检验与方程总
