《计量经济学 第二章 简单线性回归模型》由会员分享，可在线阅读，更多相关《计量经济学 第二章 简单线性回归模型（109页珍藏版）》请在金锄头文库上搜索。
1、计量经济学,第 二 章简单线性回归模型,2,从2004中国国际旅游交易会上获悉，到2020年，中国旅游业总收入将超过3000亿美元，相当于国内生产总值的8%至11%。（资料来源：国际金融报2004年11月25日第二版） 是什么决定性的因素能使中国旅游业总收入到2020年达到3000亿美元？ 旅游业的发展与这种决定性因素的数量关系究竟是什么？ 怎样具体测定旅游业发展与这种决定性因素的数量关系?,引子: 中国旅游业总收入将超过3000亿美元吗？,3,第二章 简单线性回归模型,本章主要讨论:回归分析与回归函数简单线性回归模型参数的估计拟合优度的度量回归系数的区间估计和假设检验回归模型预测,4,第一节
2、 回归分析与回归方程,本节基本内容: 回归与相关总体回归函数随机扰动项样本回归函数,5,1. 经济变量间的相互关系 确定性的函数关系 不确定性的统计关系相关关系 (为随机变量)没有关系,一、回归与相关 （对统计学的回顾）,6,7,相关关系的类型 从涉及的变量数量看简单相关多重相关（复相关） 从变量相关关系的表现形式看线性相关散布图接近一条直线非线性相关散布图接近一条曲线 从变量相关关系变化的方向看正相关变量同方向变化，同增同减负相关变量反方向变化，一增一减不相关,8,9, 和 都是相互对称的随机变量 线性相关系数只反映变量间的线性相关程度，不 能说明非 线性相关关系 样本相关系数是总体相关系数
3、的样本估计值，由于抽样波动，样本相关系数是个随机变量，其统计显著性有待检验 相关系数只能反映线性相关程度，不能确定因果关系，不能说明相关关系具体接近哪条直线计量经济学关心：变量间的因果关系及隐藏在随机性后面的统计规律性，这有赖于回归分析方法,使用相关系数时应注意,10,4. 回归分析,回归的古典意义：高尔顿遗传学的回归概念( 父母身高与子女身高的关系) 回归的现代意义：一个应变量对若干解释变量依存关系 的研究 回归的目的（实质）：由固定的解释变量去估计应变量的平均值,11, 的条件分布当解释变量 取某固定值时（条件）， 的值不确定， 的不同取值形成一定的分布，即 的条件分布。 的条件期望对于
4、的每一个取值， 对 所形成的分布确定其期望或均值，称为 的条件期望或条件均值,注意几个概念,12,13,回归函数：应变量 的条件期望 随解释变量 的的变化而有规律的变化，如果把 的条件期望 表现为 的某种函数 这个函数称为回归函数。回归函数分为：总体回归函数和样本回归函数,举例：假如已知100个家庭构成的总体。,回归线与回归函数,14,例:100个家庭构成的总体 (单位:元),15,16,17,实际的经济研究中总体回归函数通常是未知的，只能根据经济理论和实践经验去设定。“计量”的目的就是寻求PRF。 总体回归函数中 与 的关系可是线性的，也可是非线性的。 对线性回归模型的“线性”有两种解释就变
5、量而言是线性的 的条件均值是 的线性函数就参数而言是线性的 的条件均值是参数 的线性函数,3.如何理解总体回归函数,18,19,三、随机扰动项,概念:各个 值与条件均值的偏差 代表排除在模型以外的所有因素对 的影响。性质： 是期望为0有一定分布的随机变量 重要性：随机扰动项的性质决定着计量经济方 法的选择,20, 未知影响因素的代表 无法取得数据的已知影响因素的代表 众多细小影响因素的综合代表 模型的设定误差 变量的观测误差 变量内在随机性,引入随机扰动项的原因,21,四、样本回归函数（SRF）,22,SRF 的特点,每次抽样都能获得一个样本，就可以拟合一条样本回 归线，所以样本回归线随抽样波
6、动而变化，可以有许多条（SRF不唯一）。,SRF2,23,样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。 样本回归线还不是总体回归线，至多只是未知总体回归线的近似表现。,24,25,对样本回归的理解,如果能够获得 和 的数值，显然: 和 是对总体回归函数参数 和 的估计 是对总体条件期望 的估计 在概念上类似总体回归函数中的 ，可视为对 的估计。,26,27,28,第二节 简单线性回归模型的最小二乘估计,本节基本内容: 简单线性回归的基本假定 普通最小二乘法 OLS回归线的性质 参数估计式的统计性质,29,一、简单线性回归的基本假定,1. 为什么要作基本假定？模型中有随机扰动，估
7、计的参数是随机变量，只有对随机扰动的分布作出假定，才能确定所估计参数的分布性质，也才可能进行假设检验和区间估计只有具备一定的假定条件，所作出的估计才具有较好的统计性质。,30,（1）对模型和变量的假定 如 假定解释变量 是非随机的，或者虽然是随机的，但与扰动 项 是不相关的 假定解释变量 在重复抽样中为固定值 假定变量和模型无设定误差,2、基本假定的内容,31,又称高斯假定、古典假定 假定1：零均值假定 在给定 的条件下 ， 的条件期望为零假定2：同方差假定在给定 的条件下， 的条件方差为某个常数,（2）对随机扰动项 的假定,32,假定3：无自相关假定 随机扰动项 的逐次值互不相关 假定4：随
8、机扰动 与解释变量 不相关,33,假定5：对随机扰动项分布的正态性假定即假定 服从均值为零、方差为 的正态分布 （说明：正态性假定不影响对参数的点估计，但对确定所估计参数的分布性质是需要的。且根据中心极限定理，当样本容量趋于无穷大时， 的分布会趋近于正态分布。所以正态性假定是合理的）,34,的分布性质,由于的分布性质决定了 的分布性质。对 的一些假定可以等价地表示为对 的假定：假定1：零均值假定 假定2：同方差假定假定3：无自相关假定 假定5：正态性假定,35,OLS的基本思想 不同的估计方法可得到不同的样本回归参数 和 ，所估计的 也不同。 理想的估计方法应使 与 的差即剩余 越小越好 因
9、可正可负，所以可以取 最小即,二、普通最小二乘法（rdinary Least Squares ）,36,正规方程和估计式,用克莱姆法则求解得观测值形式的OLS估计式：,取偏导数为0，得正规方程,37,为表达得更简洁，或者用离差形式OLS估计式：注意其中：而且样本回归函数可写为,用离差表现的OLS估计式,38,三、OLS回归线的性质,可以证明： 回归线通过样本均值估计值 的均值等于实际观测值 的均值,39,剩余项 的均值为零应变量估计值 与剩余项 不相关,解释变量 与剩余项 不相关,40,四、参数估计式的统计性质,(一)参数估计式的评价标准 1. 无偏性 前提：重复抽样中估计方法固定、样本数不变
10、、经重复抽样的观测值，可得一系列参数估计值 参数估计值 的分布称为 的抽样分布，密度函 数记为 如果 ，称 是参数 的无偏估计式，否 则称 是有偏的，其偏倚为 （见图1.2）,41,图 1 . 2,42,前提：样本相同、用不同的方法估计参数， 可以找到若干个不同的估计式目标：努力寻求其抽样分布具有最小方差的估计式 最小方差准则，或称最佳性准则（见图1.3）既是无偏的同时又具有最小方差的估计式，称为最佳无偏估计式。,2. 最小方差性,43,44,4. 渐近性质（大样本性质）,思想:当样本容量较小时，有时很难找到最佳无偏估计，需要考虑样本扩大后的性质 一致性：当样本容量 n 趋于无穷大时，如果估计
11、式 依概率收敛于总体参数的真实值，就称这个估计式 是 的一致估计式。即或 渐近有效性：当样本容量 n 趋于无穷大时，在所有的一致估计式中，具有最小的渐近方差。(见图1.4),45,46,（二） OLS估计式的统计性质, 由OLS估计式可以看出由可观测的样本值 和 唯一表示。 因存在抽样波动，OLS估计 是随机变量 OLS估计式是点估计式,47,1. 线性特征 是 的线性函数,2. 无偏特性（证明见教材P37）3. 最小方差特性 （证明见教材P68附录21）在所有的线性无偏估计中，OLS估计 具有最小方差 结论：在古典假定条件下,OLS估计式是最佳线性无偏估计式（BLUE）,OLS估计式的统计性
12、质高斯定理,48,第三节 拟合优度的度量,本节基本内容:什么是拟合优度总变差的分解可决系数,49,一、什么是拟合优度?,概念： 样本回归线是对样本数据 的一种拟合，不同估计方 法可拟合出不同的回归线， 拟合的回归线与样本观测 值总有偏离。样本回归线对样本观测数据拟合的优劣程度拟合优度 拟合优度的度量建立在对总变差分解的基础上,50,二、总变差的分解,分析Y 的观测值、估计值与平均值的关系将上式两边平方加总，可证得（TSS） （ESS） （RSS）,51,总变差 （TSS）：应变量Y的观测值与其平均值的离差平方和（总平方和）解释了的变差 （ESS）：应变量Y的估计值与其平均值的离差平方和（回归平
13、方和）剩余平方和 （RSS）：应变量观测值与估计值之差的平方和（未解释的平方和）,52,变差分解的图示,53,三、可决系数,以TSS同除总变差等式两边：或 定义：回归平方和（解释了的变差ESS） 在总变差（TSS） 中所占的比重称为可决系数，用 表示: 或,54,作用：可决系数越大，说明在总变差中由模型作出了解释的部分占的比重越大，模型拟合优度越好。反之可决系数小，说明模型对样本观测值的拟合程度越差。 特点：可决系数取值范围：随抽样波动，样本可决系数 是随抽样 而变动的随机变量可决系数是非负的统计,可决系数的作用和特点,55,可决系数与相关系数的关系,（1）联系数值上，可决系数等于应变量与解释
14、变量之间简单相关系数的平方:,56,可决系数与相关系数的关系,（2）区别,57,运用可决系数时应注意, 可决系数只是说明列入模型的所有解释变量对因变量的联合的影响程度，不说明模型中每个解释变量的影响程度（在多元中） 回归的主要目的如果是经济结构分析，不能只追求高的可决系数，而是要得到总体回归系数可信的估计量，可决系数高并不表示每个回归系数都可信任 如果建模的目的只是为了预测因变量值，不是 为了正确估计回归系数，一般可考虑有较高的可决系数,58,第四节 回归系数的区间估计和假设检验,本节基本内容：OLS估计的分布性质回归系数的区间估计回归系数的假设检验,59,问题的提出,为什么要作区间估计？ OLS估计只是通过样本得到的点估计，不一定等于 真实参数，还需要找到真实参数的可能范围，并 说明其可靠性 为什么要作假设检验？ OLS 估计只是用样本估计的结果，是否可靠？ 是否抽样的偶然结果？还有待统计检验。区间估计和假设检验都是建立在确定参数估计值 概率分布性质的基础上。,60,一、OLS估计的分布性质,
