《计量经济学简单回归模型课件讲解》由会员分享，可在线阅读，更多相关《计量经济学简单回归模型课件讲解（78页珍藏版）》请在金锄头文库上搜索。
1、第二章 简单回归模型 2.1 简单简单 回归归模型的定义义 2.2 普通最小二乘法的推导导 2.3 OLS的操作技巧 2.4 度量单单位的函数形式 2.5 OLS估计计量的期望值值和方差 2.6 过过原点回归归 2.1 简单回归模型的定义 简单回归模型（即一元线性回归）用来研究两个 变量之间的关系。 y和x是两个代表某个总体的变量，我们感兴趣的 是用x来解释y，或研究y如何随x而变化。 在建立计量经济学模型前，我们会面临三个问题 ： y和x的函数关系是怎样的呢？ 我们应该如何考虑其他影响y的因素呢？ 我们何以确定我们在其他条件不变的情况下刻画了y和 x之间的关系？ 术语注解 y 通常被称为：
2、Dependent Variable因变 量 Left-Hand Side Variable左 边变量 Explained Variable被解释 变量 Response Variable响应变 量 Predicted Variable被预测 变量 Regressand回归子 x通常被称为： Independent Variable自 变量 Right-Hand Side Variable 右边变量 Explanatory Variable解释 变量 Regressor回归元 Control Variable控制变量 Predictor Variable预测变 量 Covariate协变量 术
3、语注解 例 一个简单的工资方程 wage= b0 + b1 educ+ u 上述简单工资函数描述了工资和受教育年限，以 及其他不可观测因素u之间的关系. b1 衡量的是，在其他因素(包含在误差项u里面） 不变的情况下，多接受一年教育，可以增加多少 工资. 其他因素包括：劳动力市场经验、内在的能力、 目前所从事工作的工龄、职业道德, 以及其他许 多因素。包含在u中. 几点说明 6 简单回归模型的一个重要假定： 零条件均值假定 Zero Conditional Mean Assumption 一个重要问题 在简单回归模型中, y = b0 + b1x + u, b1 衡量的是，在其他因素(包含在误
4、差项u中 )不变的情况下, x对于y的影响（ceteris paribus effect of x on y）. y = b1x , if u=0 l但是，在实际中，包含于误差项u中的其他 因素往往是不确定的, 也就是说，u是一个 随机变量。 一个重要问题 l如果我们忽略包含于误差项u中的其他因素，能否 通过简单回归模型，得到x对于y的其他因素不变 情况下的影响（ceteris paribus effect of x on y）呢 ？ l不能。 l需要对u和x的关系作出假定，或者是说，假定x与 y的关系符合一定的条件，才能通过上述模型估计 x对于y的其他因素不变情况下的影响(ceteris p
5、aribus effect of x on y)。 关于u的一个简单假定 假定总体（population）中误差项u的平均值为零, 即: E(u) = 0(2.5) Is it very restrictive? 该假定对于模型是否具有很大的限制性呢? 关于u的一个简单假定：一个例子 只要简单回归模型中包含常数项，我们总可以等价变换， 使得误差项u均值为0 举一个例子： 对于一个简单回归模型： y = b0 + b1x + u, (a) 假如 E(u)=1， 则可以进行如下变换： y = (b0 +1) + b1x + (u-1) = b0+ b1x + u (b) 这里, E(u) = E(
6、u-1) = E(u)-1 = 0. 上述推导说明，我们总可以通过调整常数项b0，来实现误 差项u的均值为零, 因此，假定E(u)=0，对于模型的限制性 不大。 Zero Conditional Mean Assumption 零条件均值假定 单纯对u作出零值假定是不够的。 我们需要对u和 x之间的关系做一个关键假 定。 我们所希望的状况是，u的期望值不依赖于 x的数值，也就是，无论x 的取值是多少，u 的期望值不变。即： E(u|x) = E(u) 换句话说，我们需要 u 和 x 完全不相关。 零条件期望假定 在前面我们已经假定了E(u) = 0， 因此，零条件均值假定可以表述为： E(u|
7、x) = E(u) = 0 (2.6) What does it mean? 该假定是何含义？ 零条件均值假定: 例1 在简单工资-教育方程中： 工资= b0 + b1 教育年限 + u 假定u 代表“内在能力”，零条件均值假定 则表示， E(内在能力|教育年限 =6) = E(内在能力|教育年限 =18) = E(内在能力) 即: 对于不同教育年限的人，他们的内在能 力的平均值相同。 零条件均值假定：例2 假设期末成绩分数(score)取决于出勤次数(attend) ，以及其他不可观测的因素u。则可以写出一个简 单二元回归模型, 成绩 =b0 + b1 出勤次数 + u 假定u 代表“心理素
8、质”，零条件均值假定则表 示， E(心理素质|出勤次数 =1) = E(心理素质|出勤次数 =18) = E(心理素质) 即: 对于不同出勤次数的同学，他们的心理素质 的平均值相同。 零条件均值假定：对b1 的另一种解释 对于简单二元回归模型： y = b0 + b1x + u 对y求关于x的条件期望，则 E(y|x) = E (b0 + b1x + u)| x = b0 + b1x + E(u|x) 注： E(b1x|x)= b1x 由零条件均值假定E(u|x)=0, 得 E(y|x) = b0 + b1x. 该方程是x的线性函数，即y对于x的条件期望是x 的线性函数。又称总体回归函数(Po
9、pulation regression function, PRF) b1表示,在零条件均值假定的条件下，相对于x的 一个单位的变化，y的期望值的变化数量 . . x1=1x2 =2 E(y|x) = b0 + b1x y E(y|x=x2) E(y|x=x1) 总体回归线（PRF）： E(y|x) = b0 + b1x x 2.2 普通最小二乘法（OLS）的推导 普通最小二乘法（OLS）的推导： 方法一：矩估计方法 零条件均值假定： E(u|x) = E(u) = 0 有两个意义： (1) E(u) = 0 (2) E(u|x) = E(u), 根据本书附录中条件期望性质5（Property
10、 CE.5， p.719）,由（2）可得: Cov(u,x)=0 因为：Cov(u,x) = E(u-E(u)x-E(x) = E(ux) - E(u)E(x) = E(ux) 由（1）得 故有： E(ux) =0 总体矩条件 假定对于一个总体（population），存在简单回归 方程： y = b0 + b1x + u 假定零条件均值假定成立: E(u|x) = E(u) = 0 于是有: (1) E(u)=0， (2) E(ux)=0 将u = y -b0 - b1x代入上述等式(1) (2)： (3) E(y -b0 - b1x)=0 (4) Ex(y -b0 - b1x)=0 (3)
11、 (4) 称为总体的矩条件。 将总体矩条件应用于样本 从总体中随机抽取一个样本容量为n的随机 样本，用(xi,yi): i=1, ,n ，i表示单 个样本（observation）的编号，n是样本总 量。xi,yi表示第i个样本的相应的变量。 每一观测样本i均应满足： yi = b0 + b1xi + ui 将前面所假定的总体矩条件(3)(4)应用于样 本中，这种方法称为矩估计法（method of moments）. 选择参数值b0, b1, 使得样本的矩条件成立 与总体中的矩条件(3)(4)相对应，在样本中相 应的矩条件(sample counterparts)为： 现在的问题就是，通过选
12、择参数值 , 使得样本相应的矩条件(3)(4)成立。 即：求解关于 的方程组(3)(4)。 普通最小二乘法的推导 根据样本均值的定义以及加总的性质，可将第一 个条件 变换为 代入到第二个矩条件中， 普通最小二乘法的推导 因此，OLS估计的斜率为 关于OLS斜率估计量 斜率估计量b1等于样本中x 和 y 的协方差除 以x的方差。 若x 和 y 正相关，则斜率为正；反之，为 负。 唯一需要假定的是，x的样本方差不为零， 或者说，在样本中，x的观测值必须要有变 化。 拟合值(fitted value)与残差(residual) 用样本观测值估计出的回归方程的参数记 作 根据样本估计参数值和样本观测值
13、xi，我们 可计算相应的yi的拟合值(fitted value): 实际样本观测值yi 与其拟合值 之间的 差值，称为残差(residual). 它可以看作是利用样本回归后，估计出来 的误差项。 样本回归函数 (sample regression fucntion ，SRF) 同时，根据特定样本估计出的参数 , 我们可以 写出一个与总体回归函数(PRF)相对应的样本回归函数 (sample regression fucntion，SRF): 对于一个特定的总体而言，总体回归函数(PRF)是固定的， 是未知的。 样本回归函数(SRF)则是根据实际的样本数据回归所得到的 ，是总体回归函数(PRF)
14、的一个估计形式。 它随着样本的不同而不同。用不同的方法所得到的样本回 归函数，可能也会有差异。 家庭人均消费 = 395.96 + 0.48 家庭人均收入 2003年四川省农户调查样本，n=100 ；消费和收入单位：元 . . . . y4 y1 y2 y3 x1x2x3x4 1 2 3 4 x y 理解：样本回归线，样本数据点和残差 y3 关于OLS的一点说明 残差平方和 OLS估计方法实际上就是，找到一条直线，使得残 差的平方和(Q)最小。(因此，得名“普通最小二乘法 ”(Ordinary Least Squares, OLS ) OLS推导方法二 经典OLS估计方法：解一个最小化问题，即
15、通过选 取参数 ,使下列残差平方和最小 ： 推导方法二 对上述残差平方和Q分别对 求偏导数 ，可以得到此最小化问题的一阶条件： 这两个方程与前面的矩条件完全一致，可以用相 同的方法求解参数 总结 介绍简单线性回归模型的结构、术语、含义 零值条件期望假定 如何利用矩估计法和经典普通最小二乘法，估计 简单回归模型的截矩和斜率参数 2.3 OLS的操作技巧 OLS的操作技巧拟合值和残差 OLS的操作技巧OLS统计量的代 数性质 OLS残差和及其样本均值均为零 代数表示 由OLS的一阶条件得出 OLS的操作技巧OLS统计量的代 数性质 回归元和OLS残差的样本协方差为零 代数表示 由OLS的一阶条件得出 OLS的操作技巧OLS统计量的代 数性质 点 总在OLS回归线上 代数表示 可以由 推导出 OLS的操作技巧OLS统计量的代 数性质 OLS的操作技巧拟合优度 定义 总平方和SST 解释平方和SSE 残差平方和SSR 总平方和SST 总平方和: 总平方和(SST), 是y在样本中所有变动的测 度指标，即它度量了y在样本中的总
