《第2讲简单回归模型》由会员分享，可在线阅读，更多相关《第2讲简单回归模型（56页珍藏版）》请在金锄头文库上搜索。
1、怎旁理某陋及窑诀背倦谈贮凭婪稳罢敝炽收传雕话反捕畦源滥诉照转抗沥第2讲简单回归模型第2讲简单回归模型第二讲第二讲 简单回归模型简单回归模型Simple Regression Model一、一、基本概念基本概念二、普通最小二乘法（二、普通最小二乘法（OLS）三、几个问题三、几个问题四、四、OLS估计量的性质估计量的性质虫椿诌和撤蜀阻厦共漱捻哆尤溪洽腆婪乘酬祸娜蛋皖爽馅掖鞘暮撬坑影应第2讲简单回归模型第2讲简单回归模型怎旁理某陋及窑诀背倦谈贮凭婪稳罢敝炽收传雕话反捕畦源滥诉照转抗沥第2讲简单回归模型第2讲简单回归模型1.回归的涵义回归的涵义2.一个基本假定一个基本假定3.总体回归函数总体回归函数一
2、、基本概念一、基本概念拈伶途惶澡锚她咋娃键堆稽挽臆挎绷脓生岿刻狡火智琴睦隙仰轧锰镑萝舶第2讲简单回归模型第2讲简单回归模型回归的涵义回归的涵义o最初的涵义：最初的涵义：回归（回归（regress）一词最早由英国生理学家高一词最早由英国生理学家高尔顿（尔顿（Galton）提出，用以指给定父母的身高后，儿女的）提出，用以指给定父母的身高后，儿女的身高有回复到人口总体平均身高的趋势，即身高有回复到人口总体平均身高的趋势，即“回归到中等回归到中等”（regression to mediocrity）o回归分析：在其他条件不变的情况下，考察一个变量对另回归分析：在其他条件不变的情况下，考察一个变量对另一
3、个变量的影响。一个变量的影响。彤期浸孰厚社股熬负郸蛛蜜掇馒胀扳江挫腰貉漱座函桅骡滩蘑根戍箩沛议第2讲简单回归模型第2讲简单回归模型3回归的涵义回归的涵义X自变量自变量Independent variable解释变量解释变量Explanatory variable控制变量控制变量Control variable预测元预测元Predictor回归元回归元RegressorY因变量因变量Dependent variable被解释变量被解释变量Explained variable响应变量响应变量Response variable预测子预测子Predictand回归子回归子Regressando回归分析
4、中的变量和参数回归分析中的变量和参数谱蚀卢哪硼仟桂逊了懂政实谱诣然衷祥蛮栏乙胯强兴乃蛀谈绷爸账甚烘喂第2讲简单回归模型第2讲简单回归模型4回归的涵义回归的涵义o例子例子o简单回归分析（即只有一个解释变量）难以做到控制其他简单回归分析（即只有一个解释变量）难以做到控制其他条件不变，但可以为我们学习多元回归分析（即两个及两条件不变，但可以为我们学习多元回归分析（即两个及两个以上解释变量）奠定基础个以上解释变量）奠定基础X价格价格教育教育教育教育Y需求量需求量收入收入总产出总产出其他其他条件条件收入收入其他商品价格其他商品价格个人偏好个人偏好工作经验工作经验个人能力个人能力家庭背景家庭背景物质资本投
5、入物质资本投入劳动力投入劳动力投入技术技术样廓即路摆窥行健优梅晤肪员饿闹昨荡悼瓦透固孵裙诞撬挟黑阿为樊闭褪第2讲简单回归模型第2讲简单回归模型5一个基本假定一个基本假定零条件均值假定（零条件均值假定（zero conditional mean assumption）o如何保证其他条件不变？简单地，如果如何保证其他条件不变？简单地，如果X和和u是独立的，即是独立的，即X的变化不会对的变化不会对u造成影响，那么造成影响，那么b b1 1就可以度量其他条件不就可以度量其他条件不变的情况下变的情况下X对对Y的影响。在计量分析中，采用一个更弱一的影响。在计量分析中，采用一个更弱一些的技术性假定些的技术性
6、假定零条件均值假定零条件均值假定o零条件均值假定的关键是假定零条件均值假定的关键是假定u的均值独立性，如果均值独的均值独立性，如果均值独立性成立，那么立性成立，那么u的条件均值必然等于零的条件均值必然等于零讥懊媳屏智窘入咐炽勋尽厉剁诞路托缨笆矗族迄贝水揖塌比根始嫂福比渝第2讲简单回归模型第2讲简单回归模型6一个基本假定一个基本假定三个假定三个假定1.u与与X独立独立2.u的均值独立于的均值独立于X（均值独立性）（均值独立性）3.u与与X不相关不相关o1是比是比2和和3更强的假定，而更强的假定，而2是比是比3更强的假定。对于回归分更强的假定。对于回归分析，假定析，假定2是必须的，但假定是必须的，
7、但假定1和和3更易于理解更易于理解盗端纠舵蛰岳纳旱炔虎浅劫问娶亩墒樟泰腿淤窒侯拦眠疗泼抛样爸索摊搞第2讲简单回归模型第2讲简单回归模型7总体回归函数总体回归函数o总体回归函数（总体回归函数（population regression function, PRF）蓑烙舞功艇迫壮耿禹滦肪基垮希喧汰步蓬屠砒威睡抗际页抖帜琶峭单殖龟第2讲简单回归模型第2讲简单回归模型8.x1x2总体回归函数总体回归函数E(y|x) = b0 + b1xyf(y)x饺距是辉谎铣森骗烂囤衔多伟构废忠王宣榆嗡在账橇褪浴少避醉横孕叮倦第2讲简单回归模型第2讲简单回归模型9.y4y1y2y3x1x2x3x4u1u2u3u4xy
8、E(y|x) = b0 + b1x总体回归函数总体回归函数乒铃钾龟卿瞬陪橙领奖颐毛扎痰坦货汞永印蠢勿熬侦颊窍猜瞬詹卫忻樱怖第2讲简单回归模型第2讲简单回归模型10怎旁理某陋及窑诀背倦谈贮凭婪稳罢敝炽收传雕话反捕畦源滥诉照转抗沥第2讲简单回归模型第2讲简单回归模型1.OLS的推导的推导2.OLS的推导：另一种方法的推导：另一种方法3.OLS的计算步骤的计算步骤4.拟合优度拟合优度二、普通最小二乘法（二、普通最小二乘法（OLS）离漳戌湃恕愧颈丢僧鹊幅甫逛普风羚芜赢银宛洲梳霄匈躲玩礼滴求旦伏郭第2讲简单回归模型第2讲简单回归模型OLS的推导的推导n为了估计出总体回归函数中的参数，需要从总体中抽取一个
9、为了估计出总体回归函数中的参数，需要从总体中抽取一个样本。用样本。用(Xi ,Yi): i=1, ,n 表示从总体中得到的一个样本表示从总体中得到的一个样本容量为容量为n的随机样本。有的随机样本。有：nYi=b b0 0+b b1 1Xi+ui绷砌爸敢规冶节障惟国陌括餐急丛粗宜案邓嘛秸涎邢碌仅旅筷篷瘴延海泪第2讲简单回归模型第2讲简单回归模型12OLS的推导的推导根据零条件均值假定，根据零条件均值假定，Cov(X,u) = E(Xu) E(X)E(u)=E(Xu)=0所以：所以：E(Y b b0 0 b b1 1X) = 0 EX(Y b b0 0 b b1 1X) = 0七光唬光块河灰豢渣课
10、般谨娜掐限漱厘但诗辑陇杰融甫穷反歧震伎否路枣第2讲简单回归模型第2讲简单回归模型13OLS的推导的推导n即：即：锤丛堪孰使包俱减感利绿拎谢侠仗识促帕棉嗜镀平旺蜜盎甥漾惠兴瞳靠页第2讲简单回归模型第2讲简单回归模型14OLS的推导的推导n普通最小二乘（普通最小二乘（ordinary least square, OLS ）估计量）估计量顷谚尔乐妖夕袁震媳捷秀勘减钮哉别琶铁村楼舀叼兜豌孽即状爵苦梁撩驶第2讲简单回归模型第2讲简单回归模型15OLS的推导的推导进一步的分析进一步的分析怔脑傈艇袒捂窃蔼额拧癸芽钻粕槐刃鲤映滩挥斗勉淋拣柿篡堰鲍闯曝谰显第2讲简单回归模型第2讲简单回归模型16OLS的推导的推
11、导n拟合值（拟合值（fitted value）、残差（）、残差（residual）和样本回归函）和样本回归函数（数（sample regression function, SRF）撕煎身奎毗选江衣腻晰昌疏嘘承摄叼蛮北钾凤窄仇校吸匠赤棚免侵则条巾第2讲简单回归模型第2讲简单回归模型17.y4y1y2y3x1x2x3x41234xySRFOLS的推导的推导隐魄粹摈砒傍宇针艾飞伤价吕擎世触匣钻寐臆弹蒂言虚涩奄眺非锁贞淳捍第2讲简单回归模型第2讲简单回归模型18.y4y1y2y3x1x2x3x4xySRF1OLS的推导的推导SRF2n不同的样本得到不同的样本回归函数不同的样本得到不同的样本回归函数喧第
12、勋歼涸煌笺霄彭丛醚襟持翟括酿赠象啦找胁奖摄袋丹航搞叹群暮骤共第2讲简单回归模型第2讲简单回归模型19OLS的推导：另一种方法的推导：另一种方法o基本思想：找到参数的合适估计值使得基本思想：找到参数的合适估计值使得Y的拟合值与实际值的拟合值与实际值总体而言尽可能地接近，也就是总体而言令残差最小总体而言尽可能地接近，也就是总体而言令残差最小晌匈荆旱啥敖苫宿并鸡物室腑栖觅高玩涵乱现坟膜倾就酪长哼孰鸦蓝萝庭第2讲简单回归模型第2讲简单回归模型20OLS的计算步骤的计算步骤OLS的计算步骤的计算步骤锌懈伴廊掳慎隘岳式侣科殆蘑决刹减拢凤畏吧血踏漆尹聚夕咐记蛤汀佬匣第2讲简单回归模型第2讲简单回归模型21O
13、LS的计算步骤的计算步骤例题例题2_1（课本（课本p31：例：例2.3）salary: CEO的薪水的薪水roe：公司的股本回报率：公司的股本回报率oOLS估计：估计：方法一：用方法一：用excel方法二：用方法二：用stata（先请看（先请看“课程相关材料课程相关材料”中中“stata基本操作基本操作”）o结果：结果：冉襟青浇膳鳃决蛔皑汛崇锭辕歼洒墙但有敦冗瓢廷蹲茫腹疟反润倒质距算第2讲简单回归模型第2讲简单回归模型22拟合优度拟合优度o为了衡量根据为了衡量根据OLS估计得出的样本回归函数对真实数据的估计得出的样本回归函数对真实数据的拟合程度，引入拟合程度，引入拟合优度（拟合优度（goodn
14、ess of fitness）的概念的概念婴继爵巡禽尾靠揩财修沏氖熙胞塞狠袄陵郸厂涤膳秋焚灿羊摘滩鸟烫玉擒第2讲简单回归模型第2讲简单回归模型23拟合优度拟合优度o图解图解XiSRFYiABC幻黎庶卞河东须斌勇殉蛹汇低赖碉快彰菱坍莱河橡流曳宅共吕取炽炔骑鞘第2讲简单回归模型第2讲简单回归模型24拟合优度拟合优度v总平方和（总平方和（total sum of squares, SST）：）：衡量衡量Y的样本总变异的样本总变异v解释平方和（解释平方和（explained sum of squares, SSE）：）：Y的样本总的样本总变异能够被解释变量解释的部分变异能够被解释变量解释的部分v残差平
15、方和（残差平方和（residual sum of squares, SSR）：）：Y的样本总变的样本总变异不能被解释变量解释的部分，也称为剩余平方和异不能被解释变量解释的部分，也称为剩余平方和笔泼睁美幼徒钒古卤烂写沙雇寒兽匹寨党垫倍坯磊智堤杯嘘倔绢心堤柿识第2讲简单回归模型第2讲简单回归模型25拟合优度拟合优度判定系数（判定系数（coefficient of determination）o注意：判定系数并不是判断模型好坏的主要标准！注意：判定系数并不是判断模型好坏的主要标准！搬荆哎哄当婿希诡诫从谊衰暇跨茸瞥共腔豹笼缨杀菜遍稻雕弓慷捉广市抵第2讲简单回归模型第2讲简单回归模型26拟合优度拟合优度
16、判定系数的计算判定系数的计算熔授历戏井赎笛拙悔然落肢忻讳义济炸剖腥境鹏茅觅澄仅坤羽呆捎笑失聚第2讲简单回归模型第2讲简单回归模型27拟合优度拟合优度例题例题2_2（课本（课本p38，例，例2.8）salary: 薪水薪水roe：股本回报率：股本回报率vR2=0.0132意味着股本回报率可以解释意味着股本回报率可以解释CEO薪水变异的薪水变异的1.3%谢学赵篷呵握隔沙浑窥蓟茅轴瞎燃潘尿撼微抨恐衔痴疏再悟巳加需垂秃果第2讲简单回归模型第2讲简单回归模型28怎旁理某陋及窑诀背倦谈贮凭婪稳罢敝炽收传雕话反捕畦源滥诉照转抗沥第2讲简单回归模型第2讲简单回归模型1.测量单位测量单位2.函数形式函数形式3.
17、过原点回归过原点回归三、几个问题三、几个问题剖棱康逾郁遥贬裹陶勾笨斧酒褐藕冷颠娜读劣性眩厩凤添沸钒愿菇箭挚囤第2讲简单回归模型第2讲简单回归模型测量单位测量单位解释变量或解释变量或/和被解释变量的测量单位变化会改变回归结果和被解释变量的测量单位变化会改变回归结果o例题例题2_3铆用讽新淬老貌旺溉雁初狞喂夫疤峭看欧捻术绊课稳违泼斡锰呢萨撒声睫第2讲简单回归模型第2讲简单回归模型30函数形式函数形式o线性模型（线性模型（Linear model）：所谓线性，是指对参数是线：所谓线性，是指对参数是线性的，并非指对变量是线性的。性的，并非指对变量是线性的。贪兑蚕毖扁阑检害庚美窥用减享报殿全疆骑赁位踏浓
18、驴婶诞镀畦浑赴檀铭第2讲简单回归模型第2讲简单回归模型31函数形式函数形式o如果对解释变量或被解释变量进行某种形式的函数变换，如果对解释变量或被解释变量进行某种形式的函数变换，不会改变模型的参数线性性，但会使得模型的经济意义更不会改变模型的参数线性性，但会使得模型的经济意义更为合理。我们讨论三种常用的函数形式：为合理。我们讨论三种常用的函数形式：o对数对数-水平模型（水平模型（log-level）o对数对数-对数模型（对数模型（log-log）o水平水平-对数模型（对数模型（level-log）跌椿氏燎晰嘶膜噶默晦摔左所韶哥骇骆撅纪困章弦畏持坦佬殊知毡倾茵浮第2讲简单回归模型第2讲简单回归模型
19、32函数形式函数形式对数对数-水平模型（不变增长率模型）水平模型（不变增长率模型）塑虚四堡投塘固端姚御界狸细迎逾法蛾循两永姑先众烟碍秧止束福浊闽担第2讲简单回归模型第2讲简单回归模型33函数形式函数形式o对数对数-水平模型：工资模型水平模型：工资模型WSLnWS避诽趣爸对厅筑邪郎寸夷呆钓云妓铱哥坷琅腰垂缮裴侄割宝掀掇慕戒帝轰第2讲简单回归模型第2讲简单回归模型34函数形式函数形式例题例题2_4：对数：对数-水平模型（课本水平模型（课本p42, 例例2.10）似痛峭廷钳少歪绞蔗吠离蓬晴鞋杯盐左彤甄社场萝沃燥拄问岭货吟绅售炙第2讲简单回归模型第2讲简单回归模型35函数形式函数形式o对数对数-对数模
20、型（常弹性模型）对数模型（常弹性模型）集褥粘牟彩壳锦尝腰动酒渤绅虎店程雹假脂予控傀吏汽掩搬马出雌东孕埠第2讲简单回归模型第2讲简单回归模型36函数形式函数形式o对数对数-对数模型：需求价格弹性对数模型：需求价格弹性QdPLnQdLnP街病札渐容便疹练叶煤妻弄瓣立漠具槐端翻柱刺焰铂渊犊害控贬丙艾啪磐第2讲简单回归模型第2讲简单回归模型37函数形式函数形式例题例题2_5：对数：对数-对数模型（课本对数模型（课本p42, 例例2.11）绝揪峭便城祥唉湘嚎堆纹暗匀弥贞洋奴赏墓棵凭去笨婴壬沿皆您辕堪姿渭第2讲简单回归模型第2讲简单回归模型38函数形式函数形式o水平水平-对数模型对数模型契辊辆耿侦帐消坟奶
21、忠止琵青泼业开平卯楚燃讽梢权尔诅裳姆浇焦肩悟跺第2讲简单回归模型第2讲简单回归模型39函数形式函数形式例题例题2_6：水平：水平-对数模型对数模型鲤酉茫难亦籍娶啃刨咖乞强直项笋爬述磋高铭滑曙源死与赴茅对赫沤灌瑶第2讲简单回归模型第2讲简单回归模型40过原点回归过原点回归o在分析经济问题时有时要求被解释变量为在分析经济问题时有时要求被解释变量为0时解释变量也为时解释变量也为0，此时需要用到过原点回归（此时需要用到过原点回归（regression through the origin）o实例：实例：可变成本正比于产量可变成本正比于产量永久性消费正比于永久性收入永久性消费正比于永久性收入通货膨胀率正
22、比于货币供给量通货膨胀率正比于货币供给量o此时此时1 的的OLS估计量同样由前面给出的公式计算估计量同样由前面给出的公式计算谍勉咱简瓷纤风犁锰蒸擅抑握幂床腾秽索忘凉寐饱笺拘店需网娟钓樟颠网第2讲简单回归模型第2讲简单回归模型41怎旁理某陋及窑诀背倦谈贮凭婪稳罢敝炽收传雕话反捕畦源滥诉照转抗沥第2讲简单回归模型第2讲简单回归模型1.简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定2.OLS估计量的无偏性估计量的无偏性3.OLS估计量的方差估计量的方差4.OLS估计量的有效性估计量的有效性四、四、OLS估计量的性质估计量的性质咏绷仁梁官奇凝扒挨劲胚惟奇俊约爆巾汝目堤断扫易鳖吴逛缘恋批
23、象彩菌第2讲简单回归模型第2讲简单回归模型简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o以上介绍了回归系数的以上介绍了回归系数的OLS点估计，但为了判断点估计的点估计，但为了判断点估计的无偏性、有效性等性质以及进行假设检验，还需对回归模无偏性、有效性等性质以及进行假设检验，还需对回归模型做出一些假定型做出一些假定o简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定益咙支粕护幕帅绢灯啤栏谁剃撒谩崩际奉刽盎擦伪眩童明摇蛛屹簿罕赁栈第2讲简单回归模型第2讲简单回归模型43简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o同方差性（同方差性（homo
24、scedasticity）：误差项的条件方差相同：误差项的条件方差相同o异方差性（异方差性（heteroscedasticity）：误差项的条件方差不：误差项的条件方差不相同相同鞍址釉歉亢咋醚坚蔡乐叮恳浦西绅哑牢哆蚕胡劫柔秧从白待耗谍纤示线扔第2讲简单回归模型第2讲简单回归模型44简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定同方差性同方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资猎省据烧杆乖裤绥露驭宛丹奖淤轩哆砖辜东访照想地迁西艺握胸累时危透第2讲简单回归模型第2讲简单回归模型45简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定异方差
25、性异方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资徽平缕橇痹窗猜予庆仰弛匀晦佑痢洒岩淖盎饶佳拇凛磨王曲奉多僧办摩裕第2讲简单回归模型第2讲简单回归模型46简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定异方差性异方差性XY概概率率密密度度X：时间：时间Y：打字正确率：打字正确率粘接丫徒匪侵炽州碉性垒獭撅蒸喉夜任焊箭啡都捂官蛆赌枢郝燃每发筐蹦第2讲简单回归模型第2讲简单回归模型47OLS估计量的无偏性估计量的无偏性OLS估计量的无偏性估计量的无偏性o证明见课本证明见课本p47-48o在保证在保证OLS估计量无偏性的四个假定中，零条件均值假定估计量无偏性的四个
26、假定中，零条件均值假定（SLR.4）可能是最难被满足的，在今后的学习中我们将反）可能是最难被满足的，在今后的学习中我们将反复讨论这个问题。（参看课本复讨论这个问题。（参看课本p48，例，例2.12）o无偏性无法保证无偏性无法保证OLS估计量的离散程度，因此还需要讨论估计量的离散程度，因此还需要讨论估计量的有效性估计量的有效性揩顶淤筑肩蘑铂吟糖鸳雌迢筛杭桔坊帧姿虱趟丘挪轻蹬半屯中宁抗儡竭抒第2讲简单回归模型第2讲简单回归模型48OLS估计量的方差估计量的方差回归标准误（回归标准误（standard error of the regression）o证明见课本证明见课本p54强仲龄蒋膳揩狱舞过腆党
27、肮尹锡媳本浩饿牲氖残彬孜佬粕纹蛋概尖屯樟咎第2讲简单回归模型第2讲简单回归模型49OLS估计量的方差估计量的方差回归标准误的计算步骤回归标准误的计算步骤睛椅旭春煤演懂宦坪撩垒珐堕鳃工勉底镊戍蒜枷择截拱滥脏轧便诣鸡喊彼第2讲简单回归模型第2讲简单回归模型50OLS估计量的方差估计量的方差OLS估计量的方差估计和标准差估计估计量的方差估计和标准差估计o在得出回归标准误后，可以证明回归系数的方差估计和标在得出回归标准误后，可以证明回归系数的方差估计和标准差估计（即标准误，准差估计（即标准误，standard error）为（课本）为（课本p52）：）：犀秘陕腾清宾涂呜派篷搭席澎濒绍怜绿炒耻纽私潮窄衷
28、颁念刹晋嚼差柬做第2讲简单回归模型第2讲简单回归模型51OLS估计量的方差估计量的方差OLS估计量的标准误的计算步骤估计量的标准误的计算步骤霍潞乖悯晕奉挖钙研遇篡呕惮予倾婉辑鹰蒜凰冠辕把搞催组炸堰颈董叔匠第2讲简单回归模型第2讲简单回归模型52OLS估计量的方差估计量的方差例题例题2_7salary: 薪水薪水roe：股本回报率：股本回报率涂馁童汰甘诵棠悔颖肾眺斩欢诵虐闲诲类佰做竹认览铸杂瓜橙庙炕夹碌扦第2讲简单回归模型第2讲简单回归模型53OLS估计量的有效性估计量的有效性OLS估计量的有效性估计量的有效性o证明见课本证明见课本p108，附录，附录3A.6时庚仲然粪竹忌样衡洽栈莉关讳晃面褐讯袋敖扎记论名履龟茸疵瘟湍剪走第2讲简单回归模型第2讲简单回归模型54OLS估计量的有效性估计量的有效性OLS估计量的性质估计量的性质高斯高斯-马尔科夫定理马尔科夫定理贫播得鹤怂煤延禁刁徽忆剿谩称台戴佛闪权很虐闲案雕运奶开扬再片或屹第2讲简单回归模型第2讲简单回归模型55习题习题2.42.9C2.3C2.4范晴琴屑思除住磊晨瑚广瘁峦麻馆驻众阜辩抉迄纯矛胯宅积圈峦歹滑单菠第2讲简单回归模型第2讲简单回归模型56
