《第2讲单回归模型》由会员分享，可在线阅读，更多相关《第2讲单回归模型（56页珍藏版）》请在金锄头文库上搜索。
1、帆机飞瓶胖萌饼短铆慧赏泌孟灿毋倚割袍褒恿锹疼躺郡桥朗晤配揉骡荆祁第2讲单回归模型第2讲单回归模型第二讲第二讲 简单回归模型简单回归模型Simple Regression Model一、一、基本概念基本概念二、普通最小二乘法（二、普通最小二乘法（OLS）三、几个问题三、几个问题四、四、OLS估计量的性质估计量的性质厅傅猎料锅被悟豫搐置磺团豁卓牟滓象藻副牵睁凤胃骤稳蔷渤沤诡咱譬爪第2讲单回归模型第2讲单回归模型帆机飞瓶胖萌饼短铆慧赏泌孟灿毋倚割袍褒恿锹疼躺郡桥朗晤配揉骡荆祁第2讲单回归模型第2讲单回归模型1.回归的涵义回归的涵义2.一个基本假定一个基本假定3.总体回归函数总体回归函数一、基本概念一
2、、基本概念障皿詹样柳僚个趣曳签揉秘桔闷裹民窄雍唯凶禽耶萎尘阁尉聂潞蚌爬松送第2讲单回归模型第2讲单回归模型回归的涵义回归的涵义o最初的涵义：最初的涵义：回归（回归（regress）一词最早由英国生理学家高一词最早由英国生理学家高尔顿（尔顿（Galton）提出，用以指给定父母的身高后，儿女的）提出，用以指给定父母的身高后，儿女的身高有回复到人口总体平均身高的趋势，即身高有回复到人口总体平均身高的趋势，即“回归到中等回归到中等”（regression to mediocrity）o回归分析：在其他条件不变的情况下，考察一个变量对另回归分析：在其他条件不变的情况下，考察一个变量对另一个变量的影响。一
3、个变量的影响。林篓袄婚痢名狭写疟访赴饯僳吼莆影智顺漱或渠有老锣晨涎箍夯干科乘根第2讲单回归模型第2讲单回归模型3回归的涵义回归的涵义X自变量自变量Independent variable解释变量解释变量Explanatory variable控制变量控制变量Control variable预测元预测元Predictor回归元回归元RegressorY因变量因变量Dependent variable被解释变量被解释变量Explained variable响应变量响应变量Response variable预测子预测子Predictand回归子回归子Regressando回归分析中的变量和参数回归分
4、析中的变量和参数戈仕茨怠湃聚弧盗悲筒瞎浓里蔑晶权硅集攀芯笔泥强么庆妊尾机关被蛹商第2讲单回归模型第2讲单回归模型4回归的涵义回归的涵义o例子例子o简单回归分析（即只有一个解释变量）难以做到控制其他简单回归分析（即只有一个解释变量）难以做到控制其他条件不变，但可以为我们学习多元回归分析（即两个及两条件不变，但可以为我们学习多元回归分析（即两个及两个以上解释变量）奠定基础个以上解释变量）奠定基础X价格价格教育教育教育教育Y需求量需求量收入收入总产出总产出其他其他条件条件收入收入其他商品价格其他商品价格个人偏好个人偏好工作经验工作经验个人能力个人能力家庭背景家庭背景物质资本投入物质资本投入劳动力投入
5、劳动力投入技术技术纯芭邵旁泳系火沙地味四暂登址囚袭矽卡猫疤细慎扭澳写何她烘棵狗杉政第2讲单回归模型第2讲单回归模型5一个基本假定一个基本假定零条件均值假定（零条件均值假定（zero conditional mean assumption）o如何保证其他条件不变？简单地，如果如何保证其他条件不变？简单地，如果X和和u是独立的，即是独立的，即X的变化不会对的变化不会对u造成影响，那么造成影响，那么b b1 1就可以度量其他条件不就可以度量其他条件不变的情况下变的情况下X对对Y的影响。在计量分析中，采用一个更弱一的影响。在计量分析中，采用一个更弱一些的技术性假定些的技术性假定零条件均值假定零条件均值
6、假定o零条件均值假定的关键是假定零条件均值假定的关键是假定u的均值独立性，如果均值独的均值独立性，如果均值独立性成立，那么立性成立，那么u的条件均值必然等于零的条件均值必然等于零勒块曰盘却呐娱鼻遁薪僻淡好万盯鹅蝗大叼锋褂贝痰吧镣悠兄绰篮谜凄悔第2讲单回归模型第2讲单回归模型6一个基本假定一个基本假定三个假定三个假定1.u与与X独立独立2.u的均值独立于的均值独立于X（均值独立性）（均值独立性）3.u与与X不相关不相关o1是比是比2和和3更强的假定，而更强的假定，而2是比是比3更强的假定。对于回归分更强的假定。对于回归分析，假定析，假定2是必须的，但假定是必须的，但假定1和和3更易于理解更易于理
7、解诺厚啮窒烫拔秃壕吼战锅矛镐壹桓佯腹围嫡涵蜒绣残燎苑揍良邻彤赎边匪第2讲单回归模型第2讲单回归模型7总体回归函数总体回归函数o总体回归函数（总体回归函数（population regression function, PRF）测程石豢搂并傍捆窘楞佃揍昏买桔氛荷盯丛匣吩真毛轿沂贩贺录堂遏饲嘴第2讲单回归模型第2讲单回归模型8.x1x2总体回归函数总体回归函数E(y|x) = b0 + b1xyf(y)x有呜闻侦怒淖压贡咙蚌六歼烛肩眶顷屁引炬掏门态掺率叠落困励釜甚膊凛第2讲单回归模型第2讲单回归模型9.y4y1y2y3x1x2x3x4u1u2u3u4xyE(y|x) = b0 + b1x总体回归函
8、数总体回归函数佩扮栏厌阂坤贡千莉扰硫鞠树瞎错谰支橇鱼濒堕卖逝蹋恼贸匹膏狙惩轮剖第2讲单回归模型第2讲单回归模型10帆机飞瓶胖萌饼短铆慧赏泌孟灿毋倚割袍褒恿锹疼躺郡桥朗晤配揉骡荆祁第2讲单回归模型第2讲单回归模型1.OLS的推导的推导2.OLS的推导：另一种方法的推导：另一种方法3.OLS的计算步骤的计算步骤4.拟合优度拟合优度二、普通最小二乘法（二、普通最小二乘法（OLS）椽嘲雀枫墟皋劳押哥卧酱枉阴置戎蕾福险加凉娟匡姓呼隧轰孝傣警笺侯彻第2讲单回归模型第2讲单回归模型OLS的推导的推导n为了估计出总体回归函数中的参数，需要从总体中抽取一个为了估计出总体回归函数中的参数，需要从总体中抽取一个样本
9、。用样本。用(Xi ,Yi): i=1, ,n 表示从总体中得到的一个样本表示从总体中得到的一个样本容量为容量为n的随机样本。有的随机样本。有：nYi=b b0 0+b b1 1Xi+ui铭但浅逆食允骏贵屎裔骤社罕贴艾决脂载属笑嫂哭慎旬篱顿淘彦寂讶弥淘第2讲单回归模型第2讲单回归模型12OLS的推导的推导根据零条件均值假定，根据零条件均值假定，Cov(X,u) = E(Xu) E(X)E(u)=E(Xu)=0所以：所以：E(Y b b0 0 b b1 1X) = 0 EX(Y b b0 0 b b1 1X) = 0价聊袒粥枷氛痒臣扫遂尖喜则腐瑰籽爽某歹菲炎靠言彩并巢导遮压骂稠霖第2讲单回归模型
10、第2讲单回归模型13OLS的推导的推导n即：即：能忆栗跺蛹皱妓灸翔车呻榔鄂抉谅激奠谐寺卑蚜火降寂渊本头珍雇畔啪挥第2讲单回归模型第2讲单回归模型14OLS的推导的推导n普通最小二乘（普通最小二乘（ordinary least square, OLS ）估计量）估计量昨窍莎耸枉窘谜产躯置浸减药执杏扔茶胰软顽控庆逸膏镭宰诀更茹稍废刹第2讲单回归模型第2讲单回归模型15OLS的推导的推导进一步的分析进一步的分析伙规溯介复足佬钡医系丧翻启绪烦启智膜牢族涵井账篇巳唆饲鸥诗缝亚牵第2讲单回归模型第2讲单回归模型16OLS的推导的推导n拟合值（拟合值（fitted value）、残差（）、残差（residu
11、al）和样本回归函）和样本回归函数（数（sample regression function, SRF）瑟稀座信迹中耍藩间硅泥吩夜考疾震爬娘收瘁燃凄沥欺渊毛讹柠苑垫妊抄第2讲单回归模型第2讲单回归模型17.y4y1y2y3x1x2x3x41234xySRFOLS的推导的推导倡致怕凌日兜葱错绥康田殊杏陨烂博干抢渤痴输内思亚道瘪凋粮梁琵窿椒第2讲单回归模型第2讲单回归模型18.y4y1y2y3x1x2x3x4xySRF1OLS的推导的推导SRF2n不同的样本得到不同的样本回归函数不同的样本得到不同的样本回归函数忙搬澡拖暑讫溅耙搜绩酱至桌噪诗崔竟帝话妹怯妇皇阅孩击撕曰脆苏寅言第2讲单回归模型第2讲单
12、回归模型19OLS的推导：另一种方法的推导：另一种方法o基本思想：找到参数的合适估计值使得基本思想：找到参数的合适估计值使得Y的拟合值与实际值的拟合值与实际值总体而言尽可能地接近，也就是总体而言令残差最小总体而言尽可能地接近，也就是总体而言令残差最小泡晾抡抬萍潦威唱镭疗山陵溯爽殃邢架旷沁辗貌云彭啄寒薛以镜愤伸幼闺第2讲单回归模型第2讲单回归模型20OLS的计算步骤的计算步骤OLS的计算步骤的计算步骤裹靡妒针歧俗晒跃漾子架棒虹伊铅枯胜搜妙娥坪拷小猎多慈瞻腺仲蝗亲赶第2讲单回归模型第2讲单回归模型21OLS的计算步骤的计算步骤例题例题2_1（课本（课本p31：例：例2.3）salary: CEO的
13、薪水的薪水roe：公司的股本回报率：公司的股本回报率oOLS估计：估计：方法一：用方法一：用excel方法二：用方法二：用stata（先请看（先请看“课程相关材料课程相关材料”中中“stata基本操作基本操作”）o结果：结果：瑶煤缔搁码瘪君绰菊姆骤非徊换蹦僻撅修琳伴婆跌谬究晃铲参千楔柞诀泰第2讲单回归模型第2讲单回归模型22拟合优度拟合优度o为了衡量根据为了衡量根据OLS估计得出的样本回归函数对真实数据的估计得出的样本回归函数对真实数据的拟合程度，引入拟合程度，引入拟合优度（拟合优度（goodness of fitness）的概念的概念屑狙他匈缴道腕茅郊怪漏鸡寐赠恳羚啸壹铸能注犊冰该锄重拨板志
14、崩斌讽第2讲单回归模型第2讲单回归模型23拟合优度拟合优度o图解图解XiSRFYiABC腋毯颖踞浴邮逼氯境业会圃踢三锤锣凡诱埋闷胳战慌篱膘耙乏装税贫颇青第2讲单回归模型第2讲单回归模型24拟合优度拟合优度v总平方和（总平方和（total sum of squares, SST）：）：衡量衡量Y的样本总变异的样本总变异v解释平方和（解释平方和（explained sum of squares, SSE）：）：Y的样本总的样本总变异能够被解释变量解释的部分变异能够被解释变量解释的部分v残差平方和（残差平方和（residual sum of squares, SSR）：）：Y的样本总变的样本总变异不
15、能被解释变量解释的部分，也称为剩余平方和异不能被解释变量解释的部分，也称为剩余平方和迢颧掌阂谤藐败闭烈泡谐知今馁鸣能剔饶疡买伍早檄和森道莱托昭台虞报第2讲单回归模型第2讲单回归模型25拟合优度拟合优度判定系数（判定系数（coefficient of determination）o注意：判定系数并不是判断模型好坏的主要标准！注意：判定系数并不是判断模型好坏的主要标准！琉陈斑讨策婴淮即扦桌邪感垣辆的撰皖鉴宾蔓乐鸿尖告费灭梳还勺瘤蛊菱第2讲单回归模型第2讲单回归模型26拟合优度拟合优度判定系数的计算判定系数的计算碎继优多洽辗铀返逾帝迎隶痞惶掠汀抵秤胯异巾恨亭静康坝豁杏礁灶斥袱第2讲单回归模型第2讲单
16、回归模型27拟合优度拟合优度例题例题2_2（课本（课本p38，例，例2.8）salary: 薪水薪水roe：股本回报率：股本回报率vR2=0.0132意味着股本回报率可以解释意味着股本回报率可以解释CEO薪水变异的薪水变异的1.3%基纯具循芽户谊佳双掣牟涂卧府遥剔榷倦栅袖眶塌喷试张谍鳃末戈祁箩豁第2讲单回归模型第2讲单回归模型28帆机飞瓶胖萌饼短铆慧赏泌孟灿毋倚割袍褒恿锹疼躺郡桥朗晤配揉骡荆祁第2讲单回归模型第2讲单回归模型1.测量单位测量单位2.函数形式函数形式3.过原点回归过原点回归三、几个问题三、几个问题潮壁卖甜澎嗜瓣穷谁鄂蔽戈秩枷础旅黄饿引转勋亨堆屿斧另患冠址剩堑鸵第2讲单回归模型第2
17、讲单回归模型测量单位测量单位解释变量或解释变量或/和被解释变量的测量单位变化会改变回归结果和被解释变量的测量单位变化会改变回归结果o例题例题2_3郊帝蛇肘单铲冈仁判箕戚除对众禁袍惧襟抗吩电史菇壳却莽甄走府篓塘静第2讲单回归模型第2讲单回归模型30函数形式函数形式o线性模型（线性模型（Linear model）：所谓线性，是指对参数是线：所谓线性，是指对参数是线性的，并非指对变量是线性的。性的，并非指对变量是线性的。渔香氰真挥零墟翅殴所公脓气呈径驾甭肉埔毯期幸沾峪瞬隶锄贞镐掇氏睛第2讲单回归模型第2讲单回归模型31函数形式函数形式o如果对解释变量或被解释变量进行某种形式的函数变换，如果对解释变量
18、或被解释变量进行某种形式的函数变换，不会改变模型的参数线性性，但会使得模型的经济意义更不会改变模型的参数线性性，但会使得模型的经济意义更为合理。我们讨论三种常用的函数形式：为合理。我们讨论三种常用的函数形式：o对数对数-水平模型（水平模型（log-level）o对数对数-对数模型（对数模型（log-log）o水平水平-对数模型（对数模型（level-log）氖葡哥不煎鸯纂务对撰锰僳诬识溪央课挽王敷党未员棠口寨痉苔晰妥筹玫第2讲单回归模型第2讲单回归模型32函数形式函数形式对数对数-水平模型（不变增长率模型）水平模型（不变增长率模型）鹰老代锤粳只掏套曰驯夺廉梧遍钝辖桃捡蔚菏绵卸荷交汞孰熬泊裙蜕粤
19、虫第2讲单回归模型第2讲单回归模型33函数形式函数形式o对数对数-水平模型：工资模型水平模型：工资模型WSLnWS竭潜恶嗅捌讼拥恿借泞筑寂锚盒灭女千淤野茨近腺烧脚颗疮效狭静苔冉繁第2讲单回归模型第2讲单回归模型34函数形式函数形式例题例题2_4：对数：对数-水平模型（课本水平模型（课本p42, 例例2.10）矣禹蓟茂莎数糕亡悟但湍揭徽惯娄韦馅酮恃勃愈倪漓颠岭绘珐料该砰鳖俗第2讲单回归模型第2讲单回归模型35函数形式函数形式o对数对数-对数模型（常弹性模型）对数模型（常弹性模型）寇肛州垢校鸽疫次乐膏危裔贩约谆钵葫婚怯穗钮寨虞梢攻酵取辛窝厘旺盒第2讲单回归模型第2讲单回归模型36函数形式函数形式o
20、对数对数-对数模型：需求价格弹性对数模型：需求价格弹性QdPLnQdLnP湛雾呀茅睬词孝竹耙粉韵逗俏巧嘘膨陀搓每缺吞络斜蹬谱抿疾阉缎嘎苔缓第2讲单回归模型第2讲单回归模型37函数形式函数形式例题例题2_5：对数：对数-对数模型（课本对数模型（课本p42, 例例2.11）汁坯苛芋胰靛炽杏敲柄重赂爹皑迭藏仙锋翠吊短炔舀害腆得跃颇屎鲜届熙第2讲单回归模型第2讲单回归模型38函数形式函数形式o水平水平-对数模型对数模型驹辙摩荔府衔缀骏塌竟厌送宇拆遭坡题锌蒂戚赂佃魔颗渔闻料册姨吾自忠第2讲单回归模型第2讲单回归模型39函数形式函数形式例题例题2_6：水平：水平-对数模型对数模型鞘匣娄鸳垮凶坯猪玲毡毡缘森
21、拎羊鼠慧法华燥砚走讼耳柠菇申乔恼世榷挂第2讲单回归模型第2讲单回归模型40过原点回归过原点回归o在分析经济问题时有时要求被解释变量为在分析经济问题时有时要求被解释变量为0时解释变量也为时解释变量也为0，此时需要用到过原点回归（此时需要用到过原点回归（regression through the origin）o实例：实例：可变成本正比于产量可变成本正比于产量永久性消费正比于永久性收入永久性消费正比于永久性收入通货膨胀率正比于货币供给量通货膨胀率正比于货币供给量o此时此时1 的的OLS估计量同样由前面给出的公式计算估计量同样由前面给出的公式计算缠祸腕睦潍椒返女淄厄嚷貉辫棋霖纲撂砷阜杠瘤叛亮菇毖精
22、材糟碎尹茧颖第2讲单回归模型第2讲单回归模型41帆机飞瓶胖萌饼短铆慧赏泌孟灿毋倚割袍褒恿锹疼躺郡桥朗晤配揉骡荆祁第2讲单回归模型第2讲单回归模型1.简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定2.OLS估计量的无偏性估计量的无偏性3.OLS估计量的方差估计量的方差4.OLS估计量的有效性估计量的有效性四、四、OLS估计量的性质估计量的性质溶螺酪寝幻臆藐稀疫柑愉边袒钱漫衡润锦唬登型烁臭鞘子针妙挣请窄帐芳第2讲单回归模型第2讲单回归模型简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o以上介绍了回归系数的以上介绍了回归系数的OLS点估计，但为了判断点估计的点估计
23、，但为了判断点估计的无偏性、有效性等性质以及进行假设检验，还需对回归模无偏性、有效性等性质以及进行假设检验，还需对回归模型做出一些假定型做出一些假定o简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定兢载破小席挨逛撤冀扶拯绦邯企奇狐掺珠仇族勋乳垫靖模椿澜颇既教样娄第2讲单回归模型第2讲单回归模型43简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o同方差性（同方差性（homoscedasticity）：误差项的条件方差相同：误差项的条件方差相同o异方差性（异方差性（heteroscedasticity）：误差项的条件方差不：误差项的条件方差不相同相同鹰桌尉短记诧均
24、狙途疽牲畦阶锣囊睁收营牺么虞帧逛澳差桃区柳玫氨彝株第2讲单回归模型第2讲单回归模型44简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定同方差性同方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资庐缝哺捂挟升子嫩屁柔星藉殆稍准厩瞬弄糯柬颤松凰征唐汝液芝兴爽却窝第2讲单回归模型第2讲单回归模型45简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定异方差性异方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资隙混比趁戊蕊条吝般炎讨湃肝哗某否覆搔冬蛹挤唉涩谨埃傣静械蓑窃谍颜第2讲单回归模型第2讲单回归模型46简单回归模型的高斯简单回归模型
25、的高斯- -马尔科夫假定马尔科夫假定异方差性异方差性XY概概率率密密度度X：时间：时间Y：打字正确率：打字正确率乳梢耗敏性禾莆烯德诚郴茫咳窘帕独刻麦渺受牡愁绽食诚筷粤戮悔碉俺轿第2讲单回归模型第2讲单回归模型47OLS估计量的无偏性估计量的无偏性OLS估计量的无偏性估计量的无偏性o证明见课本证明见课本p47-48o在保证在保证OLS估计量无偏性的四个假定中，零条件均值假定估计量无偏性的四个假定中，零条件均值假定（SLR.4）可能是最难被满足的，在今后的学习中我们将反）可能是最难被满足的，在今后的学习中我们将反复讨论这个问题。（参看课本复讨论这个问题。（参看课本p48，例，例2.12）o无偏性无
26、法保证无偏性无法保证OLS估计量的离散程度，因此还需要讨论估计量的离散程度，因此还需要讨论估计量的有效性估计量的有效性芭你按德馅巧轧霸嫡宜骑髓杯捷直仟新嫁佬紧匈惺伦悬晃废辩拱髓属蚁蕾第2讲单回归模型第2讲单回归模型48OLS估计量的方差估计量的方差回归标准误（回归标准误（standard error of the regression）o证明见课本证明见课本p54盔博宾抢怂烛忿偿伪弗漳力篆囚暑瓤于窿鹤侗应乘举窜莫筹谆泞蘑臭间蓑第2讲单回归模型第2讲单回归模型49OLS估计量的方差估计量的方差回归标准误的计算步骤回归标准误的计算步骤演渍俯伪挨扼稽似胞菊侮阶踩霉煤也看儒纫廊锦样缔逃解衣将处既撵茄隋
27、第2讲单回归模型第2讲单回归模型50OLS估计量的方差估计量的方差OLS估计量的方差估计和标准差估计估计量的方差估计和标准差估计o在得出回归标准误后，可以证明回归系数的方差估计和标在得出回归标准误后，可以证明回归系数的方差估计和标准差估计（即标准误，准差估计（即标准误，standard error）为（课本）为（课本p52）：）：伏茅禁衔批柜制燎帖针佬押持啦摆许俯伪盾访优衅庸歹转耻酋洁刀祖袍鸣第2讲单回归模型第2讲单回归模型51OLS估计量的方差估计量的方差OLS估计量的标准误的计算步骤估计量的标准误的计算步骤等神筛骇险寓耸款卵孵牟菇惟摈善押则禾雀烘遥遥准邹寻迹磷砾妨吃咐聊第2讲单回归模型第2
28、讲单回归模型52OLS估计量的方差估计量的方差例题例题2_7salary: 薪水薪水roe：股本回报率：股本回报率哇搭恩傅核蔽酱妓绰惩稠芽量缓躲叛韧济赴镍知吸霹赛陛榴胡击想攫声苍第2讲单回归模型第2讲单回归模型53OLS估计量的有效性估计量的有效性OLS估计量的有效性估计量的有效性o证明见课本证明见课本p108，附录，附录3A.6找玉赠郭询宁斌闲探寡亨狠放乔相虎钡薄茶博啃豹两阴醉悼苏还憾恃撅动第2讲单回归模型第2讲单回归模型54OLS估计量的有效性估计量的有效性OLS估计量的性质估计量的性质高斯高斯-马尔科夫定理马尔科夫定理蔽日事递耕牲案凰铰酵砖厂疮洲烟熬反例址基皆户垂凳玫蒲而腮烙裂客墟第2讲单回归模型第2讲单回归模型55习题习题2.42.9C2.3C2.4倚诸央聋汞寸砂隔尼厉泣纪贞惋痴驼倔锅渐泊腊吃烈醛瓣斑蓝若肺鹰壁亦第2讲单回归模型第2讲单回归模型56
