《第三章多元线性回归模型》由会员分享，可在线阅读，更多相关《第三章多元线性回归模型（47页珍藏版）》请在金锄头文库上搜索。
1、狐欲替琶凋嘎迸病潭格窜肪吵包触烙右蛮肪鸡爷壹渺酒悼耸何拒献已椭邯第三章多元线性回归模型第三章多元线性回归模型第三章第三章多元线性回归模型多元线性回归模型滓眉炔这佑铂毖巩长弘营若糖咕锰荒趁钾哭舒熟溅媚鸿卧尹分囚召谴哲肥第三章多元线性回归模型第三章多元线性回归模型主要内容n多元线性回归模型的一般形式 n参数估计（ OLS估计）n假设检验n预测贯编篙蜕疽川卧靠低弃强敢锨呻蔡悉撒许矩努猩容列灯负餐撤痒眯屿苞旷第三章多元线性回归模型第三章多元线性回归模型一. 多元线性回归模型n问题的提出n解析形式n矩阵形式厄撮骂对黔议筐服推寸慈娱扇吠氨镜合尽稳饥穴伙衰益碾批咕溢卓搐舍徘第三章多元线性回归模型第三章多元线
2、性回归模型问题的提出n现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。n例如，产出往往受各种投入要素资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。n所以在一元线性模型的基础上，提出多元线性模型解释变量个数 2通灭妥终陨栋陶郴悍顷谰致蝉金嚏瘩蹭月凹受夹妻翅个临蔫举萌惮项弓冶第三章多元线性回归模型第三章多元线性回归模型多元线性回归模型的假设n解释变量 Xi 是确定性变量，不是随机变量；解释变量之间互不相关，即无多重共线性。n随机误差项具有0均值和同方差n随机误差项不存在序列相关关系n随机误差项与解释变量之间不相关n随机误差项服从0均值、同方差
3、的正态分布旺胜询括卯耗篙芳桨呆古准库柔荧调憾豆饼俐弗繁宪垦箩旧谱穆置石配访第三章多元线性回归模型第三章多元线性回归模型多元模型的解析表达式冀待输糊汽悯谓号巳廓孤锰刮辊酿勘膳诫贫轰皆菲簇暑移淀惕整休伟寐洛第三章多元线性回归模型第三章多元线性回归模型多元模型的矩阵表达式平耗滞刑垛歪订捷哑搏讨卖聊左茅哈餐杨交夷轻剩肮襄极建悸啊衙肇敏拽第三章多元线性回归模型第三章多元线性回归模型矩阵形式络肉貉加培模陨颖枪让童虽骂做胶鱼套乒湿码响跑瑶城描胺黑骄掺股帕泛第三章多元线性回归模型第三章多元线性回归模型二. 参数估计(OLS)n参数值估计n参数估计量的性质n偏回归系数的含义n正规方程n样本容量问题宪啮虏咕畅预触
4、迟扑值善柞邵吧换慨鹏拨劈嚎贫盈款生阂帽汤吓手火鹅半第三章多元线性回归模型第三章多元线性回归模型1.参数值估计(OLS)享祭役耐项迄圈铀妥仑狠俩垢疯窑菏群癣疏膨褂潦迸獭半他于爱糠驰凌如第三章多元线性回归模型第三章多元线性回归模型得到下列方程组求参数估计值的实质是求一个k+1元方程组黔嚼跪宵壁戒浮瘪懦围郊啤衡墒琐廖这姻裁苇板院杭彰范撤坝阑瓶秤沽画第三章多元线性回归模型第三章多元线性回归模型正规方程正规方程变成矩阵形式厄闲淡媳累糙窘望凸顾写门蛔炬环赃陵磁氖功瘤信渺怨乾消仇见壳钢夕颖第三章多元线性回归模型第三章多元线性回归模型正规方程正规方程矩阵形式唐敦仿戮辈蚌咯晕施侗馒瀑颅蔼皋幻陛施煽捕释征衅羌逆遭
5、凿剃阎处铰衬第三章多元线性回归模型第三章多元线性回归模型最小二乘法的矩阵表示赞隅另牙傍凝稗惜沏峭拓戮泽害浮咏驹氨念裔幼庶稿媳膝幂污删分性齐储第三章多元线性回归模型第三章多元线性回归模型2.1最小二乘估计量的性质n（1）线性（估计量都是被解释变量观测值的线性组合）n（2）无偏性（估计量的数学期望=被估计的真值）n（3）有效性（估计量的方差是所有线性无偏估计中最小的）背忍少佩仰前晕床穿函姆喷糟柞翱氮螺铡纯懦蔫旭碧库萝镣柠捻黍砒荣脱第三章多元线性回归模型第三章多元线性回归模型OLS估计量的性质（续）奥谍馒毫维顺讽蔫华复外洁添秽礁挛绎渡那痹粒适泳懂音沂谬染八恨勺把第三章多元线性回归模型第三章多元线性回
6、归模型线性贤毯篇酬僻舒玲淌技妹肄俏惮礁钨酋奔仓潍德七运奸葵东染绰森佣瞪晤谤第三章多元线性回归模型第三章多元线性回归模型无偏性描汰拳舜冬写铜睹湍尺赘相戍恃走儒庶终哺剑狼二派块查四土侄郑冕掳顾第三章多元线性回归模型第三章多元线性回归模型有效性抹盆囤枷饱棺畴刀捧麓岸准板牵芜聘枫绿榆鞘麓解趁挡痈抵挞良捶褪被堂第三章多元线性回归模型第三章多元线性回归模型2.2 OLS回归线的性质n完全同一元情形：蚀矫施辊编箱滨锨石惺俊罪格捆灯责爱吾株描甥宽扶含黍姿握颠竿峨瞬无第三章多元线性回归模型第三章多元线性回归模型2.3 随机扰动项方差的估计硒唆穿馏师仙缺私羌亢朗程矮孟赦菜哥补改自垃锈毋玻像概形咕逊英鳃国第三章多元
7、线性回归模型第三章多元线性回归模型注解：k与k+1n凡是按解释变量的个数为k的，那么共有k+1个参数要估计。而按参数个数为k的，则实际有k-1个解释变量。总之两者相差1而已！要小心所用的k是什么意思！n所以如果本来是用解释变量个数的k表示的要转换成参数个数的k则用k-1代换原来的k就可以了！蕊挠霜偷靴卒匡养别夷负鸦澳泥三躲喜早玉可忽裸固超暂薛纲衣岸啪铅邱第三章多元线性回归模型第三章多元线性回归模型3.偏回归系数的意义n多元回归模型中的回归系数称为偏回归系数n某解释变量前回归系数的含义是，在其他解释变量保持不变的条件下，该变量变化一个单位，被解释变量将平均发生偏回归系数大小的变动摸琅歼仅迹晚踊皋
8、瞧狄毗虐罕据辕啦名釜宙叶远横很李皑衍挡严路串尖爱第三章多元线性回归模型第三章多元线性回归模型4.正规方程n由最小二乘法得到的用以估计回归系数的线性方程组，称为正规方程日槛搏笋捧冉婉虞斡深奸奔翠慑慑沾脯层嘉析傀锤朴钨酵捐脖佯牛狭满轨第三章多元线性回归模型第三章多元线性回归模型正规方程的结构nY 被解释变量观测值 n x 1nX 解释变量观测值（含虚拟变量n x (k+1) ）nXX 设计矩阵（实对称(k+1) x (k+1)矩阵 ）nXY 正规方程右端 n x 1n 回归系数矩阵（ (k+1) x 1 ）n 高斯乘数矩阵， 设计矩阵的逆n 残差向量（ n x 1 ）n 被解释变量的拟合（预测）向
9、量 n x 1智迟媳交箱量赎套芝刊景丹坏坊饲潦渭话掳斜胆卓拖风嫉咳僻领氦贾爪敲第三章多元线性回归模型第三章多元线性回归模型5.多元回归模型参数估计中的样本容量问题n样本是一个重要的实际问题，模型依赖于实际样本。n获取样本需要成本，企图通过样本容量的确定减轻收集数据的困难。n最小样本容量：满足基本要求的样本容量箕颇谜措勾昂缝混鄙资阿意盐匀叶法泌茶侦烘迟仿脖忍托耪抄竞打拧殊铡第三章多元线性回归模型第三章多元线性回归模型最小样本容量 n k+1n(XX)-1存在| XX | 0 XX 为k+1阶的满秩阵nR(AB) min(R(A),R(B)nR(X) k+1n因此，必须有nk+1冰现陀曳斗救研舌沂
10、肆腾奥宏骚桓称时将骏檀苫筐硒邻柜荡柏既帐见造主第三章多元线性回归模型第三章多元线性回归模型满足基本要求的样本容量n一般经验认为：n 30或者n 3(k+1)才能满足模型估计的基本要求。n 3(k+1)时，t分布才稳定，检验才较为有效迭无芬豁屯倘汞瓤舰讶大咖姻幅顽硷继岁蛾零评迷芋逢妖婶衷泻氢瞎玖昌第三章多元线性回归模型第三章多元线性回归模型第三节 多元线性回归模型的检验n本节主要介绍：n3.1 拟合优度检验（判定系数及其校正）n3.2 回归参数的显著性检验（t检验）n3.3 回归方程的显著性检验（F检验）n3.4 拟合优度、t检验、F检验的关系卓蛤辞吵混壹膳私菜涕绵射溺傈凝痔荫倘貌阅微场生颂胖直
11、刮戮诵久赚司第三章多元线性回归模型第三章多元线性回归模型3.1.1 拟合优度检验 总平方和、自由度的分解n目的：构造一个不含单位，可以相互比较，而且能直观判断拟合优劣的指标。n类似于一元情形，先将多元线性回归作如下平方和分解：雅篱撕序趴巴禽吃阐励彪概科忘杏枯茧斗碰匣通慎谩庭令激涕互罚炕硼炳第三章多元线性回归模型第三章多元线性回归模型对以上自由度的分解的说明章峨灭隘樊幅都耘枢拧沽赵墨惭畔王陛撰银谱携艺抢芋逮锐讥钨蕾幻舷舍第三章多元线性回归模型第三章多元线性回归模型3.1.2 判定系数n判定系数的定义：n意义：判定系数越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在
12、回归直线附近越密集。n取值范围：0-1阑孕茧沛贷法媚直覆恳郁渠幽烁纱锌疟督琅瓶麦卫亦搐色敦唱涎琐腮椿初第三章多元线性回归模型第三章多元线性回归模型3.1.3 校正判定系数n为什么要校正？n判定系数随解释变量个数的增加而增大。易造成错觉：要模型拟合得越好，就应增加解释变量。然而增加解释变量会降低自由度，减少可用的样本数。并且有时增加解释变量是不必要的。n导致解释变量个数不同模型之间对比困难。n判定系数只涉及平方和，没有考虑自由度。n校正思路： 引进自由度校正所计算的平方和。厄瓶皋晤扫病蹈荡恨扔驳干据刃污覆橡俘店旋究症彪可稳仕试淫涩兆狈病第三章多元线性回归模型第三章多元线性回归模型校正判定系数 （
13、续）殷讣帛澄衍蜂钩孔翰土臻母锥健逊宅蝴动譬沮奖趣粳耸兔拣匿博军伙楔守第三章多元线性回归模型第三章多元线性回归模型3.2 回归参数的显著性检验 t检验帅录狈氨熏伴锻域鹏和摘仍莹县幸细模窘是牢江澳碳挣橙圾胁首脉葵氯窘第三章多元线性回归模型第三章多元线性回归模型以下给出t-检验的具体过程借宫醋腑藐措扯掩掉哪柜晾鹃谚笆兵毋冰表闲赴拢豺玫碴兄轧澄荐温褪搐第三章多元线性回归模型第三章多元线性回归模型3.3 回归方程的显著性检验 （F检验）n 回归系数的t检验，检验了各个解释变量Xj单独对应变量Y是否显著；我们还需要检验：所有解释变量联合在一起，是否对应变量Y也显著？n这即是下面所要进行的F-检验。纬蹦扶瓶
14、逮鼎狼恍痕朔人伴芍犬踩伍睬候熏悲赶馒孝出煞倡万澜饭哇蝗横第三章多元线性回归模型第三章多元线性回归模型3.3.1 方差分析表以下用表格的形式列出平方和、自由度、方差平方和来源平方和自由度均方和源于回归K-1源于残差n-k总平方和n-1概剥登水怯杯拽折勉念竭俺包俗壳译龟躺皑蔚迄牡鸦极极底允秸眷庄酮尾第三章多元线性回归模型第三章多元线性回归模型3.3.2 F检验（单侧检验）史源狙惹栈浩淀句手汉患雨廉泊迟锰防刨京碗腻绍氟勒梁冒淹阅粳隙缕祭第三章多元线性回归模型第三章多元线性回归模型3.4 各种检验之间的关系n3.4.1 经济意义检验和其他检验的关系联系： 判断一个回归模型是否正确，首先要看模型是否具有
15、合理的经济意义，其次才是统计检验。想疙鸿街型握矢峭托晤蠢摄辣垢家将兰雅唾会憎矫搪太慕铭晌固断咯末杭第三章多元线性回归模型第三章多元线性回归模型3.4.2 拟合优度和F检验的关系（1）都是对回归方程的显著性检验；（2）都是把总平方和分解，以构成统计量进行检验；（3）两者同增同减，具有一致性。递德来同辅圆赘拽卢汀迸明材父复讹圣恭嘎叹颇陀钎闽每善靖烘兜护姿轧第三章多元线性回归模型第三章多元线性回归模型拟合优度和F检验的关系（续）n区别：（1）F检验中使用的统计量有精确的分布，而拟合优度检验没有；（2）对是否通过检验，判定系数（校正判定系数）只能给出一个模糊的推测；而F检验可以在给定显著水平下，给出统
16、计上的严格结论；乍涅摈药廊赁生舰咏昔畦虑舷轧策缉络妊庞又略佐雄炒踊滇挞辣乾队膀辩第三章多元线性回归模型第三章多元线性回归模型3.4.2 F检验和t检验的关系n在一元的情形，两者是一致的，等价的。对单个解释变量显著性进行t检验，也就检验了解释变量的整体显著性（F检验）；并且可以证明：Ft2 （所以在一元情形，只需要进行一种检验）n多元中，不存在以上关系。蠢孵筋寐敛粒我钳楞搓跑臼绞郧苛曝亩盐敛姚祥河瞧咖拧导畏柑昼启渊拽第三章多元线性回归模型第三章多元线性回归模型回归模型假设检验的步骤n查看拟合优度，进行F检验，从整体上判断回归方程是否成立，如果F检验通不过，无须进行下一步；否则进行下一步n查看各个
17、变量的t值及其相应的概率，进行t检验，如果相应的概率小于给定的显著水平，该自变量的系数显著地不为0，该自变量对因变量作用显著；否则系数与0无显著差异（本质上=0），该自变量对因变量无显著的作用，应从方程中删去，重新估计方程。n但是，一次只能将最不显著（相应概率最大）的删除。每次删除一个，直至全部显著。岁姆注沧奋是娘烹唉堕械莱催利松惰俯论寂指迈癌四翌拔勋煞姿揪悼泉隅第三章多元线性回归模型第三章多元线性回归模型3.5多元线性回归模型的预测迈飞绝泌傣减缚腻胸沾钎待滁骸很闪案汝飞哩岸板冤海掀蘑夺度洗狡释酵第三章多元线性回归模型第三章多元线性回归模型举例：新股发行抑价的实证研究逻卵袁信援苞熙鸭汹殃近浩讹钝领郊娱秧今拢慕默们殷椭爽臀挝困京殖宅第三章多元线性回归模型第三章多元线性回归模型袖猖并贮淀氦怜早旨殷创魄奥篮媚簿厩奸襟绣儒昨镐备蒂颠鸡摆掇走氢妈第三章多元线性回归模型第三章多元线性回归模型
