《第8章相关与回归分析》由会员分享，可在线阅读，更多相关《第8章相关与回归分析（66页珍藏版）》请在金锄头文库上搜索。
1、统计学统计学STATISTICS8 - 1 第第8 8章章 相关与回归分析相关与回归分析8.1 相关与回归的基本概念相关与回归的基本概念8.2 简单线性相关与回归分析简单线性相关与回归分析8.3 多元线性相关与回归分析多元线性相关与回归分析8.4 非线性相关与回归分析非线性相关与回归分析纯仔锚免挎陷彼腹伺橇特皋洱罚佃搐厅祭汀棚琼劲棋操峙舜拔笛纯肯酝欺第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 2学习目标1. 1. 变量间的相关关系与相关系数的计算变量间的相关关系与相关系数的计算2. 2. 总体回归函数与样本回归函数总体回归函数与样本回归函数3. 3.
2、线性回归的基本假定线性回归的基本假定4. 4. 简单线性回归参数的估计与检验简单线性回归参数的估计与检验5. 5. 多元线性回归参数的估计与检验多元线性回归参数的估计与检验6. 6. 多个变量的线性相关关系：复相关系数和偏相多个变量的线性相关关系：复相关系数和偏相多个变量的线性相关关系：复相关系数和偏相多个变量的线性相关关系：复相关系数和偏相 关系数关系数关系数关系数7. 7. 7. 7. 常用的可以转换为线性回归的非线性函数常用的可以转换为线性回归的非线性函数常用的可以转换为线性回归的非线性函数常用的可以转换为线性回归的非线性函数8. 8. 8. 8. 非线性相关指数非线性相关指数非线性相关
3、指数非线性相关指数社乍刁尼诣熙赋橙载茬初暗鸯干趣垣虹快晓漏誉靖潭圾耕瓶漓沛湾咐狮岔第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 3实例实例1: 1:中国妇女生育水平的决定因素是什么中国妇女生育水平的决定因素是什么? ?妇女生育水平除了受计划生育政策影响以外，还可能与社会、经济、文化等多种因素有关。1. 影响中国妇女生育率变动的因素有哪些？2. 各种因素对生育率的作用方向和作用程度如何？3. 哪些因素是影响妇女生育率主要的决定性因素？4. 如何评价计划生育政策在生育水平变动中的作用？5. 计划生育政策与经济因素比较,什么是影响生育率的 决定因素？6. 如果
4、某些地区的计划生育政策及社会、经济、文化 等因素发生重大变化，预期对这些地区的妇女生育 水平会产生怎样的影响？亚卿现腮殉钮擂椽儿诗松湖履甚狼押咙醚脱沮馋溃票垣炎乎玻萌顿呵斟攀第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 4据世界卫生组织统计，全球肥胖症患者达3亿人，其中儿童占2200万人，11亿人体重过重。肥胖症和体重超常早已不是发达国家的“专利”，已遍及五大洲。目前，全球因”吃”致病乃至死亡的人数已高于因饥饿死亡的人数。(引自光明日报刘军/文）问题: 肥胖症和体重超常与死亡人数真有显著 的数量关系吗?这些类型的问题可以运用相关分析与回归分析的这些类型的
5、问题可以运用相关分析与回归分析的方法去解决。方法去解决。实例2:全球吃死的人比饿死的人多?隅撰样区桃余肯滞贬釉日驻疗仇杏宋翅唐血厌爸独绽汞封腋俯箍矽耸宴挡第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 5棋禾都身挚蕊乞素盈滴励超还狙冬琉沂辩做鳞清咆额膏邵捏翼败僧鄂斋绅第8章相关与回归分析统计学PowerPoint8.1 8.1 相关与回归的基本概念相关与回归的基本概念一、变量间的相互关系变量间的相互关系二、相关关系的类型二、相关关系的类型三、相关分析与回归分析三、相关分析与回归分析乱弄葵嘉效袁挟茎浅饶滴侯却醇镍灭廊问纂扁镑榔漱凹袖冀掳魁逛帽摇罪第8章相关与
6、回归分析统计学PowerPoint统计学统计学STATISTICS8 - 6 一、变量间的相互关系一、变量间的相互关系确定性的函数关系确定性的函数关系 Y=f (X) 不确定性的统计关系相关关系相关关系 Y= f（X）+ (为随机变量) 没有关系没有关系 变量间关系的图形描述： 坐标图(散点图)靖仁敦据痞标岸粱乱诧碟溉猫井胡肆奎式莆指观舰奏亏饵智殊记膊吱沟扣第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 7相关关系的类型相关关系的类型从涉及的变量数量变量数量看简单相关 多重相关（复相关）从变量相关关系的表现形式表现形式看 线性线性相关散布图接近一条直线(左
7、图) 非线性非线性相关散布图接近一条曲线(右图)锯坤片厅祈刃炔灵耸谆缀肃使耗尿阿广苫悸兢糊佯畴向纬狸供醛板窘铱骡第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 8从变量相关关系变化的方向方向看正相关正相关变量同方向变化A同增同减 (A)(A)负相关负相关变量反方向变化 一增一减 (B)(B)B从变量相关的程度看完全相关 (B) 不完全相关 (A)C不相关 (C) 相关关系的类型相关关系的类型县忽暖戮躇薄溜求媚煽露席痴鹤爪儿怒毙膨劫桐思槽杀滴邢爽怪蝎妖郁迹第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 9相关分析与回归分
8、析相关分析与回归分析回归的古典意义古典意义： 高尔顿遗传学的回归概念高尔顿遗传学的回归概念父母身高与子女身高的关系父母身高与子女身高的关系: : 无论高个子或低个子的子女无论高个子或低个子的子女 都有向人的平均身高回归的都有向人的平均身高回归的 趋势趋势惟戮烯沮保饶盼程元裂灌骨酝巳绷甜芜狞道骏荡吝鸟崩懊碴领溪薛谰励柒第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 10 回归的现代意义回归的现代意义一个因变量对若干解释变量依存关系的研究回归的目的目的（实质）（实质）：由固定的自变量去估计因变量的平均值由固定的自变量去估计因变量的平均值样样样样本本本本总总总总
9、体体体体自变量固定值自变量固定值自变量固定值自变量固定值自变量固定值自变量固定值估计因变估计因变量平均值量平均值艰闰汁甲唐郡怪鹰谅类基利尤穿驭沙涉鹃喊倔毕播犁液睹谣孽烂据籽岸兽第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 11相关分析与回归分析的联系共同的研究对象：都是对变量间相关关系的分析只有当变量间存在相关关系时，用回归分析去寻求相关的具体数学形式才有实际意义相关分析只表明变量间相关关系的性质和程度，要确定变量间相关的具体数学形式依赖于回归分析 相关分析中相关系数的确定建立在回归分析的基础上纬牢脯匣仔申衣怒硼哉坟叔件磊奉翼亚坏侥拨秦昌狠摸仇庄缉炉泥洞
10、瘫朝第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 12棋禾都身挚蕊乞素盈滴励超还狙冬琉沂辩做鳞清咆额膏邵捏翼败僧鄂斋绅第8章相关与回归分析统计学PowerPoint82 简单线性相关与回归分析简单线性相关与回归分析一、简单线性相关系数及检验一、简单线性相关系数及检验二、总体回归函数与样本回归函数二、总体回归函数与样本回归函数三、回归系数的估计三、回归系数的估计四、简单线性回归模型的检验四、简单线性回归模型的检验 五、简单线性回归模型预测五、简单线性回归模型预测千唐诀茬饿镜丑钝割秒炔扛标坊倔选找匈悔贼收嫡胁悦岂郑挪浩怂矩丸炕第8章相关与回归分析统计学Pow
11、erPoint统计学统计学STATISTICS8 - 13 一、简单线性相关系数及检验一、简单线性相关系数及检验总体相关系数总体相关系数对于所研究的总体，表示两个相互联系变量相关程度 的总体相关系数为： 总体相关系数反映总体两个变量总体相关系数反映总体两个变量X X和和Y Y的线性相关程度。的线性相关程度。特点：特点：对于特定的总体来说，X和Y的数值是既定的 总体相关系数是客观存在的特定数值。 暑仗部邪像渍尼锣纳睦雁苗窄剔格酒镊际踏澡憋刻大娠赶毯淑见匠涅犬著第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 14样本相关系数通过X和Y 的样本观测值去估计样本相
12、关系数变量X和Y的样本相关系数通常用 表示 特点：样本相关系数是根据从总体中抽取的随机样本 的观测值计算出来的，是对总体相关系数的估 计，它是个随机变量。 淖迟劲痔蔫箕剑骚抿龄胆顽锹囱凝吊铀忠悉鲁欧熙驴删扑羚谭先蚜阿运忠第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 15相关系数的特点：相关系数的取值在-1与1之间。当r=0时，表明X与Y没有线性相关关系。当 时，表明X与Y存在一定的线性相关关系: 若 表明X与Y 为正相关; 若 表明X与Y 为负相关。当 时，表明X与Y完全线性相关: 若r=1，称X与Y完全正相关； 若r=-1，称X与Y完全负相关。绕大勃惶
13、婪孵拣缓天枝排份试耸笆户桓沪哥核洱教濒逮茬猾聂椎肝感鲤咙第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 16使用相关系数的注意事项：X和Y 都是相互对称的随机变量，所以相关系数只反映只反映变量间的线性相关程度，不 能说明非线性相关关系。相关系数不能确定变量的因果关系，也不能 说明相关关系具体接近于哪条直线。脂颧贫颤畔釉变顷菱亢当破亥唁喷笨琶镊护另丝啤浊肺由蹭掳央拼醒苛领第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 17 相关系数的检验为什么要检验？为什么要检验？ 样本相关系数是随抽样而变动的随机变量,相关系数的统计显
14、著性还有待检验。检验的依据：检验的依据：如果X和Y都服从正态分布，在总体相关系数 的假设下，与样本相关系数 r 有关的 t 统计量服从自由度为n-2的 t 分布：伦班膏钠褐穷日李衣勋示遗配晶滚晾娱魄列旱锗麦啤贰淆剩木淡腾敌忌睹第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 18相关系数的检验方法给定显著性水平 ，查自由度为 n-2 的临界值 若 ，表明相关系数 r 在统计上是显著的，应否定 而接受 的假设；反之，若 ，应接受 的假设。艳赏屑慎袋舀砰嫩幕高沦颂篙肠萎离沼捆穷带嫁干蕴氟岗涯忧椒植喊缸迭第8章相关与回归分析统计学PowerPoint统计学统计学S
15、TATISTICS8 - 19 二、总体回归函数与样本回归函数二、总体回归函数与样本回归函数若干基本概念 Y的条件分布条件分布: Y在X取某固定值条件下的分布。 对于X的每一个取值，都有Y的条件期望条件期望与之对应，在坐标图上 Y的条件期望的点随X而变化的轨迹所形成的直线或曲线，称为回归线回归线。 如果把Y的条件期望 表示为X的某种函数： , 这个函数称为回归函数回归函数。 如果其函数形式是只有一个自变量的线性函数,如 , 称为简单线性回归函数简单线性回归函数。 倒疹座柯驰服引杏琶桓蛊凶扇添鹃孕末徒猜办燃挣淡哄县佐钓存亮纷恢捉第8章相关与回归分析统计学PowerPoint统计学统计学STATI
16、STICS8 - 20总体回归函数（PRF）概念：将总体因变量Y的条件均值表现为自变量X的某种函数，这个函数称为总体回归函数（简记为PRF）。表现形式：（1）条件均值表现形式（2）个别值表现形式（随机设定形式）锑麻剐掳就生馒列迭伴宵举座义飞膜价匪市眉淀青喊恍余量诺沛简戏涉左第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 21样本回归函数（SRF）概念：概念：Y的样本观测值的条件均值随自变量X而变动的轨迹，称为样本回归线样本回归线。 如果把因变量Y的样本条件均值表示为自变量X的某种函数，这个函数称为样本回归函数样本回归函数 （简记为SRF）。表现形式：表现形
17、式：线性样本回归函数可表示为 或者 众曙威演缅牲苦巾堂研妆猫乘惦谈膳艳剔乃析央秧钦捷劈藕晕臻抵图谣斩第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 22 样本回归函数与总体回归函数的关系 相互联系样本回归函数的函数形式应与设定的总体回归函数的函数形式一致 。 和 是对总体回归函数参数的估计。 是对总体条件期望 的估计 残差 e 在概念上类似总体回归函数中的随机 误差u。回归分析的目的： 用样本回归函数去估计总体回归函数。 彻垫粥脊趋顺洁囊诚哄棠铝贴霹掏遍亿途磊笋使塔墟浪驳访铣你响保得片第8章相关与回归分析统计学PowerPoint统计学统计学STATIST
18、ICS8 - 23样本回归函数与总体回归函数的关系 相互区别总体回归函数虽然未知，但它是确定的； 样本回归线随抽样波动而变化，可以有许多条。 样本回归线还不是总体回归线，至多只是未知总体 回归线的近似表现。 总体回归函数的参数虽未知，但是确定的常数； 样本回归函数的参数可估计，但是随抽样而变化的随机变量。 总体回归函数中的 是不可直接观测的； 而样本回归函数中的 是只要估计出样本回归的参数就可以计算的数值。 吁芥詹次星菜宋劈魔酉秽综尝炮寝叹淘歹泪捏炽颇郸敖害抹忙汛脏慎氏辕第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 24 三、回归系数的估计三、回归系数的
19、估计回归系数估计的思想：回归系数估计的思想：为什么只能对未知参数作估计为什么只能对未知参数作估计? ? 参数是未知的、不可直接观测的、不能精确计算的参数是未知的、不可直接观测的、不能精确计算的 能够得到的只是变量的样本观测值能够得到的只是变量的样本观测值结论结论: :只能通过变量样本观测值选择适当方法去近似只能通过变量样本观测值选择适当方法去近似 地估计回归系数。地估计回归系数。前提前提: : u u是随机变量其分布性质不确定，必须作某些是随机变量其分布性质不确定，必须作某些 假定，其估计才有良好性质，其检验才可进行。假定，其估计才有良好性质，其检验才可进行。原则原则: : 使参数估计值使参数
20、估计值“尽可能地接近尽可能地接近”总体参数真实值总体参数真实值嚏彤据骑啤孔蹿膜暗疽弟修迢揍辟纲掀伺简遮绵奈屎辰顿允蹬哀诈撂署消第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 25简单线性回归的基本假定假定假定1 1：零均值假定。假定假定2 2：同方差假定。假定假定3 3：无自相关假定。假定4：随机扰动 与自变量 不相关。假定假定5 5：正态性假定想箱宅彤荤蓖蠢浊嗅剖碎虑抠碌劳蛰诱蓑妹兢予赌疽重础牲宦海矫祭市添第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 26 回归系数的回归系数的最小二乘估计估计基本思想：希望所估计的
21、 偏离实际观测值 的残差 越小越好。可以取残差平方和 作为衡量 与 偏离程度的标准最小二乘准则估计式：信钦色账佳器权豺审慈腰接贿努菠棵绷躯掌铡膊赎狭栏妓岁澜钻宝糊祈炕第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 27最小二乘估计的性质 高斯高斯马尔可夫定理马尔可夫定理前提：在基本假定满足时最小二乘估计是因变量的线性函数线性函数 最小二乘估计是无偏估计无偏估计，即 在所有的线性无偏估计中，回归系数的最小二乘估计的方差最小方差最小。 结论：回归系数的最小二乘估计是最佳线性无偏估计最佳线性无偏估计辗碳吱掷杰蒂霹梭蚌坐涤攀斑肾氛伎黑但碾灿吹埔貉寿殷袁众睬撕航楼店
22、第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 28 最小二乘估计的概率分布性质最小二乘估计的概率分布性质 和和 都是服从正态分布的随机变量，其都是服从正态分布的随机变量，其期望为期望为方差和标准误差为方差和标准误差为 结论：结论：柬谨姓径烟银注缎注簿纱据其婪蔫肠抽杆剁辖尼合同玲抽忌帮东裸鲸惮泰第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 29的无偏估计为什么要估计 ？确定所估计参数的方差需要 由于 不能直接观测， 也是未知的 对 的数值只能通过样本信息去估计。怎样估计 ？ 可以证明 的无偏估计为： 挡庸末苑摘据贾往
23、辜匈矩宙剧贼碟练夏哨炉偷攀医湛耐祭秃办赵府予钉待第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 30拟合优度的度量拟合优度的度量基本思想：基本思想：样本回归直线是对样本数据的一种拟合，不同估计方法可拟合出不同的回归线。样本回归拟合优度的度量建立在对因变量总离差平方和分解的基础上 总离差平方和总离差平方和 回归平方和回归平方和 残差平方和残差平方和可决系数定义：可决系数定义：宽汛箱礁哥嚣振陨绘垫螺卜全资裤镀植带坏幽力腹贝焚轩掀贮社挖轻万已第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 31对可决系数的理解桥昼忘锭验磺领非
24、掌适澡窿泼愤纱勺封兽谷扬襄拼说践辣卫干穷贮放衔凛第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 32可决系数的特点可决系数是非负的统计量；可决系数取值范围： ；可决系数是样本观测值的函数，可决系数是随抽样而变动的随机变量；在一元线性回归中，可决系数在数值上是简单线性相关系数的平方： ，村稿翟沸彭沙付祭狈核辆剧瘩烁固簿祸锄渍序锥吓掀孺蜀皆羹讽就苫银哗第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 33 回归系数显著性的回归系数显著性的 t t 检验检验目的目的：根据样本回归估计的结果对总体回归函数回归 系数的有关假设进行
25、检验，以检验总体回归系数是 否等于某个特定的数值。思想思想：是未知的，而且不一定能获得大样本，这时可用 的无偏估计 代替 去估计参数的标准误差：卫约得教疗鲁劈帚郭敲葱臣毯茄忠爪肘商每羌捏搭毗慌镍摈仅止观求享孽第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 34 回归系数显著性的回归系数显著性的 t t 检验检验( (续续) )用估计的参数标准误差对估计的参数作标准化变 换，所得的 t 统计量将不再服从正态分布，而是服 从 t 分布：可利用 t 分布作有关的假设检验。 斧吐鞘桓姿路搜渊帚撂巴砖嚷交右突俐赡吸鸽伪吨递冤端呜梭叉递畏逮咎第8章相关与回归分析统计学
26、PowerPoint统计学统计学STATISTICS8 - 35 回归系数显著性回归系数显著性 t t 检验的方法检验的方法(1)提出假设一般假设:常用假设:(2)计算统计量(3)给定显著性水平，确定临界值 (4) 检验结果判断 若 则拒绝原假设，而接受备择假设 若 则接受原假设 , 拒绝备择假设科癸较个浇逊抗武撞祝猫苔兔蛤弯你看镰问保态扦插引荫幼型揽吮待宦钝第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 36回归系数显著性的回归系数显著性的P P值检验值检验P P值的意义值的意义P值的意义: 在既定原假设下计算回归系数的t统计量 ，可求得 统计量大于 的
27、概率 ： 这里的 是 t 统计量大于 值的概率，是尚不能拒 绝原假设 的最大显著水平，称为所估 计的回归系数的P值。袭也眼衷迭济绵住亩罪养遇蝎霖涧吐助棍亦斗粤琉顶小藩忙净向胡夸访辅第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 37回归系数显著性的回归系数显著性的P P值检验值检验 检验方法检验方法回归系数显著性的P值检验方法: 将所取显著性水平与P值对比所取的显著性水平 （例如取0.05）若比P 值更大，就可在显著性水平 下拒绝 所取的 若小于P值，就应在显著性水平 下接受捅锈右件妮田记蛀赂瓷萎扔怎宫耕碎嗅宣谐篙甸长范厘穗像御藤萍淆徊显第8章相关与回归分
28、析统计学PowerPoint统计学统计学STATISTICS8 - 38五、简单线性回归模型预测五、简单线性回归模型预测对平均值的点预测值 ： Y的个别值置信度为1的预测区间：果涝璃殿茬滋盲舞簧蓝青总赌述簧灿德炔苫仟洲字冀康粉羚拯谜宙喀慷泡第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 39因变量的区间预测的特点（1）个别值的预测区间大于平均值的预测区间:Y平均值的预测值与真实平均值有误差，主要是受抽样波动影响; Y个别值的预测值与真实个别值的差异不仅受抽样波动影响，而且还受随机扰动项的影响（2）对 预测区间随 变化而变化:时， =0，此时预测区间最窄，
29、越是远离 ， 越大，预测区间越宽。耸井林础揖壶伺抉八锑准钳姚铬友替盗则址宪娜榆淘易居铲鸟赡页幻镜蠢第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 40因变量的区间预测的特点(续)（3）预测区间与样本容量有关：样本容量n越 大， 越大，预测误差的方差越小，预 测区间也越窄。（4）当样本容量趋于无穷大（即n）时, 不存在抽样误差，平均值预测误差趋于0，此时个别值的预测误差只决定于随机扰动的方差。狰避驱蹈碧积仓锯靡辽佛域状坑恋菌仔掣逢碘梢猩叔拧炸蔫土开舶擅勤扬第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 41棋禾都身挚蕊乞
30、素盈滴励超还狙冬琉沂辩做鳞清咆额膏邵捏翼败僧鄂斋绅第8章相关与回归分析统计学PowerPoint8.3 多元线性相关与回归分析多元线性相关与回归分析一、多元线性回归模型及假定多元线性回归模型及假定二、多元线性回归模型的估计多元线性回归模型的估计三、多元线性回归模型的检验三、多元线性回归模型的检验四、多元线性回归模型的预测四、多元线性回归模型的预测五、复相关系数和偏相关系数五、复相关系数和偏相关系数猜徽舱截载揣鳖琉宇托皂苗呵燥箍鄂厄盟粤弧哪带膊掘耙迢濒扛乙贿上街第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 42 一、多元线性回归模型及假定一、多元线性回归模
31、型及假定 多元总体线性回归函数一般形式 条件均值形式多元线性样本回归函数：一般形式条件均值形式纫辛眯澡狮蹲龙辆份怕妈购逃扮秩换荚北脱瞅杉簧甩瞩望躲髓羽家生卯懈第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 43 多元线性回归模型的矩阵多元线性回归模型的矩阵表示表示多元总体线性回归模型的矩阵表示多元总体线性回归模型的矩阵表示 Y=X+U Y=X+U多元线性样本回归函数的矩阵表示 Y=X + e 偏回归系数：多元线性回归模型中，回归系数表示当控制其它自变量不变的条件下，第j个自变量的单位变动对因变量均值的影响，这样的回归系数称为偏回归系数。恤后院漆胚捅秒禽谦剥
32、怪窃什拥爷疚茫伸熄姿牢叮便拘政灸淀锥间告苛信第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 44二、多元线性回归模型的估计多元线性回归模型的估计 多元回归模型的假定多元回归模型的假定相同的假定:零均值、同方差、无自相关、 随机扰动项与自变量不相关、U正态性增加的假定：各自变量之间不存在线性关系。在此条件下，自变量观测值矩阵X X列满秩 Rank(X)=k方阵满秩Rank()=k意义：可逆，存在诗淫窄漏曝馋袜肖顾旗腐哈俩靠糊蚕襟阮轮挪肄糖停性金匿陆窝因蔑童凶第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 45多元回归参数
33、的最小二乘估计多元回归参数的最小二乘估计使残差平方和达到最小，其充分必要条件 正规方程组-胖乞饼七耘赵溜喝火灼吕挨椽遮层零旬野满寐获楔径长权契镀闯庞矽丙却第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 46多元线性回归的最小二乘估计式正规方程组可简记为矩阵形式 存在 参数向量的最小二乘估计为参数最小二乘估计的性质参数最小二乘估计的性质可以证明：多元线性回归的最小二乘估计也是最佳线性无偏估计。桓怂峨倚狄氰空狞心后晓洁迸莽曳肠岁完磅蒋凋观阜焰付寓缠冉浴陵魂甚第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 47 随机误差项方
34、差的估计随机误差项方差的估计方差 未知，需要利用样本回归的残差平方和去估计。可以证明，是随机扰动项方差的无偏估计劣驰墟征爆枉武码畦逸建卒妒英迷衣沽丰兜蕴箕助丰挪栖褂轧坡瓶僚银廖第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 48 三、多元线性回归模型的检验三、多元线性回归模型的检验拟合优度检验拟合优度检验多元线性回归离差平方和的分解式多元线性回归离差平方和的分解式 变差变差 TSS=RSS+ESS(总离差平方和) (残差平方和) (回归平方和)自由度自由度 n-1=n-k+k-1多重可决系数：多重可决系数：耗饲砰衫哑纠矗莆逾吗季练项达斡嚷盼遂爱申磅绦啥阂嘻
35、冒沦耳帐射孰平第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 49 修正的可决系数修正的可决系数为什么要修正？可决系数是自变量个数的不减函数，比较因变量相同而自变量个数不同的两个模型的拟合程度时，不能简单地对比多重可决系数。需要用自由度去修正多重可决系数中的残差平方和与回归平方和相互关系：晓馅借苗册讶萨仍曝踌笔愈兼艺镍档狡梯凛服面措捂健穴鼎嚏郝答悔喻宫第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 50 回归参数的显著性检验回归参数的显著性检验 t t 检验检验在多元回归中可以证明其中：是矩阵第 j 行第 j 列的元素
36、。因为未知，故也未知。现用代替对原假设 分别作 t 检验 ，可构造统计量：欺车耕戴括冀缉纷莉倘惜呢德馁阶凑摸巩诗象椎受聋保抒涪割轿聪瞅列祁第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 51 回归方程的显著性检验回归方程的显著性检验 F F 检验检验目的: 检验多个变量联合对因变量是否有显著影响方法: 在方差分析的基础上利用F检验进行假定:不全为零方方差差分分析析表表离差来源平方和自由度方差源于回归源于残差k-1n-kESS/(k-1)RSS/(n-k)总离差n-1骤欣窑占筹猎荔侗枷哲咯距舒悲宾镣暑枢点囤霄彰侩卜锦迄气麦喇爽伴翰第8章相关与回归分析统计学P
37、owerPoint统计学统计学STATISTICS8 - 52F检验的方法给定显著性水平，在F分布表中查出自由度为k-1和n-k 的临界值 F服从自由度为 k-1 和 n-k 的 F 分布。 F F检验：检验：在成立的条件下，统计量:若 ，则拒绝 ， 说明回归方程中所有自变量联合起来对因变量有显著影响 若 ，则接受 ， 说明回归方程中所有自变量联合起来对因变量影响不显著 傈迂肝壁娇姨二获孰协鞠藻娟骸堡取舒制酝瘪淫确除糖杨恋脂仰舶股福羌第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 53四、多元线性回归模型的预测四、多元线性回归模型的预测点预测值预测的残差
38、可证明用 代替 则构造 t 统计量 给定显著性水平 ,可得临界值 置信度为 的预测区间为 -甜猩滨殖晰呵舆膳绸洞悄币豫芥官娠揪亩痘窥腋垄疑逼酿搅夷汤屑凝频瞻第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 54五、复相关系数和偏相关系数五、复相关系数和偏相关系数复相关系数：度量一个变量与其他若干个变量联合线性联系程度 在数值上在数值上: : 多重可决系数的平方根等于复相关系数 偏相关系数: 对于相互联系的多个变量，当控制其他变量保持不变的条件下，度量其中两个变量之间线性相关程度的指标称为偏相关系数。忌敝等胳么嚼预饰傍盖航铸缺荔纹枯技躺克邯稍肄泵篱趣周坝浴娄贮
39、拙报第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 55偏相关系数与简单相关系数的内在联系偏相关系数与简单相关系数的内在联系可以证明：（以三个变量为例）锈臂挤持双香辆辗无哄羚砷裤挚没醇碾牙诫僚掌瞩未飘村噶尘骚补观洪称第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 56棋禾都身挚蕊乞素盈滴励超还狙冬琉沂辩做鳞清咆额膏邵捏翼败僧鄂斋绅第8章相关与回归分析统计学PowerPoint8.4非线性相关与回归分析非线性相关与回归分析一、非线性回归的函数形式与估计方法一、非线性回归的函数形式与估计方法二、非线性相关指数二、非线性相关
40、指数恋颖烬沼腻紫嗽施饱唁确一梅悄曹劲痹民徊泞潜烤择瓶页蓉受植节霜乐迈第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 57一、非线性回归的函数形式与估计方法一、非线性回归的函数形式与估计方法常用的可以转换为线性的非线性函数形式常用的可以转换为线性的非线性函数形式幂函数参数度量了变量Y对变量X的弹性，即X的单位百分比变动引起Y变动的百分比 对数函数参数说明当变量X每变动一个百分点，引起因变量Y绝对量的变动量 拔奋泌狱阁悉湘氨碉歌宠复惰酣棚窗颊雍谤市讯荡刨豢功蒙凭几糊勉巾撩第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 58
41、 非线性回归的函数形式非线性回归的函数形式（续）（续）指数函数如可转换为线性函数 双曲函数多项式函数注意：注意：各种函数参数的经济意义不同共同特点:虽然对于变量而言都是非线性的，但虽然对于变量而言都是非线性的，但对对 于参数而言却是线性的于参数而言却是线性的 可以转换为线性回归去估计其参数。可以转换为线性回归去估计其参数。 挖谭焰冻躲震娶收鸣盐解取馆挨满盯虚脉鹰孟约厚客筛鉴蛊柱宝颁壮同痛第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 59 二、非线性相关指数二、非线性相关指数非线性相关指数:度量非线性相关程度 非线性相关指数就是非线性回归的可决系数 ， 或
42、者用非线性可决系数 的平方根 表示：碰别畦耸铝钎犁辱扮萄丸豺推辕焙侮脓嘉陵嗽弘折军晒捶服蓝藐冶嘲已砍第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 60 非线性相关指数的性质非线性相关指数的性质或R的值越接近于1，表明变量间的非线性相关程度越高； 反之， 或R的值越接近于0，表明变量间的非线性相关程度越弱。屁叠臼编逗巾抗沛连寻讥砸钒称弃嚏亩羽即顷钱岗灿砚捎泰忘市钝谐桔吹第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 61 本章小结本章小结1. 各种变量相互之间的依存关系： 确定性的函数关系 、不确定性的相关关系 2.
43、变量间的相关关系的程度用相关系数去度量 3. 现代意义的回归是关于一个变量对另一个或另外多个变量依存关系的研究 。回归分析的目的是要用样本回归函数去估计总体回归函数。4. 线性回归的各项基本假定 5. 简单线性回归和多元线性回归的最小二乘估计 6. 可决系数或修正的可决系数去度量回归的拟合优度庆穆连蕉舶葫讶拈屋岔宠究怯晒艘随垮痹禄妖喳辗钟丈示赖伦搭帘熙莽乓第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 62 本章小结（续）本章小结（续）7. 7. 各个回归系数显著性的各个回归系数显著性的t t检验或检验或P P值检验值检验8. 8. 回归方程的显著性检验：
44、在方差分析基础上的回归方程的显著性检验：在方差分析基础上的F F检验检验 9. 9. 利用估计的线性回归模型对因变量作点预测和区间预测利用估计的线性回归模型对因变量作点预测和区间预测 10. 10. 度量多个变量相关关系的复相关系数和偏相关系数度量多个变量相关关系的复相关系数和偏相关系数 11. 11. 常用的可以转换为线性回归的非线性函数：幂函数、对数常用的可以转换为线性回归的非线性函数：幂函数、对数函数、指数函数、双曲函数、多项式函数等函数、指数函数、双曲函数、多项式函数等 12. 12. 非线性相关指数就是非线性回归的可决系数，或者用非线非线性相关指数就是非线性回归的可决系数，或者用非线
45、性可决系数的平方根表示。性可决系数的平方根表示。 13. 应用Excel去实现 相关分析和回归分析的实际计算和图形描绘贰莽完病君彤啦杆赶纤着掳铱桅铁馈欲宾雅盘爷邑霉镭缘畔澡书啪盖薄既第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 63第八章重要公式1. 总体相关系数2. 样本相关系数3. 总体回归函数（PRF）4. 样本回归函数（SRF） 曝槐酷栏纽前呀罗狡危观坝颇蒜榔龙饼餐灌见赐漆肯蜀懂寅药左氰取揍循第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 64第八章重要公式（续1）5. 最小二乘估计6. 的无偏估计7. 可决系数 容雕过擂踌澡簿锭田殴盼厨篆油簿峙壬叉眷缺檀咬返液扔话坟黔拼耀躇情第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 65第八章重要公式（续2）8. 修正可决系数 9. t检验统计量10. F检验统计量11. 置信度为 的预测区间岩弟呵条嘎趴取伍慧矣半筏养樊障酬泉罐车按信诊埠恼篓淹肠庭姜锌怪皱第8章相关与回归分析统计学PowerPoint统计学统计学STATISTICS8 - 66第第8 8章结束了章结束了! !钧铆岔像念凳以枯使尿伴厩墙泥纳娶滔柱救氦篱仇醚届工喇辟迂权沛棘建第8章相关与回归分析统计学PowerPoint
