第5章回归分析

《第5章回归分析》由会员分享，可在线阅读，更多相关《第5章回归分析（73页珍藏版）》请在金锄头文库上搜索。

1、第第5章章 回归分析回归分析5.1 概述概述 回归分析回归分析研究变量与变量之间关系的数学研究变量与变量之间关系的数学方法。方法。 变量之间的关系：变量之间的关系：5.1.1 确定性关系确定性关系 函函数数关关系系，经经反反复复的的精精确确试试验验或或严严格格的的数数学学推推导导得得到到。如如 S= vt 。数数学学分分析析和和物物理理学学中中的的大大多多数数公式属于这种类型。公式属于这种类型。到方差分析到方差分析驴拌驹乍孝球昼辈凛钞木焰箕士序驰听呻滇满炭扎痘点导堡沪袭潞媚于郭第5章回归分析第5章回归分析 实实际际问问题题中中，绝绝大大多多数数情情况况下下，变变量量之之间间的的关关系系不不那那

2、么么简简单单。如如材材料料的的抗抗拉拉强强度度与与其其硬硬度度之之间间的的关关系系；材料的性能与其化学成份之间等等。材料的性能与其化学成份之间等等。 这这些些变变量量之之间间既既存存在在着着密密切切的的关关系系，又又不不能能由由一一个个（或或几几个个）变变量量（自自变变量量）的的数数值值精精确确地地求求出出另另一一个个变变量量（因因变变量量）的的数数值值，而而是是要要通通过过试试验验和和调调查查研研究究，才才能能确确定定它它们们之之间间的的关关系系，如如图图5.1所所示示，虽虽然然各各组组数数据据不不是是准准确确地地服服从从f(x)关关系系，但但y值值总总还还是是随随x的的增增加而增加。我们称

3、这类变量之间的关系为加而增加。我们称这类变量之间的关系为相关关系。相关关系。 5.1.2 相关关系相关关系进尽肖适拷痞凝钓浙粹轨粤殆苯凋铭蒙镍困胆如寡没次痒曹省艘保芋桌加第5章回归分析第5章回归分析 虽虽然然各各组组数数据据不不是是准准确确地地服服从从f(x)关关系系，但但y值值总总还是随还是随x的增加而变化。的增加而变化。雄僻么民疲澄婆绎姓玫旭幌锡耘饭彻菱笋胎佰莱草沾州鼎踩药厅涧枷极司第5章回归分析第5章回归分析5.1 概述概述回归分析的主要内容：回归分析的主要内容： 应应用用数数学学的的方方法法，对对大大量量的的测测量量数数据据进进行行处处理理，从从而而得得出出比比较较符符合合事事物物内内

4、部部规规律律的的数数学学表表达达式式（数数学学模模型型）。（5-1）待定常数待定常数5 .2 最小二乘法原理最小二乘法原理 假假设设 x 和和 y 是是具具有有某某种种相相关关关关系系的的物物理理量量，它它们们之间的关系可用下式给出：之间的关系可用下式给出：渣迭垂辫番啦栗掐寅兑薛竭赶俭辅倡阐背弹若汉寻韶妥宋镊龄打晌乌瞻偏第5章回归分析第5章回归分析5 .2 最小二乘法原理最小二乘法原理 同时测量同时测量 x ，y 的数值，设有的数值，设有 m 对观测结果：对观测结果： 利利用用观观测测值值，确确定定 。设设 x，y 关关系系的的最最佳形式为：佳形式为：（5-2）（5-3）最佳估计值最佳估计值如

5、不存在测量误差，则：如不存在测量误差，则：（5-4）由于存在测量误差，因而式（由于存在测量误差，因而式（5-3）与（）与（5-4）不相重合，即有：）不相重合，即有：（5-5）残差残差误差的实测值误差的实测值苯词夷意净恢赴臂捂蜂漂事爷呸傀蜘替纯媒叹软漂劣释廉页纂契设倾汛济第5章回归分析第5章回归分析5 .2 最小二乘法原理最小二乘法原理 式式（53）中中的的 x 变变化化时时，y 也也随随之之变变化化。如如果果 m 对对观观测测值值中中有有比比较较多多的的 y 值值落落到到曲曲线线（51）上上，则则所所得得曲曲线线就就能能较较为为满满意意地地反反映映被被测测物物理理量量之之间间的的关关系系，y

6、值值同同时时出出现现的的概概率率最最大大，则则曲曲线线（53）就就是是曲曲线线（51）的的最最佳佳形形式式。如如图图5.1a所所示示。如如果误差服从正态分布，则概率果误差服从正态分布，则概率 P(e1, e2, , em)为：为： （57）当当P最最大大时时，求求得得的的曲曲线线就就应应当当是是最最佳佳形形式式。从从图图5-1a中中可可以以看看出，显然，此时下式应最小：出，显然，此时下式应最小：（56）即残差平方和最小，这就是最小二乘法原理的由来。即残差平方和最小，这就是最小二乘法原理的由来。讲彝便邓彬虫茄钥魔阜电大返虽烃们拇迅瞬伶捌东晚极迅歌哀怪除活叭亭第5章回归分析第5章回归分析图图5.1

7、a酷姑诉煽商瑰渠得宰油襄朗追封于特尸挺曲辣若从研专吟允殴狠浑渴鸣沥第5章回归分析第5章回归分析5 .2 最小二乘法原理最小二乘法原理 这里假定这里假定 xi 无误差。式（无误差。式（57）可以写成：）可以写成：（58）S最小，就应有：最小，就应有：（59）即要求求解如即要求求解如下联立方程组：下联立方程组：（510）正正正正 规规规规 方方方方程程程程 ， 最最最最小小小小 二二二二 乘乘乘乘解。解。解。解。洼蔡骇销垛阴锐韧憨邀嘶睬药侮讫诉篓喜卵殃蝶伙缆鄙拂杜惩教禽前弧勘第5章回归分析第5章回归分析5.3 直线的回归直线的回归5.3.1 一元直线回归分析一元直线回归分析 对对一一元元线线性性回

8、回归归而而言言，就就是是配配直直线线的的问问题题，下下面面通过例题加以分析说明。通过例题加以分析说明。 例例5.1 研究腐蚀时间与腐蚀深度两个变量之间的研究腐蚀时间与腐蚀深度两个变量之间的关系，可把腐蚀时间作为自变量关系，可把腐蚀时间作为自变量 x ，把腐蚀深度作为，把腐蚀深度作为因变量因变量 y ，将试验数据记录在，将试验数据记录在表表5-1中。求出中。求出x，y之间之间的线性关系。的线性关系。 解：解：将将表表5-1中的中的(x, y) 数据，在直角坐标系中对应地做数据，在直角坐标系中对应地做出一系列的点，可得出一系列的点，可得图图5.2，这种图称之为散点图。，这种图称之为散点图。 安烈采

9、扮害唁状耙擦溶薪讫屠庆锗矛片训孕剧尤丹邵履骚代黎俱人襄训胸第5章回归分析第5章回归分析 与与 x 的关系大致呈直线关系，但并不是确定性的的关系大致呈直线关系，但并不是确定性的关系，而是一种相关关系：关系，而是一种相关关系：回归系数回归系数（511） 最佳估计值应使其残差平方和最小，残差为：最佳估计值应使其残差平方和最小，残差为：（512）灶斌刷撮篷雄宪圃肮公膏柯皱霓脱冀逆太定债旨尧华枫年陇又锤玲喳盟堡第5章回归分析第5章回归分析图图52、表、表51表表5-1 试验数据试验数据.倾扼侩仍嘴团队将掖恶埔挽维撬誊葬窃馒沦嘴抡衷秉农脆逸丙哎桌春腐蚜第5章回归分析第5章回归分析5.3.1一元直线回归分析

10、一元直线回归分析其平方和为：其平方和为：（513）平方和最小，即：平方和最小，即：（514）得正规方程组：得正规方程组：（515）咋羡橙晒缚馈票详切饯魏绍那肢娩山蛙赛拂搬辟冷脾渺评蒜嘘青蜡脆乱闲第5章回归分析第5章回归分析5.3.1一元直线回归分析一元直线回归分析令平均值为：令平均值为：（516）由由511得：得：（517）（518）由由式（式（515）得：得：霜壶庆冗棉鞍痒残辕女冰铭谗疲欣剐绪碧椭归廷矾锨严迟尉踪骆染肄褐野第5章回归分析第5章回归分析5.3.1一元直线回归分析一元直线回归分析（519）式中式中（520）列进于瘟臻馈屠盾肠值趋谋良焉酥陌钉袒蝉忍亚看固坠捣瞥溶茄庄秘慰事第5章回归

11、分析第5章回归分析 由由式式(5-18)和和式式(5-19)可可以以求求得得回回归归直直线线方方程程式式中中的的常常数数a及回归系数及回归系数b。令令5-21判触蕴岿缉饿忻豺澎耳被砾赏饰洱尚癸藐赚啸酪屉莱璃去棱缉追嘲郎萧侠第5章回归分析第5章回归分析便可得到回归系数的另一种表达式：便可得到回归系数的另一种表达式： 5-52的乘积和；绚伪红杂烙照埂让哦告蜘茅瑞唬居彤花鞠萄奉豺蜗痰禾予绰腰疏七粕聂遏第5章回归分析第5章回归分析 上上述述回回归归直直线线的的具具体体计计算算，通通常常都都是是列列表表进进行行的的，本节的示例，具体计算见本节的示例，具体计算见表表5-2。完成表完成表5-2的计算，就可得

12、到回归直线方程：的计算，就可得到回归直线方程： 5-23响喊涩散迸施浸颗琼第琅季镭榨砧徊蓑眺摘虚穿缴甲勒徊毅握缕名桅坟埠第5章回归分析第5章回归分析澄客惶镣懊美搀帮赌舞载镰拷笼借且唉筋氟猴湍伺箔劫著与丫鞠焙昌八蹈第5章回归分析第5章回归分析1）先把数据在）先把数据在Excel中成列输入到电子表格中；中成列输入到电子表格中；2）全部选择所有数据；全部选择所有数据；3）点击）点击图表向导图表向导快捷按钮，按提示一步一步快捷按钮，按提示一步一步建立建立散点图；散点图；5.3.2 利利用用微微软软公公司司的的电电子子表表格格（Microsoft Excel）在在计算机中进行线性回归的方法计算机中进行线

13、性回归的方法14）建建立立好好散散点点图图后后，用用鼠鼠标标点点到到图图上上散散点点的的位位置置，单单击击鼠鼠标标左左键键选选中中所所有有的的散散点点，然然后后单单击击鼠鼠标标右右键键，出出现现一一个个对对话话框框，点点击击左左键键选选择择添添加加趋趋势势线线，出出现现另另一一个个对对话话框框，在在对对话话框框中中选选择择某某些些功功能能，回回归归直直线方程就会出现在图上的某一位置。线方程就会出现在图上的某一位置。吝墅踊胰转蒲欺攀壁椰迄矾讯孙堂盒闻芥盼防服坛盼颂赛辣稗闲滦崔扦疼第5章回归分析第5章回归分析2.3.2 方差分析方差分析 由由 x 预报预报 ，精确度如何？用，精确度如何？用方差分析

14、方差分析方差分析方差分析 解决这一问题。解决这一问题。 残差可表示如下：残差可表示如下：试验得到的数据试验得到的数据回归直线对应的数据回归直线对应的数据上式可改写成：上式可改写成：（524）移项得：移项得：叙佬军尽裕羡迫氦观条臀谜恕痪备盛瓤既姿挤都虎厘竞贝符烛司抉蚜衰洲第5章回归分析第5章回归分析两端平方求和得：两端平方求和得：（525）可可以以证证明明此此项项为零，故得：为零，故得：鹃案答辫继紊诽碟伞猴炽插伞伯甥弄捷兽态洞度上垂钓腆提犀妻碳泉硝绰第5章回归分析第5章回归分析 上式中三项平方和的意义如下：上式中三项平方和的意义如下：代代表表在在试试验验范范围围内内，观观测测值值 yi 总总的波

15、动情况，称此为的波动情况，称此为总平方和总平方和总平方和总平方和。代代表表 x 变变化化所所引引起起的的 y 值值变变化化大大小小的的量量，即即yi 波波动动中中，可可以以通通过过回回归归方方程程计计算算出出来的那一部分，称之为来的那一部分，称之为回归平方和回归平方和回归平方和回归平方和。 上上述述三三个个平平方方和和之之间间的的关关系系，可可以以用用图图5.14表表示示出出来来。总总平平方方和可以分解成两部分，和可以分解成两部分，回归平方和回归平方和与与残差平方和残差平方和。是是残残残残差差差差平平平平方方方方和和和和，表表示示了了回回归归方方程程的的拟拟合合误误差差，即即观观测测值值yi

16、偏偏离离回回归归值值 的的大大小小。这这一一部部分分不不能能通通过过回回归归方方程程计计算算出出来来，它是它是yi 波动中与波动中与 x 无关的部分。无关的部分。暂秤衔挂薛蔬仓饶耶黎候即并杖魔拦技峭敦捶杀义脉黔朔馆昧偿剪玛蓬拌第5章回归分析第5章回归分析 由由图图中中可可以以看看出出，如如果果残残差差平平方方和和很很小小，则则回回归归平平方方和和总总平平方方和和将将接接近近于于1。这时，所有的观测点都靠近或落在回归线上，这就表明回归直线的精度较高。这时，所有的观测点都靠近或落在回归线上，这就表明回归直线的精度较高。善捐篆富辈胆百委理秃殃销敢祷纯隧订肠骑涤柄墙浮卞稻惧崇振惹仆左朵第5章回归分析第

17、5章回归分析 残残差差平平方方和和是是排排除除了了 x 对对 y 的的线线性性影影响响后后的的剩剩余余部部分分，y 值随机波动程度的大小，用它来估计误差。值随机波动程度的大小，用它来估计误差。 产产生生原原因因：包包括括随随机机误误差差、那那些些影影响响很很小小但但尚尚未未考考虑虑的因素。的因素。自由度：自由度： f总总= f回回 + f残残 f总总= m - 1 f回回 =1f残残= f总总 f回回 = m - 2镁狰拟茸顺刽吠统萌俄蛀唐抖怜贿弄象婿倡干剃蝉膜水寺自狭我怯位核肌第5章回归分析第5章回归分析 方差：残差平方和除以它的自由度：方差：残差平方和除以它的自由度：标准偏差估算值：标准偏

18、差估算值：（529）用用S衡量随机因素对衡量随机因素对 y 的影响。的影响。回归方程可作如下预报：回归方程可作如下预报：十臣薯茨蜂床灶蝇偶瞒它妓祷加靳陡盲姑峙民官喀怪乳瘦忘茁监衍赌淖备第5章回归分析第5章回归分析将例将例5.1一元直线回归的方差分析可归纳在表一元直线回归的方差分析可归纳在表5-3中。中。 回归方程可改写为：回归方程可改写为：吸肌疟实戴耙鹰埠诛比异蒜损霄踊屑故醛锌搽哼琐碱叁胳安龄奎悔坚挎筋第5章回归分析第5章回归分析5.3.4 相关性检验相关性检验 用用一一个个数数量量性性的的指指标标，来来衡衡量量两两个个变变量量之之间间线线性性相相关关关关系的密切程度系的密切程度相关系数相关系

19、数 r 。回归平方和回归平方和总平方和总平方和（5-32） r 1 时，说明标准误差很小（试验点与回归点几乎吻时，说明标准误差很小（试验点与回归点几乎吻合），回归方程才有意义。合），回归方程才有意义。通常通常 0r1。r 取值不同时的散点分布情况示于图取值不同时的散点分布情况示于图5.15中，具体分析如下：中，具体分析如下：篷舔茄动雄拴枪刚试鱼赋憨讨趴斧具片呐溢樊弥堵潭持蕾铁丝甭勤耽逐蔗第5章回归分析第5章回归分析（1） r = 0 时时。此此时时 b = 0 ，即即按按最最小小二二乘乘法法确确定定的的回回归归直直线线平平行行于于 x 轴轴，这这说说明明 y 的的变变化化与与 x 无无关关。故

20、故 x 与与 y 之之间间没没有有线线性性关关系。通常，散点的分布是完全不规则的，如系。通常，散点的分布是完全不规则的，如图图5.15（a）所示。所示。（2） 0r1。这这时时， x 与与 y 之之间间存存在在着着一一定定的的线线性性关关系系。当当 r 0 时时 b0 ，散散点点分分布布有有随随 x 增增加加 y 增增加加的的趋趋势势，此此时时称称 x 与与 y 是是正正相相关关，如如图图5.15（b）所所示示。当当 r 0 时时 b0 ，散散点点图图呈呈 y 随随 x 增增加加而而减减小小的的趋趋势势，此此时时称称 x 与与 y 为为负负相相关关，如如图图5.15（c）所所示示。当当 r 的

21、的绝绝对对值值比比较较大大时时，散散点点远远离离回回归归直直线线较较为为分散；当分散；当 r 的绝对值较大时，散点分布就靠近直线。的绝对值较大时，散点分布就靠近直线。（3） r= 1。所所有有的的点点都都在在一一条条直直线线上上，即即散散点点都都落落在在回回归归直直线线上上。此此时时，称称 x 与与 y 完完全全性性相相关关。实实际际上上，此此时时 x 与与 y 之之间间有确定性的线性关系。如有确定性的线性关系。如图图5.15（d）所示。所示。孩耐皖眺炬杠宾课命盂榔址朝戏劝盾晌翅腾胸雨曲辞监高拧站或埠控蓖汲第5章回归分析第5章回归分析 图图5.15(a) x亲籽秀悟到哇孝掂熏谤劝丝范墒阜迫屡狙

22、狸已余臆寝菠点析履乔余阶晨慎第5章回归分析第5章回归分析 图图5.15(b) x徒渡邵害盒柄鸡驮焚佳棉吱宣慑粱琳兵蛹蜜垦菱竖桔筹侦牢碍俩建揉籽赛第5章回归分析第5章回归分析 图图5.15(c) x参阅妒苍鸽碴注筒异宪愈捧撵智颁捧册羽啼市勿欢厕尘缴胁牺倡闸勇密盼第5章回归分析第5章回归分析 图图5.15(d) x罕叹吊茂岛婴司疡梯匙粤胆情葬丫矮检煮臻渡辙蚕触淋叮绅汽砌避堂阻碱第5章回归分析第5章回归分析 图图5.15(e) x硅腕禁赠罗晒卉衷胶捻时屏功呀察怜蕉孤秸淮粹觉浇热时变恍锭改珊第余第5章回归分析第5章回归分析 从从上上述述讨讨论论可可以以看看出出，相相关关系系数数 r 表表示示两两个个随

23、随机机变变量量 x 与与 y 之之间间线线性性相相关关的的密密切切程程度度。 r越越大大，愈愈接接近近于于1，x 与与 y 之之间间的的线线性性相相关关也也就就愈愈密密切切。但但必必须须指指出出，相相关关系系数数 r 只只表表示示线线性性相相关关的的密密切切程程度度，当当 r 很很小小，甚甚至至等等于于零零时时，并并不不一一定定说说明明 x 与与 y 之之间间就就不不存存在在其其它它关关系系。如如图图515(e)所所示示，虽虽然然 r = 0，但但从从散散点点分分布布看看，x 与与 y 之之间间存存在在着着明明显显的的曲曲线线关关系系，只只不不过过这这种种关关系系不不是线性关系罢了。是线性关系

24、罢了。 相相关关系系数数的的绝绝对对值值究究竟竟多多大大才才能能认认为为两两个个变变量量是是相相关关的的呢呢？或回归方程才有意义呢？或回归方程才有意义呢？F检验：检验：假设：假设：H0：b = 0，F为：为：（534） 可可见见 r 检检验验与与 F 检检验验的的作作用是一致的，只用一种即可。用是一致的，只用一种即可。 刮咋口搁谆厅修傍寥婶毋绎潮爹寓蚕锈笋空抱止威胁涸句唁住匝醛壮潞饮第5章回归分析第5章回归分析 可查表得出可查表得出 Fa a= =（1 1，m2），），当：当： F F0.01 0.01 特别显著；特别显著； F0.01 0.01 F F0.05 0.05 时，显著；时，显著；

25、 F0.05 0.05 F F0.10 0.10 时，较显著；时，较显著； F F0.10 0.10 时，不显著。时，不显著。勾丢桩朋空障烛濒再撇仿捻席够祁柔块呜卑频氟缴睬歧博或锑象肆碱怨颊第5章回归分析第5章回归分析（1）先把数据在）先把数据在Excel中成列输入到电子表格中；中成列输入到电子表格中；（2）点击下拉菜单的）点击下拉菜单的“工具工具”按钮，鼠标箭头移动到按钮，鼠标箭头移动到“数数据分析据分析”项下，点击左键，出现数据分析对话框，在对项下，点击左键，出现数据分析对话框，在对话框中选择话框中选择“回归回归”，点击，点击“确定确定”按钮，出现回归对话框，按钮，出现回归对话框，按对话框

26、中的提示，选择对话框中的某些功能，即可得按对话框中的提示，选择对话框中的某些功能，即可得出与直线回归有关的很多参数。出与直线回归有关的很多参数。（3）利用计算出的参数，即可写出回归方程。）利用计算出的参数，即可写出回归方程。5.3.5 利用利用Excel在计算机中进行线性回归的方法在计算机中进行线性回归的方法2焊雁若撇料景啪铸恢凰翱乓麓祸溃艘危正燃使誓同呵总感淮背均司骨寝先第5章回归分析第5章回归分析5.4 曲线回归曲线回归 在在实实际际问问题题中中，变变量量之之间间常常常常不不是是直直线线关关系系。这这时时，通通常常是是选选配配一一条条比比较较接接近近的的曲曲线线，通通过过变变量量变变换换把

27、把非非线线性性方方程程加加以以线性化，然后对线性化的方程应用最小乘法求解回归方程。线性化，然后对线性化的方程应用最小乘法求解回归方程。 最最小小二二乘乘法法的的一一个个前前提提条条件件是是函函数数 y = f（x）的的具具体体形形式式为为已已知知，即即要要求求首首先先确确定定 x 与与 y 之之间间内内在在关关系系的的函函数数类类型型。函函数数的的形形式式可可能能是是各各种种各各样样的的，具具体体形形式式的的确确定定或或假假设设，一一般般有有下下述述两两个个途途径径：一一是是根根据据有有关关的的物物理理知知识识，确确定定两两个个变变量量之之间间的的函函数数类类型型；二二是是把把观观测测数数据据

28、划划在在坐坐标标纸纸上上，将将散散点点图图与与已已知知函函数曲线对比，选取最接近散点分布的曲线公式进行试算数曲线对比，选取最接近散点分布的曲线公式进行试算。 常见的一些非线性函数及其线性化方法如下。常见的一些非线性函数及其线性化方法如下。5.4.1 曲线回归曲线回归指吵词溢绷岸皑湍任肝沛奏罪余益槛申骂悸绍乖蚜试亿萨干鳖暗耗范挪踊第5章回归分析第5章回归分析（1）双曲线，）双曲线， 型，见型，见图图5.23。（2）指数曲线，）指数曲线， ，见，见图图5.24。 （3）指数曲线，）指数曲线， ，见，见图图5.25。 （4）幂函数曲线，）幂函数曲线， ，见，见图图5.26。暴嵌洒哺沿湖攒笔昂谗膨翼喂

29、气度偿稍甲周搬尹人牵架界负袋伪搁侣经橙第5章回归分析第5章回归分析图图5.23 (a) 双曲线双曲线拇铰酵媚号闭喝规主乔割锗犀静掇肩硬彰塌简猴揍沾噪佩浪培羔贿拼唇港第5章回归分析第5章回归分析图图5.23(b) 双曲线双曲线步施抿病儒得写拓刚噬跪复止尝开望饶受蓬歼似鸯酿舀正滓申砍程吹悉刃第5章回归分析第5章回归分析图图5.24(a) 指数曲线指数曲线妆退弄才过勿鼻双竣称闯拣资僻酞虞峡欣辞蓬再嫁坝多巍需盏筷姻篓讫水第5章回归分析第5章回归分析图图5.24(b) 指数曲线指数曲线传层橇褒霉眯舆刑俭尖滑讨栅鲁炙葫员器盟橙钻会汪源楚梧塔尹牢险禹保第5章回归分析第5章回归分析图图5.25(a) 指数曲线

30、指数曲线籽倾歹醉恤怂癣绚倒贷速壶甲宁恃疟瞎瞬汲巢镑译磺的涉邻抬脚晦酪傀坊第5章回归分析第5章回归分析图图5.25(b) 指数曲线指数曲线窖守睫网饿珠屯甚镰绝厨洛跃赞现孝妥灵斡猖靶领粗薯靶彻筛溉摈盛通地第5章回归分析第5章回归分析图图5.26(a) 幂函数曲线幂函数曲线0 b 1b = 1殆碑膀钓猜灾眠攘湿杉迷疚浚惋谣壶狂税判席颈坊杰漳祭拒嘛凑圃牺到保第5章回归分析第5章回归分析图图5.26(b) 幂函数曲线幂函数曲线b 1b=11 b 0, c 0卓霍贩尤笆布蹲獭碾惩淄变搪联眨若缝辖胶恐靡沛微恩材苛铆峭贾讹嘘谬第5章回归分析第5章回归分析图图5.29 (b) 对数抛物线对数抛物线b b 0,

31、c 0谓廊颗吓科淹忌元旋盾酝肢访橡瘦鸽豹革台鹊烁永丑孤顶噬涡栈浇福蛆顽第5章回归分析第5章回归分析 如如上上所所述述，许许多多曲曲线线都都可可以以通通过过变变换换化化为为直直线线，可可以以按按直直线线拟拟合的办法来处理。合的办法来处理。 必必须须注注意意！所所配配曲曲线线的的回回归归中中，r、S、F 等等的的计计算算稍稍有有不不同同。u、v 等等仅仅仅仅是是为为了了变变量量变变换换，使使曲曲线线方方程程变变为为直直线线方方程程，然然而而要要求求的的是是所所配配曲曲线线与与观观测测数数据据拟拟合合较较好好，所所以以计计算算r、S、F 等等时时，应应首先根据已建立的回归方程，用首先根据已建立的回归

32、方程，用 xi 依次代入，得到依次代入，得到 yi 后再计算后再计算残差平方和残差平方和 及总平方和及总平方和 ，于是：，于是：（536）乏恋抚垮均者芹本凳僳蛛币而闷屹涉漠叮立胆生差坪啼祸盈躬掀镑不渠议第5章回归分析第5章回归分析（537）（538） 下面举例说明曲线回归的一般计算方法。下面举例说明曲线回归的一般计算方法。 例例5.2 炼炼钢钢厂厂出出钢钢用用钢钢包包在在使使用用过过程程中中，由由于于钢钢液液及及炉炉渣渣对对耐耐火火材材料料的的浸浸蚀蚀，其其容容积积不不断断增增大大。钢钢包包的的容容积积（用用盛盛满满钢钢水水的的重重量量 kg 表表示示）与与相相应应的的使使用用次次数数列于列于

33、表表5-4中。求：中。求：x、y之间的关系式：之间的关系式：斜绰锨硕垦资纸肘费痹珊骏妇卒痴吴痹宰造摧贪拯惮摹韧苫网菊夕滴丽叼第5章回归分析第5章回归分析 表表5-4 试验数据数据掩液猪缉肝王膏拄霞自噪末痪碗舞勃巍钧钾牌绰吭倪罕舷绑亥氓撮诌骋剿第5章回归分析第5章回归分析 解：解： 首先按实测数据做散点图，如首先按实测数据做散点图，如图图5.30所示。所示。 由由图图可可见见，最最初初容容积积增增加加很很快快，以以后后减减慢慢并并趋趋于于稳定。根据这个特点，选用稳定。根据这个特点，选用双曲线双曲线：(539）表示容积表示容积 y 与使用次数与使用次数 x 的关系。的关系。翠凰咙螺戏荡撮框龟台痕矣

34、曹谐懊坑今凶暖贫侥啦票已甘临备莆溢快陡惹第5章回归分析第5章回归分析儡荡肌遣呜轮利擒痹盎筒砚慕矣润钾兵刁魔议灶瘁泅僧妨仍磨潭惺刷顶企第5章回归分析第5章回归分析（5-40） 对对新新变变量量 u、 v 而而言言，式式（5-40）是是一一个个直直线线方方程程，因因而而可可用用最最小小二二乘乘法法进进行行拟拟合合计计算算，求求出出回回归归系系数数 b 和常数项和常数项 a 。计算步骤如下：。计算步骤如下：（1）根根据据表表5-4中中的的数数据据，计计算算出出 v 、v2、 u、 u2 、uv和回归系数和回归系数b及常数项及常数项a列于列于表表5-5中。中。即凳漫蝇慧症痰瞩龟代掏萌捐把竹霓辰牧倒夯伴

35、役佃熟织察遇诧体炽琢妒第5章回归分析第5章回归分析获磐砚袋朔诀伯蹿抒交鸿滁铬钵匡锐悍梨景枷馆液孰哆涧臼碳妊现葫丧邱第5章回归分析第5章回归分析(2) 得出变换后的回归直线方程式为：得出变换后的回归直线方程式为：妊暑吐剐筐槽造忌颓途帽碟若朱阅也炳石戳札旭彬埂赛侯傅蓟渴裤格克牵第5章回归分析第5章回归分析变换回原始曲线方程为：变换回原始曲线方程为： 将将原原始始数数据据带带入入回回归归方方程程式式(5-42)中中，计计算算标标准准偏偏差差S和相关系数和相关系数R，计算结果见，计算结果见表表5-6所示。所示。 由表由表5-6得出的参数可写出最后的回归曲线方程式为：得出的参数可写出最后的回归曲线方程式

36、为：烛器弹寂面密岛疼箕浓遁议鹊锨掸悄孩幽玲蝎念妥乡吉渍瞧匝铱半圾觉喝第5章回归分析第5章回归分析惮粳纠坟度评曰最脏涝贸骆吨拒旷哇凭吝静娃例肝忠冷腥扳免争受蛛籽坊第5章回归分析第5章回归分析 本本例例应应用用最最小小二二乘乘法法，虽虽然然使使用用双双曲曲线线拟拟合合，在在计计算算过过程程中中使使残残差差平平方方和和达达到到了了最最小小，但但这这并并不不足足以以说说明明，所所配配双双曲曲线线是是对对表表5-4中中数数据据的的最最佳佳拟拟合合曲曲线线。因因而而在在配配曲曲线线时时，最最好好用用不不同同的的函函数数类类型型计计算算后后再再进进行行比比较较，选选取取其其中中最最优优者者，即即选选取取相相

37、关关系系数数R为为最最大大的的曲曲线线。此此外外，在在曲曲线线拟拟合合时时也也可可采采用用分分段段拟拟合合的的方方法法，即即在在不不同同的的自自变变量量区区间间内内配配以以不不同同的的曲曲线线来来进进行行拟拟合合。下下面面我我们们采采用用计计算算机机处处理理方方法法，用用其其它它类类型型的的函函数数进进行回归拟合试一试，看会得出什么样的结果？行回归拟合试一试，看会得出什么样的结果？ 锁钨揖逆砧敌作羡遁悬鹰凋疚版根笋嚣校戊蚁院五粕轴伊衫偷寇硝姑艰宁第5章回归分析第5章回归分析 利用利用 Excel 对对 x 、y 的数据作散点图，直接作出回归曲线。的数据作散点图，直接作出回归曲线。 第一步第一步

38、: 在在Excel电子表格中，按列（行）输入电子表格中，按列（行）输入 x 与与 y 的试的试验数据。验数据。 第二步：对第二步：对 x 与与 y 的试验数据作出散点图。的试验数据作出散点图。 第三步：在图中选定散点的数据，做多项式的趋势线，第三步：在图中选定散点的数据，做多项式的趋势线，即得到相应的回归曲线。即得到相应的回归曲线。5.4.2 用用Excel电子表格软件进行曲线回归的方法电子表格软件进行曲线回归的方法5.4.2.1 方法方法1纯杖疼嘻硼狰润回炒旗镶伪灌善对晦热捻迅忱咯氦篆革料汝新扇盆罚琢淆第5章回归分析第5章回归分析5.4.2.2 方法方法2 利利用用 Excel 对对 x 、

39、y 的的数数据据求求出出所所有有的的回回归归系系数数及及方方差差分分析数据。析数据。 第第一一步步: 在在Excel电电子子表表格格中中，按按列列（行行）输输入入 x 与与 y 的的试试验数据。验数据。 第二步：对第二步：对 x 数据进行格式化复制数据进行格式化复制x2x8。 第第三三步步：在在表表中中选选定定所所有有xx8数数据据，选选择择“工工具具”下下拉拉菜菜单单“数数据据分分析析”，按按提提示示进进行行操操作作，即即可可得得出出全全部部计计算算分分析数据。析数据。辰踏剁衣慰糙蝗践目因剂抵瓢跪窍矾舞筛跳墨没破堕久苹引愚隋懂谩宁虾第5章回归分析第5章回归分析5.5 多元回归多元回归5.5.

40、1基本概念基本概念 上上面面讨讨论论的的是是只只有有两两个个变变量量的的回回归归问问题题，其其中中一一个个是是自自变变量量，另另一一个个是是因因变变量量。但但在在大大多多数数情情况况下下，自自变变量量不不是是一一个个而而是是多多个个，称这类问题为多元回归问题。称这类问题为多元回归问题。 多多元元回回归归中中最最简简单单且且最最基基本本的的是是多多元元线线性性回回归归。如如自自变变量量 xi ( i= 1,2, ,G )，进进行行m次次试试验验，所所得得的的数数据据可可以以写写成成两两个个数数组组，即两个矩阵：即两个矩阵：藕汲就物炊楞伶藩码粥匝压烯酣钵舰患勉孝曼完首狰组譬撇垃菠昆阑羔韦第5章回归

41、分析第5章回归分析显然，多元线性统计模型是：显然，多元线性统计模型是：（5-45） 多多元元线线性性回回归归分分析析原原理理，与与一一元元线线性性回回归归分分析析原原理理完完全全相相同同只只是是计计算算上上复复杂杂得得多多。但但是是用用计计算算机机来来进进行行计计算算工工作作量量与与一一元元线线性回归相比，复杂程度并不大。根据最小二乘法，应使残差：性回归相比，复杂程度并不大。根据最小二乘法，应使残差：试验值试验值回归值回归值最小最小下面我们通过例题来说明如何进行多元线性回归。下面我们通过例题来说明如何进行多元线性回归。悠拉瓜皇烬窄押金乘狞寞劝顾婚炔桅拜擞鸟僻蝎胰辐矾讨风鹅腻戏噪感旬第5章回归分

42、析第5章回归分析例例5.3 某种水泥在凝固时放出的热量某种水泥在凝固时放出的热量 y ( J/g ) 与水泥中下列四种化与水泥中下列四种化学成分的含量有关：学成分的含量有关： x1 3CaO Si2O3 的含量，的含量，% x2 2CaO SiO2 的含量，的含量，% x3 3CaO Al2O3 的含量，的含量，% x4 4CaO Al2O3 Fe2O3的含量，的含量，% 原始试验数据如表原始试验数据如表5-7所示：所示：蛤闯请几邮镀怀纸涵玻阿哟贷位砧揖轰房玄气郭义涩磷嘿浓另荡昨弛堡辑第5章回归分析第5章回归分析求解步骤如下：求解步骤如下：用用Excel电子表格电子表格点击下拉菜单点击下拉菜单

43、“工具工具”栏栏点击点击 “数据分析数据分析”项项选择选择 “回归回归”项项 按按回回归归对对话话框框中中的的提提示示，进进行行选选择择操操作作，即即可可得得出出全全部部的的回回归归系系数、相关系数、标准偏差等数据。数、相关系数、标准偏差等数据。 根根据据计计算算出出的的回回归归系系数数写写出出回回归方程。归方程。完完邱底拜暮片夕栋渠疟袄龟宜渠紧扎哟慑店嘴欺春目报鳖僵瞅丙与总阿稼沮第5章回归分析第5章回归分析5.5.3 多元曲线回归多元曲线回归 多元线性回归还可以扩展到更为普遍的情况。假定有：多元线性回归还可以扩展到更为普遍的情况。假定有：（5-54）式中，式中， 是是x的已知函数，不含有未知

44、的已知函数，不含有未知参数参数c，则显然对待定参数，则显然对待定参数c 而言，该式仍为线性函数。而言，该式仍为线性函数。如下面函数式的格式就是此类函数的一例：如下面函数式的格式就是此类函数的一例： (5-55)怪郎半邹桥果河老昭祈英粪蚜峡颜嘉怎程授嫌衬很贴潘盒碴灿偷跨揉班窑第5章回归分析第5章回归分析一般，常用的统计数学模型为一般，常用的统计数学模型为G1阶多项式：阶多项式：（5-56） 任任何何函函数数至至少少在在一一个个比比较较小小的的范范围围内内可可以以用用多多项项式式任任意意逼逼近近。因因此此，在在比比较较复复杂杂的的实实际际问问题题中中，往往往往不不管管 y 与与各各因因素素的的关关

45、系系如如何何，而而采采用用多多项项式式进进行行回回归归。可可见见，多项式回归在回归问题中占有特殊的地位。多项式回归在回归问题中占有特殊的地位。掉已围肛需浚襄狸序患沙邯谗匙裂任没夯燥切补翻哼账豌份涛声社埋宗导第5章回归分析第5章回归分析方法步骤如下：方法步骤如下：将将 数数 据据 成成 列列 输输 入入 到到Excel电子表格中电子表格中根根据据x列列的的数数据据分分别别计计算算x2、lnx、1/x、(lnx)2。按按顺序排列于顺序排列于x列的右则。列的右则。点击下拉菜单的点击下拉菜单的“工具工具”项，点击项，点击“数据分析数据分析”。在在数数据据分分析析对对话话框框中中，选选取取“回回归归”项项，点点击击确定，出现回归对话框。确定，出现回归对话框。按按对对话话框框中中的的提提示示进进行行操操作作，即即可可得得出出多多项项式式回回归归曲曲线线中中各各项项中中的的系系数数。然然后后按按 x, x2、lnx、1/x、(lnx)2的的对对应应关关系系代代入入方方程程中中即即得出回归曲线的多项式方程。得出回归曲线的多项式方程。崇泵满牙挞滔驮拄欣部靡聊厄出艾派欧泣盈敖叔播蟹嘛箱亦纫旁监坟淫劫第5章回归分析第5章回归分析眉盅坐综借疏履气糠醇厚小恕傻秩铃刻埔胡秧坛斤谊躇春奋啸杰蔓旋介迢第5章回归分析第5章回归分析