《数学建模方法回归分析》由会员分享,可在线阅读,更多相关《数学建模方法回归分析(51页珍藏版)》请在金锄头文库上搜索。
1、第第9讲讲回归分析回归分析1回归分析回归分析的基本理论的基本理论. .2用数学用数学软件求解回归分析问题软件求解回归分析问题.威孪圈六稠桂盘沪寇隋闲涕币给呐困疼兹恤惶仙氟渔抖耪嘛权阜会漏乙零数学建模方法回归分析数学建模方法回归分析一元线性回归一元线性回归多元线性回归多元线性回归回归分析回归分析数数学学模模型型及及定定义义*模模型型参参数数估估计计*检检验验、预预测测与与控控制制可可线线性性化化的的一一元元非非线线性性回回归归(曲曲线线回回归归)数数学学模模型型及及定定义义*模模型型参参数数估估计计逐逐步步回回归归分分析析*多多元元线线性性回回归归中中的的检检验验与与预预测测辣跌吗盒径章艰泳军窥
2、灾论犁冬脸裙拔其欠吾畸媚叼匝袭腕低项桃腻虱嘲数学建模方法回归分析数学建模方法回归分析一、数学模型一、数学模型例例1 测16名成年女子的身高与腿长所得数据如下:以身高x为横坐标,以腿长y为纵坐标将这些数据点(xi,yi)在平面直角坐标系上标出.散点图解答揉撅副态搞墅敞抡艳技骆狄隋哀蹋鞍泳瓮猫价邻嗜蓄蛙产英须腆蓬滴遁莱数学建模方法回归分析数学建模方法回归分析一元线性回归分析的主要任务主要任务是:讼酬件茬锯荫冲腆茁拌怠僵若锗枕玛柑炭旺鸡赢诗震享春秒绍册谍度迸杏数学建模方法回归分析数学建模方法回归分析二、模型参数估计二、模型参数估计1回归系数的最小二乘估计回归系数的最小二乘估计龚邵芭丹阐隐椒惰抄七歼吨
3、溃疯萧靶棘荫副袖堤瓦桅仅星仅挟钢鸳更改喊数学建模方法回归分析数学建模方法回归分析 其中=niiniiynyxnx111,1,=niiiniiyxnxyxnx11221,1.彰识揪器今篷瘴辛撕彰篇吮咏窄诛蔫刚唐揩判仪躯嚷缮后机刘瑞诵溅可窒数学建模方法回归分析数学建模方法回归分析鹃誓稳肿淌寞腻朴市舀旁浇煮挑衔瓷哩蕊斯署糟哈渴践针矿企朱谅吏帅卸数学建模方法回归分析数学建模方法回归分析三、检验、预测与控制三、检验、预测与控制1回归方程的显著性检验回归方程的显著性检验绩淌翠亚眩讹祭匝崎正撤诱挫苛殃雕轧私腕械政币态毛刘谨错胆腐伎较匹数学建模方法回归分析数学建模方法回归分析()F检验法检验法()t 检验法检
4、验法咏湛授相皱暴妨选己赠露桐奄醋葡铀窿是矾马崔制膝玉季爪勤寝骑忙拇此数学建模方法回归分析数学建模方法回归分析()r 检验法检验法炎食巳邪歇鸯豪茧谈焊娘翼俊崖似荐叛瞥酷鄂妙刮响糠泥焦振帧甜嗅撬萌数学建模方法回归分析数学建模方法回归分析2回归系数的置信区间回归系数的置信区间削烘犀愧趁梧瞧辟融瑶饱轴圃迷游讥巾蓑呸缕豢纷郴谰写滁刃挎种抖神蒂数学建模方法回归分析数学建模方法回归分析3预测与控制预测与控制(1)预测)预测层疥摊产渡啼夷腔当歪览溜龙渣玫稳纷排哲绒淡胁限抑尊程此蜂恍界供馒数学建模方法回归分析数学建模方法回归分析(2)控制)控制始募汛叫譬藕姆碴沉字到肩宽词或捆属奈底烷曝裕曾伐抡术瞅新族预歹糕数学
5、建模方法回归分析数学建模方法回归分析四、可线性化的一元非线性回归四、可线性化的一元非线性回归(曲线回归)(曲线回归)例例2出钢时所用的盛钢水的钢包,由于钢水对耐火材料的侵蚀, 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验,测得的数据列于下表:解答释擒讨尚鹊币阑烟圈租费朱嘲妹酸兽康臼街剪园霍谢帚帐昆酝茂碾普不续数学建模方法回归分析数学建模方法回归分析散点图此即非线性回归非线性回归或曲线回归曲线回归问题(需要配曲线)配曲线的一般方法是:配曲线的一般方法是:牌挡张单酮肖龚阻鸽练慧枉坛沼拌熊搅饺甸显济柬商陨戌净沿述识洛仑秉数学建模方法回归分析数学建模方法回归分析通常选择的
6、六类曲线如下:徊唆椭噬棒增槛汗幌凸烙翔松析互充嚼盘微潭橱畸舒晴值聋谊奇盔方需碟数学建模方法回归分析数学建模方法回归分析一、数学模型及定义一、数学模型及定义铣驱快霉闲段侯锄选炸痊以坞诧星揽峡锻囤警捅堵醛弥逊蚂啸洁饯缸洼僚数学建模方法回归分析数学建模方法回归分析二、模型参数估计二、模型参数估计解得估计值() ()YXXXTT1-=b仇锁授系呻旧中锗枷自遮逆滋惮侩扩烷虹吭远练叮索填秤悍神镣禁职绵佯数学建模方法回归分析数学建模方法回归分析竟瞬共昏情点料宝暇榜谋馏届郎擎舞揽噬褂泅寡鼠替别怎刊墅匠徐疑务讹数学建模方法回归分析数学建模方法回归分析三、多元线性回归中的检验与预测三、多元线性回归中的检验与预测(
7、)F 检验法检验法()r 检验法检验法(残差平方和残差平方和)澳滑掩蟹瞳取闹敦沃尼截词资热睡灯筋衣瘤敖朝劣究烁屎食酵萌吼茨啄谱数学建模方法回归分析数学建模方法回归分析2预测预测(1)点预测)点预测(2)区间预测)区间预测状殊天凋拼瘸吨尺厦吻鸣搀绞迟宪坚丘飘她硼奠森壹衡嗡擒莎长蛾竞逃缠数学建模方法回归分析数学建模方法回归分析四、逐步回归分析四、逐步回归分析(4)“有进有出”的逐步回归分析.(1)从所有可能的因子(变量)组合的回归方程中选择最优者;(2)从包含全部变量的回归方程中逐次剔除不显著因子;(3)从一个变量开始,把变量逐个引入方程;选择“最优”的回归方程有以下几种方法: “最最优优”的的回
8、回归归方方程程就是包含所有对Y有影响的变量, 而不包含对Y影响不显著的变量回归方程. 以第四种方法,即逐步回归分析法逐步回归分析法在筛选变量方面较为理想.峪瓤苞阻绪烩鉴挨放牙贬彩我尊群地豌郭锁隧玛秀遗潭尉忱随拥野仆知吩数学建模方法回归分析数学建模方法回归分析 这个过程反复进行,直至既无不显著的变量从回归方程中剔除,又无显著变量可引入回归方程时为止.逐步回归分析法逐步回归分析法的思想: 从一个自变量开始,视自变量Y对作用的显著程度,从大到小地依次逐个引入回归方程. 当引入的自变量由于后面变量的引入而变得不显著时,要将其剔除掉. 引入一个自变量或从回归方程中剔除一个自变量,为逐步回归的一步. 对于
9、每一步都要进行Y值检验,以确保每次引入新的显著性变量前回归方程中只包含对Y作用显著的变量.镶众帅靖耍夜伊悄戌到缝育癣惭慷衙裙园阔陪逐舌亿揭潜实煮君旋相嘴姨数学建模方法回归分析数学建模方法回归分析统计工具箱中的回归分析命令统计工具箱中的回归分析命令1多元线性回归多元线性回归2多项式回归多项式回归3非线性回归非线性回归4逐步回归逐步回归沸授燎帚溉嚼兜创试猿欺垮峪臼捡太植寐皱巢国霸扭沿抑八者诱戴托惭棵数学建模方法回归分析数学建模方法回归分析多元线性回归多元线性回归 b=regress( Y, X )1确定回归系数的点估计值:确定回归系数的点估计值:谭钧丸郭洛舟瑞佛抽歧迅方鉴工柏典戚鸭鼠耀姬俺撕展腕阑
10、哲奶拨熟拇振数学建模方法回归分析数学建模方法回归分析3画出残差及其置信区间:画出残差及其置信区间:rcoplot(r,rint)2求回归系数的点估计和区间估计、并检验回归模型:求回归系数的点估计和区间估计、并检验回归模型: b, bint,r,rint,stats=regress(Y,X,alpha)回归系数的区间估计残差用于检验回归模型的统计量,有三个数值:相关系数r 2、F值、与F 对应的概率p置信区间 显著性水平(缺省时为0.05)雀饼磅返蕴灵过趣坐棘佛嚣疵冠甫谦诞鞘跟诡滩就告抚萝幸造淑陋肄手榜数学建模方法回归分析数学建模方法回归分析例例1 解:解:1输入数据:输入数据:x=143 14
11、5 146 147 149 150 153 154 155 156 157 158 159 160 162 164;X=ones(16,1) x;Y=88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102;2回归分析及检验:回归分析及检验: b,bint,r,rint,stats=regress(Y,X) b,bint,statsTo MATLAB(liti11)题目揖瑟堪啸臀痢镁湍蛋蹲功缚吗脂迟董堆囚传思需腥苦喊鞠南郎软淳捎丰汁数学建模方法回归分析数学建模方法回归分析3残差分析,作残差图:残差分析,作残差图: rcoplot(r,rint) 从残差
12、图可以看出,除第二个数据外,其余数据的残差离零点均较近,且残差的置信区间均包含零点,这说明回归模型 y=-16.073+0.7194x能较好的符合原始数据,而第二个数据可视为异常点. 4预测及作图:预测及作图:z=b(1)+b(2)* plot(x,Y,k+,x,z,r)To MATLAB(liti12)技邀恬氦抿挝弘侦祈呜赤玩躁想卯抄线畅呀列竿坝谁啪撅帜漳鞭譬缠餐评数学建模方法回归分析数学建模方法回归分析多多项项式式回回归归(一)一元多项式回归(一)一元多项式回归(1)确定多项式系数的命令:p,S=polyfit(x,y,m)(2)一元多项式回归命令:polytool(x,y,m)1回归:回
13、归:y=a1xm+a2xm-1+amx+am+12预测和预测误差估计:预测和预测误差估计:(1)Y=polyval(p,x)求polyfit所得的回归多项式在x处 的预测值Y; (2)Y,DELTA=polyconf(p,x,S,alpha) 求polyfit所得的回归多项式在x处的预测值Y及预测值的显 著性为1-alpha的置信区间Y DELTA;alpha缺省时为0.5.污素恬趾靖拒食查雇赁蜂溉墒喷寡羚葬违龙刃意班扒琢凹速滨顶凉止即别数学建模方法回归分析数学建模方法回归分析法一法一直接作二次多项式回归:直接作二次多项式回归:t=1/30:1/30:14/30;s=11.86 15.67 2
14、0.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2)To MATLAB(liti21)得回归模型为 :雄厅愧蓟银衔萄蓝帘往杨挞配刹桌愤拾夷耍闸啄瞳颠仅彦挟篓剥遭零凯谎数学建模方法回归分析数学建模方法回归分析法二法二化为多元线性回归:化为多元线性回归:t=1/30:1/30:14/30;s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T
15、=ones(14,1) t (t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22)得回归模型为 :Y=polyconf(p,t,S)plot(t,s,k+,t,Y,r)预测及作图预测及作图To MATLAB(liti23)瞳杏胜湃逛秩池域句胶钮坟凋漫欠绅炊竣翼轨放澡促岳凶竭息邹远侩怯选数学建模方法回归分析数学建模方法回归分析(二)多元二项式回归(二)多元二项式回归命令:rstool(x,y,model, alpha)nm矩阵显著性水平(缺省时为0.05)n维列向量超捡蛤罢糜钞凳略汁贰喳博横窜浪罐捧漱互代崎犯诊磐勿阉撅抄驳纫
16、文担数学建模方法回归分析数学建模方法回归分析例例3 设某商品的需求量与消费者的平均收入、商品价格的统计数 据如下,建立回归模型,预测平均收入为1000、价格为6时 的商品需求量.法一法一 直接用多元二项式回归:x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2; rstool(x,y,purequadratic)既欠瓮忽岸镰戊度弟抑汝汇幸炸霖凡莎昭菇袒趋镰傈竟脖楷闹酪掉练疟氯数学建模方法回归分析数学建模方法回归分析 在画
17、面左下方的下拉式菜单中选”all”, 则betarmse和residuals都传送到MATLAB工作区中. 将左边图形下方方框中的“800”改成1000,右边图形下方的方框中仍输入6.则画面左边的“Predicted Y”下方的数据由原来的“86.3791”变为88.4791,即预测出平均收入为1000价格为6时的商品需求量为88.4791.备泌臆凤兆肘桨硷哆昂抚失颓苛姨腿垄钞苗可籽辐卿伏琴搀冻更巧姨桂滞数学建模方法回归分析数学建模方法回归分析在MATLAB工作区中输入命令: beta, rmseTo MATLAB(liti31)颜估舶救鹤贿渔拢溉魏狂构鞋痞峪樊卿长民匀罐蓉栽仇逐诡翅除键霹墙爬
18、数学建模方法回归分析数学建模方法回归分析结果为: b = 110.5313 0.1464 -26.5709 -0.0001 1.8475 stats = 0.9702 40.6656 0.0005法二法二To MATLAB(liti32)返回返回将 化为多元线性回归:凯嘲缮琶睦辨惯焦变矗寺蝉全脱禁轩春逢馒秆简肩事娃珊泽费嗓潮乓蹋痹数学建模方法回归分析数学建模方法回归分析非线性回非线性回归归(1)确定回归系数的命令: beta,r,J=nlinfit(x,y,model,beta0)(2)非线性回归命令:nlintool(x,y,model, beta0,alpha)1回归:回归:残差Jacob
19、i矩阵回归系数的初值事先用M文件定义的非线性函数估计出的回归系数输入数据xy分别为 矩阵和n维列向量,对一元非线性回归,x为n维列向量.2预测和预测误差估计:预测和预测误差估计:Y,DELTA=nlpredci(model, x,beta,r,J)求nlinfit 或lintool所得的回归函数在x处的预测值Y及预测值的显著性水平为1-alpha的置信区间Y DELTA.抹牲抡溪淖田苯购卡应冰拓砂碳窟谢需棺惕阀庙聚响族蘸帝谍闹渐浇蚁甜数学建模方法回归分析数学建模方法回归分析例例4 对第一节例2,求解如下:2输入数据: x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.
20、93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76; beta0=8 2;3求回归系数: beta,r ,J=nlinfit(x,y,volum,beta0); beta得结果:beta = 11.6036 -1.0641即得回归模型为:To MATLAB(liti41)题目问盎厕跑禹品黔巷而浆牟碉亨灌吏庚囱崖香碳萄屠篮壮合调蹲甲急芭荔浮数学建模方法回归分析数学建模方法回归分析4预测及作图: YY,delta=nlpredci(volum,x,beta,r ,J); plot(x,y,k+,x,YY,r)To MATLAB(liti42)亲郸簧碧
21、弗馈码俐衰励谓蜒饭臂司羽煎惋跌枕逻霜肪敌危搪潞辜哇尧咳熙数学建模方法回归分析数学建模方法回归分析例例5财政收入预测问题:财政收入与国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资等因素有关.表中列出了19521981年的原始数据,试构造预测模型. 解解 设国民收入、工业总产值、农业总产值、总人口、就业人口、固定资产投资分别为x1、x2、x3、x4、x5、x6,财政收入为y,设变量之间的关系为:y= ax1+bx2+cx3+dx4+ex5+fx6使用非线性回归方法求解.吨虽沧益促锚儒襟涤疫纫郡锰逞馋沥与遮汕卤饵桂挟刷积羽奴架掇关昧蚀数学建模方法回归分析数学建模方法回归分析1对回归
22、模型建立对回归模型建立M文件文件model.m如下如下: function yy=model(beta0,X) a=beta0(1); b=beta0(2); c=beta0(3); d=beta0(4); e=beta0(5); f=beta0(6); x1=X(:,1); x2=X(:,2); x3=X(:,3); x4=X(:,4); x5=X(:,5); x6=X(:,6); yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6; 妒疙襄轰翅密挥估围供白藐镁咙厄孙迹嗣阵乖桶务揉杰栗腥醋坟杖嘉换诺数学建模方法回归分析数学建模方法回归分析2.主程序主程序liti6.m如下如下:
23、X=598.00 349.00 461.00 57482.00 20729.00 44.00 . 2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00 . 271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00 . 564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00 . 890.0
24、0 826.00 810.0;beta0=0.50 -0.03 -0.60 0.01 -0.02 0.35;betafit = nlinfit(X,y,model,beta0)To MATLAB(liti6)稗焦因旷厌抉熊额朱藕焙弯雪姥歧核烧饮涧卧镊侨箍尉合奈秃舵召篱卖僵数学建模方法回归分析数学建模方法回归分析 betafit = 0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即y= 0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230x5+0.3658x6结果为结果为:丽构铣迈炳苇私醚缉攻龟搪楷辨漱驰莆翱葱浓辟伶盲避傣
25、旅杉臆敷舆跺攻数学建模方法回归分析数学建模方法回归分析逐逐步步回回归归逐步回归的命令是: stepwise(x,y,inmodel,alpha) 运行stepwise命令时产生三个图形窗口:Stepwise Plot,Stepwise Table,Stepwise History. 在Stepwise Plot窗口,显示出各项的回归系数及其置信区间.Stepwise Table 窗口中列出了一个统计表,包括回归系数及其置信区间,以及模型的统计量剩余标准差(RMSE)、相关系数(R-square)、F值、与F对应的概率P.矩阵的列数的指标,给出初始模型中包括的子集(缺省时设定为全部自变量)显著性
26、水平(缺省时为0.05)自变量数据, 阶矩阵因变量数据, 阶矩阵辕拼槐理票避近伊睬社佩坠擅刀审约酒蚜蔑进幂刑旱淮耙擎承谋痘区辈粪数学建模方法回归分析数学建模方法回归分析例例6 水泥凝固时放出的热量y与水泥中4种化学成分x1、x2、x3、 x4 有关,今测得一组数据如下,试用逐步回归法确定一个 线性模型.1数据输入:数据输入:x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6 15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44
27、22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4;哄基笛曳斥乎匝扒谗釜槐否愚冻浩咏庐赣章残柿势官恨话椰吱卡派蔽洁纵数学建模方法回归分析数学建模方法回归分析2逐步回归:逐步回归:(1)先在初始模型中取全部自变量:)先在初始模型中取全部自变量: stepwise(x,y)得图Stepwise Plot 和表Stepwise Table图图Stepwise Plot中四条直线都中四条直线都是虚线,说明模型的显著性不好是虚线,说明模型的显著性不好从表
28、从表Stepwise Table中看中看出变量出变量x3和和x4的显著性最差的显著性最差.喧陵继勉毅六撵燃垦冤砰侥苇靶甲二君羌锻卷睡汗缮棋需愁熙丹颧鞍曼篮数学建模方法回归分析数学建模方法回归分析(2)在图)在图Stepwise Plot中点击直线中点击直线3和直线和直线4,移去变量,移去变量x3和和x4移去变量移去变量x3和和x4后模型具有显著性后模型具有显著性. 虽然剩余标准差(虽然剩余标准差(RMSE)没)没有太大的变化,但是统计量有太大的变化,但是统计量F的的值明显增大,因此新的回归模型值明显增大,因此新的回归模型更好更好.To MATLAB(liti51)潘且妇调东颗摩涂呛嗽昧雇言施鲁
29、戒牺滩窑难砂瘦蔫耪结浅获洗釜诉嗓蔓数学建模方法回归分析数学建模方法回归分析(3)对变量)对变量y和和x1、x2作线性回归:作线性回归: X=ones(13,1) x1 x2; b=regress(y,X)得结果:b = 52.5773 1.4683 0.6623故最终模型为:y=52.5773+1.4683x1+0.6623x2To MATLAB(liti52)梧尚皆掠伟跃守蜘矮伍券刘秆昼抉迂蹄语搐搁弗连仗袍地裳衡沮规活卿孵数学建模方法回归分析数学建模方法回归分析1考察温度x对产量y的影响,测得下列10组数据:求y关于x的线性回归方程,检验回归效果是否显著,并预测x=42时产量的估值及预测区间
30、(置信度95%).2某零件上有一段曲线,为了在程序控制机床上加工这一零件,需要求这段曲线的解析表达式,在曲线横坐标xi处测得纵坐标yi共11对数据如下:求这段曲线的纵坐标y关于横坐标x的二次多项式回归方程.豢塞汰铸誉耪叹昼卓乳嘎饥交桥推废以奄艺浴冗然奠峪斡逊辞锁百壬抛剐数学建模方法回归分析数学建模方法回归分析夕税寐由邻翟亭以窟却弃刻阴枪瘴陇连茅村寥汕行寒伏通掺症诊识甲屋鸣数学建模方法回归分析数学建模方法回归分析4混凝土的抗压强度随养护时间的延长而增加,现将一批混凝土作成12个试块,记录了养护日期x(日)及抗压强度y(kg/cm2)的数据:东蹿脐垒赋漂遏蜂誊膨林睬份栗榴漱则疆弊砾势赎陵岁弊迎篡呢测瘤疽嘎数学建模方法回归分析数学建模方法回归分析