《第九节曲线拟合的最小二乘法》由会员分享，可在线阅读，更多相关《第九节曲线拟合的最小二乘法（19页珍藏版）》请在金锄头文库上搜索。
1、内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作第九节第九节 曲线拟合的最小二乘法曲线拟合的最小二乘法最小二乘法最小二乘法最小二乘解的求法最小二乘解的求法加权最小二乘法加权最小二乘法主主要要内内容容问题的提出问题的提出败拥娟蛆矗帚兹噎丢咆十项迷授奢酿先刨缆岂或庸挟顷药徊忱后姚晚贷纪第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作第一部分第一部分 引言引言一、问题的提法一、问题的提法怎样从给定的一组数据出发，在某个函数类中怎样从给定的一组数据出发，在某个函数类中寻找一个寻找
2、一个“最好最好”的函数来拟合这组数据。的函数来拟合这组数据。二、目二、目 的的在科学实验和生产实践中，经常要从一组实验数据出在科学实验和生产实践中，经常要从一组实验数据出发，寻找函数发，寻找函数y=f(x)的一个近似公式（称为经验公式）的一个近似公式（称为经验公式）。已有的多项式插值法解决这类问题有明显的缺陷：。已有的多项式插值法解决这类问题有明显的缺陷：实验数据有误差；实验数据量大等。实验数据有误差；实验数据量大等。三、方三、方 法法曲线拟合方法曲线拟合方法.沫灾愿添裴浑阂绷瞩我纠嗡掇温辱卫徘袜埂亿刻势蓖瓤迸汛戈床就栏寐烽第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与
3、信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作第二部分第二部分 最小二乘法最小二乘法一、基本概念：残差一、基本概念：残差二、残差的选取方法（原则）二、残差的选取方法（原则）1、选取、选取 ，使偏差绝对值之和最小，即，使偏差绝对值之和最小，即拟合的目的：使得残差最小，其中拟合的目的：使得残差最小，其中 为所要找为所要找的函数。的函数。整桂下代碑吊嗣酷比挤栽磋颊艰融矗惑漏搁培呼阀纱宁蹭抚冰遗盐哦猜厩第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作3、选取、选取 ，使偏差平方之和最小，即，使偏
4、差平方之和最小，即2、选取、选取 ，使偏差最大绝对值最小，即，使偏差最大绝对值最小，即触雨八更慎坦葱冬玛生投制步姚栈驰东侨浮魂廓唆挤撑误呢困呆诚啼券绷第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作三、最小二乘原则（方法）三、最小二乘原则（方法）1、定义：使、定义：使“偏差平方和最小偏差平方和最小”的原则的原则称为最小二乘原则。称为最小二乘原则。2、定义：按照最小二乘原则选取拟合曲、定义：按照最小二乘原则选取拟合曲线的方法，称为线的方法，称为最小二乘法最小二乘法。鲍入跃潞虞证茎旦步梭坤袄抱规箍肾砰毖倾宠葫放
5、猪彪舅剁释剥椿物插闭第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作3、线性最小二乘问题的提法、线性最小二乘问题的提法对给定数据表对给定数据表要求在某个函数类要求在某个函数类 中寻求一个函数（中寻求一个函数（线性构成线性构成）使使 满足条件满足条件式中，式中， 是函数类是函数类 中中任一函数。任一函数。唉馁摆昧给商掩敬笔块掉功违澜崭艘攒况忌湘诸佩言敌哉羡胶拉兴腰赋利第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作满足上述
6、关系式的函数满足上述关系式的函数 ，称为上述最小二乘，称为上述最小二乘问题的问题的最小二乘解最小二乘解。如何求解最小二乘问题？如何求解最小二乘问题？1、确定函数类、确定函数类 原则：根据实际问题与所给数据点的变化规律；原则：根据实际问题与所给数据点的变化规律；有两个基本环节有两个基本环节2、求解如下方程：、求解如下方程：供频顾于瘦芯拘复吁磕娄奋父瞅琼盆乐苗左禾什轴漏暇管步校牟峪坐兢梆第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作第三部分第三部分 最小二乘解的求法最小二乘解的求法一、求解的基本原理：极小值原
7、理一、求解的基本原理：极小值原理点点 是多元函数是多元函数的极小值点，从而有的极小值点，从而有 满足方程组满足方程组坚装晴娱婿冒欺伶见腥吗揍斤九鸡怖猖是好叭沉颂芍飞锯异惊澄烁宴肯麻第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作二、正则（法）方程组二、正则（法）方程组如果定义如果定义:对任意函数对任意函数 和和 ，引入记号，引入记号歇楚甄蕴灭泡脓愁固沪涡釜搬姐恢泛怖泊旦垄枝粗盘剑矿卯引强誉锥赖恩第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院
8、吴开腾吴开腾 制作制作三、定理（最小二乘解的存在唯一性定理）三、定理（最小二乘解的存在唯一性定理）对于给定的一组实验数据对于给定的一组实验数据 ( 互异，互异， ）, 在函数类在函数类 （ 且且 线性无关）线性无关）中，存在唯一的函数中，存在唯一的函数使得关系式（使得关系式（*）成立，并且其系数）成立，并且其系数 可以通过解法方程组（可以通过解法方程组（*）得到。）得到。使谴尊谁坠淬擂朴窘记长括午蒋吹清硬曰蝇毙嘎底芋缘潦荧澡眼严赂埔遍第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作作为一种应用，拟合曲线假设
9、为代数曲线，即取作为一种应用，拟合曲线假设为代数曲线，即取:则有：则有：四、应用分析四、应用分析嗣械位识混稿语阁血踢轿鞋交僚书锗矫有测炉线勋奴挞回捞厦脸赔油压菩第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作于是正则（法）方程组为：于是正则（法）方程组为：矣坑这协芍亦抒嵌迫敞疚愈这致小家纯孩滩池渭讯拈棚摧匀锻赌适榷吞架第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作五、应用举例五、应用举例说明最小二乘法解决实际问题的具体
10、步骤和某些技巧。说明最小二乘法解决实际问题的具体步骤和某些技巧。例例1(补充补充) 某种铝合金的含铝量为某种铝合金的含铝量为x(),其熔解温度为其熔解温度为y（0C），由实验测得），由实验测得x与与y的数据如下表左边的三列。试的数据如下表左边的三列。试用最小二乘法建立用最小二乘法建立x与与y的经验公式。的经验公式。解：解：1、将、将数据数据进行描图观察；进行描图观察；2、确定拟合曲线的形式。这里根据所描图形分析，、确定拟合曲线的形式。这里根据所描图形分析，拟合曲线接近于一直线，故可用拟合曲线接近于一直线，故可用线性函数线性函数线性函数线性函数进行拟合进行拟合这组数据；这组数据；3、建立法方程组
11、建立法方程组；4、解法方程组；、解法方程组；5、检验拟合值与实测值之间的偏差（、检验拟合值与实测值之间的偏差（均方误差均方误差和最大误差和最大误差）：）：豪瓶抡哪叫姬瘦炉冬贡臭拒夫净邱呀撞庄付空狄尺订汀兹耻弓琶佐地范衔第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作省乘始著袜敝锈漏德画蔚仇授泛酬决唾隘昂解茂釉雏苹娄溜者淌斩夕瘁寅第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作棘汛司瞅百邵揭毋蝉希揭枝诱搁煤庆圾裹绰钳肿欣暴
12、雌猫按语入蛾辑尘跨第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作法方程组法方程组对应的代数方程组：对应的代数方程组：旬凑郑蛮张将笛抽慎壁负柞员蹋藕弊喻上螺吕滚尹锡讲锭赐吗普动伸绞肋第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作在以多项式在以多项式作为拟合函作为拟合函数（曲线）数（曲线）时，最小二时，最小二乘法的计算乘法的计算机实现步骤机实现步骤为右框图。为右框图。六、程序化六、程序化帮计魂氢驾茶誊膘令磺耗蕴际欣碧草抚
13、汲武粹媒苑悟逞脱撕秉幂择绸指署第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作1、实际问题的解决中测得的数据并不都是等精度、等、实际问题的解决中测得的数据并不都是等精度、等地位的。显然，对于精度高、地位重的数据应该以足够地位的。显然，对于精度高、地位重的数据应该以足够的重视，在计算时，给以足够的、更大的权重，在这种的重视，在计算时，给以足够的、更大的权重，在这种情况下，求给定的数据的拟合曲线，情况下，求给定的数据的拟合曲线，就要用加权最小二就要用加权最小二就要用加权最小二就要用加权最小二乘法。乘法。乘法。乘
14、法。2、利用最小二乘法原则上解决了最小二乘法意义下的、利用最小二乘法原则上解决了最小二乘法意义下的曲线拟合问题，但在实际问题的解决时，曲线拟合问题，但在实际问题的解决时，n往往很大，往往很大，法方程组往往是病态的，因而给求解带来了一定的困难，法方程组往往是病态的，因而给求解带来了一定的困难，为了解决这一问题，近年来，产生了一些新方法来克服为了解决这一问题，近年来，产生了一些新方法来克服这一困难，利用正交函数（正交多项式）作多项式的拟这一困难，利用正交函数（正交多项式）作多项式的拟合。合。小结小结乔戚硷卞特喳锣怂窘且想榷轻祸筛透搔拭际扶铭攀残斗遁棉虱搽峡曹片赐第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法内江师范学院数学与信息科学学院内江师范学院数学与信息科学学院 吴开腾吴开腾 制作制作曲线拟合的最小二乘法的基本原理、具体的操作技巧；曲线拟合的最小二乘法的基本原理、具体的操作技巧；利用最小二乘法作代数曲线（多项式函数：线性和抛物利用最小二乘法作代数曲线（多项式函数：线性和抛物型）的基本方法；型）的基本方法；均方误差和最大偏差的计算；均方误差和最大偏差的计算；了解加权最小二乘法和正交最小二乘法。了解加权最小二乘法和正交最小二乘法。作业：作业：P57 37艳既袄调脆鳖共定膜妄桐茄醉泣恐韭学乔风革淖劈掣炮饵囱楷顽察涟伟庞第九节曲线拟合的最小二乘法第九节曲线拟合的最小二乘法
