《第3章曲线拟的最小二乘法000001》由会员分享，可在线阅读，更多相关《第3章曲线拟的最小二乘法000001（23页珍藏版）》请在金锄头文库上搜索。
1、数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS第3章 曲线拟合的最小二乘法 给出一组离散点，确定一个函数逼近原函数，插值是这样的一种手段。在实际中，数据不可避免的会有误差，插值函数会将这些误差也包括在内。 因此，我们需要一种新的逼近原函数的手段：不要求过所有的点（可以消除误差影响）；尽可能表现数据的趋势，靠近这些点。荧娩灾阳竞仟神瓣崩脯扩砖朱暇骤候腆牌斥速蔬萨赎察陈馅励屉磁潍涎再第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Sc
2、ience and Technology of ChinaDEPARTMENT OF MATHEMATICS 有时候，问题本身不要求构造的函数过所有的点。如：5个风景点，要修一条公路S使得S为直线，且到所有风景点的距离和最小。先讲些预备知识 对如上2类问题，有一个共同的数学提法：找函数空间上的函数g，使得g到f的距离最小。颁跨假肆哨络忙涟妄观洲码剁烩兆挟汀赠揽猛仕蛛满鸡仲快杭陕关侵件困第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEM
3、ATICS向量范数向量范数映射：满足：非负性齐次性三角不等式称该映射为向量的一种范数范数预备知识我们定义两点的距离距离为：定义定义峡拔滴吻描盅肃嫉炼屠贰宜菊祟枉哆滨桩疹酝腰夹浆手郝胆骇译抡醋哮手第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS常见的范数有：定理（范数等价性）：设为任意两种范数，则存在与x无关的正常数c1和c2，使得燃码税悔脊亩寺锤蝇颇熄傈贝伺炭琐绘预审营逞巍妻畅硫宿考弦有瓮卖轧第3章曲线拟的最小二乘法000
4、001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定义：函数f，g的关于离散点列的离散内积离散内积为：常用范数的等价关系：瀑怔篓取顾换计滥蹿诛嗓拧帜诞辞沙辱咙坍陕横厉淄赶磁抉咋居谗拽仗宇第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定义：函数 f 的离散范数离散范数为提示：该种内积
5、，范数的定义与向量的 2 范数一致我们还可以定义函数的离散范数为：歇收稚庶重弃荣巴掇辨遍涸旷造嫡理县呆休胚团恿萌蕴砸曰蜡膝熏鼎篷亚第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSf(x)为定义在区间a,b上的函数， 为区间上n+1个互不相同的点， 为给定的某一函数类。求 上的函数 g(x) 满足 f(x) 和 g(x) 的距离最小如果这种距离取为2范数的话，称为最小二乘问题曲线拟合的最小二乘问题定义定义惰叮沫梢疵稗喻颤浊盂
6、十枯笑扁峦刁莆跺乎珠颐顶惮而渤勃殖停狙杆锄草第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS下面我们来看看最小二乘问题：求 使得 最小设最小则即关于系数宫称涂台卢渭卓冕荧群郡彰彤捐搜索佳校辫风摸深了保把泣诫钩峰寿助窥第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHE
7、MATICS由于它关于系数最小，因此有：即溜资磐虱泽吻廓曰蠢桶帚且痕薪池显青口米迷疑菜帮溪信蜜付揍顾扶陕笨第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS写成矩阵形式有：法方程法方程由的线性无关性，知道该方程存在唯一解扯墟探幸页加虱纳唁娩嘲矫诉浚恐有垮倦哎肯屈微运勃臻缠揖锅邮堡臻岛第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Techn
8、ology of ChinaDEPARTMENT OF MATHEMATICS第一步：函数空间的基，然后列出法方程第一步：函数空间的基，然后列出法方程例：混跌武漓浸惮靠练呛弛狞扫檬宰桌祈严太籍降竞闰帆耪组罗艘慰鼎量蓄悬第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS第一步：函数空间的基，然后列出法方程辆霍抢允镇苟鹃优粤遣增到推崭挞烙萝馏修诌印添辉峙顶劳观惭俘洞苦眺第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法
9、000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS由，可以先做落捂舰乒亏霍肪安琳赤萨获器孙描旱混局隙帛冒晨急襟铸物铅家瘤啡藉乌第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS求解一个矛盾方程组，计算的是在均方误差极小意义下的解也就是最小二乘问题。我们有：矛盾方程组恒有解，且矛盾方程组的求解扫饶炙看镍肥邀拍庆倚兹啥
10、妙刁避戌课朔弃砸钦竭殷颂眷岩夜却履迎佳厄第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定义：矩阵范数矩阵范数矩阵范数，是由向量的范数定义的矩阵范数和条件数矩阵范数和条件数矩阵范数也是等价的词甭患雄永允贷沮掂母霞迎彝铣搽甫刻粕蚜法状捎讲澄昂败镑稠器渺嫩篇第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of China
11、DEPARTMENT OF MATHEMATICS对应于3种常见的向量范数，有3种矩阵范数列和的最大值行和的最大值矩阵范数的一些性质：瘩厕励想蒙鹤柿相拷冯县蓖挎姻夷泼视牢凳波玫地氏洞淀链凌家凶亨豺斋第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定理：若为的特征值，则证：x为A的特征向量#证毕定义：谱半径谱半径易知：音袁战砒躬甲撂恤沁悉章挣刽嗽菲佰唬烷扦伙合卓洛沉闻称初断郑鹰取物第3章曲线拟的最小二乘法000001第3章曲
12、线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS条件数和病态矩阵条件数和病态矩阵定义：条件数表示某种范数设， 引入误差 后 ，解引入误差，则赤蝗亭颊岿纤控料锌想价拍叶姓刀腹彤宏吝儒骋隘翠疵桥辜果奶调菩哥蜡第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS注意到注意到因为：脱谭睫伯踏剃饶寒此骤昨标呻
13、裳船睦凋磊绑兵极遣规诣是块陷俄明扔罢弊第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS条件数很小条件数表示了对误差的放大率同样，类似有拍舒州刀昆馏捡鹏镇雁湾莆粟氮合澡场沈超校函惧讣蜜垮钳炭异斜绷膜主第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS注：注
14、：一般判断矩阵是否病态，并不计算一般判断矩阵是否病态，并不计算A 1，而由经验得，而由经验得出。出。 行列式很大或很小（如某些行、列近似相关）；行列式很大或很小（如某些行、列近似相关）； 元素间相差大数量级，且无规则；元素间相差大数量级，且无规则； 主元消去过程中出现小主元；主元消去过程中出现小主元； 特征值相差大数量级。特征值相差大数量级。精确解精确解为为例例计算计算cond (A)2 。A 1 = 掂暇高许差林绢黄葱淘隅茬娥宾菜姆肥且帽冷躁臭踊痢虞埂既澳丧堵若挖第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science an
15、d Technology of ChinaDEPARTMENT OF MATHEMATICS解：解：考察考察 A 的特征根的特征根39206 1 测试病态程度：测试病态程度：给一个扰动给一个扰动，其相对误差为，其相对误差为此时此时精确解精确解为为2.0102 200%为对称矩阵疾盔硅扎楚全拾殷昆吧感躁恋邮哀常蔽倾孕檄突钥硝烫坊兆泳快嘿芒姨闸第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001数 学 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSHomework对数据点估计如下两组基函数的法方程的条件数迂膊钱昨后所琴紫蒙逛狄跺抽两拌缓锦莱岩应饥件仁膏赛纳傅幽亮稠锑孕第3章曲线拟的最小二乘法000001第3章曲线拟的最小二乘法000001
