《小波分析之函数逼近与曲线拟合》由会员分享，可在线阅读，更多相关《小波分析之函数逼近与曲线拟合（105页珍藏版）》请在金锄头文库上搜索。
1、函数逼近与曲线拟合,“函数逼近”基本思想： 用“简单函数” “近似” 一般，复杂函数。 插值的“近似性”要求即: 插值多项式与被逼近函数在节点处取相同值 “函数逼近”的“近似性”要求即: 用被逼近函数与逼近多项式之间的“距离”来衡量近似的效果。,“函数逼近” 问题提法,对a,b上的连续函数类Ca,b中的给定函数f(x)，在另一“简单”函数类-n次多项式函数类Hn中求函数p(x)，使p(x)与f(x)的误差在某种度量意义下最小。 p(x)与f(x)的误差的度量是逼近论的核心问题。,“函数逼近论” 研究内容,在一般线性空间上定义了线性空间的范数概念，然后推广到函数空间Ca,b上得到度量两个函数间距
2、离(差异)的多个范数。相应得到多个逼近概念和每一逼近概念下的最佳(误差最小)多项式的特征或求法。,线性空间, 设L是一个非空集合，K是实（或复）数域，并可 在其上定义“加法”，“数乘”运算，而且满足以下公理 加法交换律：x+y= y+x 加法结合律：(x+y)+z= x+(y+z) 存在零元：x+0=x 存在逆元：x+(-x)=0 数乘：1x=x a(bx)= (ab)x (a+b)x=ax+bx a(x+y)=ax+ay 则称L是数域K上的线性空间,距离空间定义,设X是非空集合，对于X中的任意两元素x与y，按某一法则都对应唯一的实数(x, y)，并满足以下三条公理： 1.非负性：(x, y)
3、 0,(x, y) =0当且仅当x=y; 2.对称性：(x, y) =(y, x)； 3.三角不等式；对任意的x, y, z (x, y) (x, z) + (z, y), 则称(x, y)为x与y间的距离（或度量），并称X是 以为距离的距离空间(或度量空间),记为(X, ),范数与赋范线性空间,设X是实(或复)线性空间，如果对于X中每 个元素x，按照一定的法则对应于实数|x|， 且满足： |x|0，|x|=0当且仅当x=0; |ax|=|a|x|，a是实(或复)数; |x+y|x| + |y|. 则称X是实(或复)赋范线性空间，|x|称为x的 范数.,内积空间,设X 是定义在实(或复)数域K
4、上的线性空 间，若对于X中 任意一对有序元素x,y, 恒对应 数域K的值(x, y)，且满足: (x, x) 0，且(x, x)=0的充要条件是x=0; (ax, y) = a(x, y); (x+y, z) = (x, z) + (x, z). 则称X为内积空间，(x, y)称为x, y的内积. 正交: 若(x, y)=0,称x与y正交.,内积、范数、距离之间的关系,由每一内积可以导出一范数： 由每一范数可以导出一距离： 注：有的范数并没有导出它的内积。,n 维实(或复)Euclid空间Rn, 全体n 维实向量的集合 在向量加法、数乘下为n维线性空间. Rn且 为距离空间,赋范线性空间,内积
5、空间. Rn的内积为:,内积空间Ca,b,所有定义在 a,b 上的连续函数做成的集合 在函数加法、数乘下做成无穷维线性空间， 记为 Ca,b . Ca,b 上内积定义为:,Rn上的范数举例,Ex. Rn上范数： 对X=(x1， xn )Rn ， (1-范数)： (2-范数)： (-范数)：,Ca,b上的范数举例,Ex. Ca，b上范数：对 fCa，b， (1-范数)： (2-范数)： (-范数)：,绝对值与 Rn上范数的扩充关系,数a的绝对值(a离开原点0的距离)：a 数a与b的差异(距离)： a-b 向量A=(a1, a2,an)的范数(A离开0向量的距离) ：,Rn与Ca,b上范数的扩充关
6、系,向量范数： 函数范数：,内积空间的性质,定理(Cauchy-Schwarz不等式) 在内积 空间X上，任u,vX，有 证明 当 时，欲证不等式显然成立。当 时,因 故对任何实数 有 特别地,取 代入上式得：,内积空间的性质,即,内积空间的性质,定理 设 为内积空间， 格拉姆(Gram)矩阵 非奇异当且仅当 线性无关.,Th3的证明,证明 首先,Th3的证明,又,Th3的证明,故,Th3的证明,G非奇异当且仅当齐次方程组 只有零解,即 只有零解,即 只有零解,即 线性无关.,Rn带权内积的定义,满足 的实数组 称为权系数。 Rn上加权内积定义为： 相应的范数为,Ca.b带权内积的定义,a,b
7、上的非负函数 称为a,b上的权 函数，若满足： 存在且为有限值(k=0,1,). 对a,b上的非负连续函数 ，若 则,Ca.b带权内积的定义,Ca,b上带权 的内积和范数定义为：,Ca,b上线性无关函数簇的格拉姆矩阵判定定理,Ca,b上函数簇 线性无关的充要条件是其格拉姆矩阵G非奇 异。,正交函数簇,若函数簇 满足： 则称 是 上带 权 的正交函数簇.当 时,称为标准正 交函数簇.,由正交化过程生成正交多项式簇,正交化过程： 由1,x1, x2, ,xn,构造Ca,b上正交多 项式序列 的方法：,正交化过程,令 设 由 确定出,勒让德(Legendre)多项式,-1,1上权函数 时,由 正交化
8、得到的多项式 称为勒让德多项式。其解析表达式为：,勒让德多项式的性质,正交性： 奇偶性: 递推关系:,各类最佳逼近的一般提法,设 是某个子空间,对任 ，寻找 满足： 在不同的范数，不同的子空间 下形成了不同的最佳逼近.,最佳一致逼近多项式,对 ,满足： 的多项式 称为 在 上的最佳 一致逼近多项式。,最佳平方逼近多项式,对 满足： 的函数 称为 在 上的最佳平 方逼近函数.,各种最佳逼近提法的讨论,受范数、子空间 的限制，最佳逼近S*(x)与被逼近函数f(x)在范数下的距离(差异) 仍然可能很大，最佳的意义是指在 中, 最小.,各种最佳逼近提法的讨论,在任一范数、任一子空间 下都有最佳逼近概念
9、，一种最佳逼近实用和有意义不仅取决于和 ，而且取决于最佳逼近函数求法实用与否(以后从最佳一致逼近、最佳平方逼近可以看出，即使意义明确、实用，但最佳逼近函数求起来困难时也不实用)。,最佳一致逼近多项式的定性讨论,由于范数求起来困难，在一般情形下只 能得到对最佳一致逼近多项式的特征性描述， 而得不到其求法。,最佳一致逼近多项式的特征,设f(x)Ca,b, Pn(x) Hn，称 为f(x)与 Pn(x)在Ca,b上的偏差。称 为f(x)在Ca,b上的最小偏差。,最佳一致逼近多项式的特征,f(x)在Ca,b上的最佳一致逼近多项式Pn*(x)即为Hn中与被逼近函数f(x)的偏差达到f(x)在a,b上与H
10、n中多项式偏差的最小值。,最佳一致逼近多项式存在性定理,TH4 最佳一致逼近多项式恒存在。 偏差点定义(定义9) 满足： 的x0称为P(x)的偏差点。 若P(x0)f(x0)=，称x0为“正”偏差点； 若P(x0)f(x0)=-，称x0为“负”偏差点；,最佳一致逼近多项式存在性定理,根据“闭区间上的连续函数取得最大、最小 值”定理，P(x)在a,b上的偏差点总存在。 TH5 P(x)Hn是f(x)在a,b上的最佳一致逼近多项式当且仅当P(x)在a,b上至少有n+2个轮流为“正”、“负”的偏差点。,最佳一致逼近多项式的特征,证明 只证充分性。假设在a,b上P(x)有n+2个轮流为“正”、“负”的
11、偏差点x1，x2,xn+2。用反证法，设存在 使,TH5 证明(续),由于P(x)Q(x)= P(x)f(x)Q(x)f(x)， 在点x1，x2，xn+2上，P(x)Q(x)的符号 与P(x)f(x)的符号一致(由 按Q(x)f(x)与P(x)f(x)同号、异号分别讨论)。,TH5 证明(续),故P(x)Q(x)在点x1，x2，xn+2上轮流为正、负。由连续函数的性质， P(x)Q(x)在a,b上有n+1个零点，而P(x)Q(x)为不超过n次的多项式，矛盾，故假设不成立，故P(x)为最佳一致逼近多项式。,最佳一致逼近多项式的特征讨论,定理5对低次的n可以给出最佳一致逼近多项式的求法，但对高次的
12、n(n2)，得不出最佳一致逼近多项式的求法； 定理5说明当P(x)在至少n+2个点上交错地取得自己与f(x)的偏差值时，该值也正好是f(x)在a,b上的最小偏差，因而P(x)也正好为f(x)在a,b上的最佳一致逼近多项式；,最佳一致逼近多项式的特征讨论,定理5说明用最佳一致逼近多项式P(x)逼近f(x)时的误差曲线y=P(x)-f(x)是均匀分布的。,最佳平方逼近,满足： 的 称为 在 中的最佳平方逼近函数。,最佳平方逼近条件分析,最佳一致逼近即使限定只用多项式，最佳一致逼近多项式的求解仍很困难；而最佳平方逼近不限定用多项式，可以为ca,b的任一子空间 令最佳平方逼近函数 为,最佳平方逼近条件
13、分析,求最佳平方逼近函数 等价于（仅为必要 条件，充分性还需讨论）求如下多元函数 的极小值.,最佳平方逼近条件分析,由于函数 是关于 的二次函数，故利用多元函数极值的必要条 件,有：,最佳平方逼近条件分析,得到 满足的n+1个线性方程组成 的线性方程组。 解出 则得到可能的最佳平方逼 近函数 。,最佳平方逼近条件分析,即 即 或,即 其系数矩阵G为格拉姆矩阵。,最佳平方逼近条件分析,关于 的线性方程组(4.3)称为法 方程. 由于 线性无关， 故法方程的系数矩阵-格拉姆矩阵G非奇 异，法方程有唯一解,最佳平方逼近条件分析,以下再证明如上确定的 是 的最佳平方逼近函数，即对于任何,最佳平方逼近条
14、件分析,由于,最佳平方逼近条件分析,由干 的系数是方程组(4.3)的解，故,最佳平方逼近条件分析,从而， 证得 是 在 中的最佳平方逼近 函数.,最佳平方逼近结论,以上讨论给出了求 在 中的最佳平方逼近函数的求法： 令最佳平方逼近函数为 解关于待定组合系数 的法方程：,最佳平方逼近结论,即： 最后把解 代回 即为所求。,最佳平方逼近结论,最佳平方逼近的误差估计为：,最佳平方逼近多项式,当 时,最佳平方逼近多项式问题成为在Hn中求 满足：,最佳平方逼近多项式,这时，法方程为：,用正交多项式基底做最佳平方逼近,当n较大时,法方程 的系数矩阵(希尔伯特Hilbert)矩阵H是病态的，求解困难，转向采
15、用正交多项式基底求最佳平方逼近多项式。,用正交多项式基底做最佳平方逼近,为使问题更具一般性，以下讨论用正交函数簇做基底时的最佳平方逼近函数的求解问题。 当取正交函数簇 做基底时,用正交函数簇基底做最佳平方逼近,法方程 的系数矩阵成为对角矩阵,用正交函数簇基底做最佳平方逼近,法方程为: 解为：,用正交函数簇基底做最佳平方逼近,最佳平方逼近函数为：,用正交函数簇基底做最佳平方逼近,均方误差为：,用正交函数簇基底做最佳平方逼近,特别地,当 是 标准正交基时,有 故,用正交函数簇基底做最佳平方逼近,且均方误差成为：,勒让德正交多项式做最佳平方逼近,在 上用勒让德(正交)多项式做正交基 底时的最佳平方逼近,勒让德正交多项式做最佳平方逼近,TH9 在所有最高项系数为1的n次多项式
