第3章 函数逼近与曲线拟合,函数逼近的基本概念 正交多项式—Lagrange and Chebyshev 最佳一致逼近多项式 最佳平方逼近多项式 曲线拟和的最小二乘法,本章基本内容,本章继续讨论用简单函数近似代替较复杂函 数的问题.上章提到的插值就是近似代替的方 法之一,插值的近似标准是在插值点处误差为 零. 但在实际应用中,有时不要求具体某些点 误差为零,而要求考虑整体的误差限制 ,这就 引出了拟合和逼近的概念.,拟合与逼近,,对函数类A中给定的函数 f(x),记作f(x)∈A, 要求在另一类简单的便于计算的函数类 B 中求函数 p(x)∈B ,使 p(x)与 f(x)的误差在 某种意义下最小.函数类A通常是区间[a, b] 上的连续函数,记作C[a, b],称为函数逼近空 间;而函数B通常为n次多项式,有理函数或分 段低次多项式等.,什么是函数逼近,,数学上常把在各种集合中引入某一些不同的确 定关系称为集合以某种空间结构赋予，并将这 样的集合称为空间例1、按向量的加法和数乘构成实数域 上的线性空间---,例2、对次数不超过 n 的实系数多项式，按 加法和数乘构成数域上的多项式线性 空间----,,例3、所有定义在 [a,b] 集合上的连续函数 全体，按函数的加法和数乘构成连续函数 空间----,1)线性无关 设集合S是数域P上的线性空间,元素x1,x2,…,xn∈S,如果存在不全为零的数a1,a2,…,an∈P,使得,,3.1 函数逼近的基本概念,,则称x1,x2,…,xn线性相关.,2)范数的定义,设S为线性空间,x∈S,若存在唯一实数 满足条件： (1)‖x‖≥0;当且仅当x＝0时,‖x‖＝0; (正定性) (2)‖αx‖＝|α|‖x‖,α∈R; (齐次性) (3)‖x＋y‖≤‖x‖＋‖y‖,x,y∈S. (三角不等式) 则称 为线性空间S上的范数, S与 一起称为赋范线性空间,记为X.,在Rn上的向量 x＝(x1,x2,…,xn)T∈Rn, 三种常用 范数为称为：,,,,3)几种常用范数,,,,,,类似的对连续函数空间C[a, b], 若f∈C[a,b] 可定义以下三种常用函数的范数,,设X为一个内积空间,对 u,v∈X有,称为柯西－施瓦次不等式 .,柯西－施瓦次不等式,魏尔斯特拉斯定理 设f(x)∈C[a, b],则对任何ε＞0,总存在一个代数多项式p(x),使,在[a, b]上一致成立 。
定理：设X为一个内积空间,u1,u2,…,un∈X,矩阵,称为格拉姆矩阵,则G非奇异的充分必要条件是u1,u2,…,un线性无关 记区间[a,b]上所有连续函数的全体为C[a,b], 可以证明C[a,b]是一个线性空间,把所有次数不超 过n的多项式全体记为Pn,则 Pn是C[a,b]的子空间. 若(x),g(x)C[a,b],,则称,为(x)与g(x)的内积,记为(,g),,函数的内积,满足,(1)(,g)=(g,);,若(,g)=0,称(x)与g(x)正交 ,记为g .,(2)(c,g)=c(,g);,(3)(1+2,g)=(1,g)+(2,g);,利用内积可以定义函数的平方模,,(1) 20,而且2=0(x)=0;,(2) c2=|c|2;,(3) +g22+g2,(4) (,g)2 g2,函数的平方模满足,,考虑到(x)在区间[a,b]上各点的函数值比重不同, 常引进加权形式的定义,这里函数(x)是非负连续函数,称为[a,b]上的权函数. 它的物理意义可以解释为密度函数.,权函数,3.2 正交多项式,1) 正交的定义 若f(x),g(x)∈C[a,b],ρ(x)为[a,b]上的权函数且满足,,则称f(x)与g(x)在[a,b]上带权正交.,若函数族,满足关系,则称,是[a, b]上带权 ρ(x)正交函数族 ；,若,则称之为标准正交函数族。
设 是[a, b]上首相系数an≠0的n次多 项式, ρ(x)为[a,b]上的权函数,如果多项式序列 满足关系式(2),则称多项式序 为在[a,b]上带权ρ(x)正交,称 为[a, b]上带 权的 n 次正交多项式.,,例如、 三角函数系：1，cosx，sinx，cos2x，sin2x，…是 区间［-π，π］上的正交函数系，因为,实际上，这就是付里叶(Fourier)逼近的基函数.,2)如何构造正交多项式,只要给定区间[a, b]及权函数,均可由一组线性无关的幂函数{1,x,…, xn,…},利用逐个正交化手法构造出正交多项式序列 如此得到的正交多项式有如下性质： (1) 是具有最高次项系数为1的n次多项式,,,,,,,(2)任何n次多项式Pn(x)∈Hn均可表示为 的线性组合. (3)当k≠j时, 与任一次数小于k的多项式正交.,,,,,,,(4)成立递推关系,,,,,,,(5)设 是在[a, b]上带权ρ(x)的正交多项式序列, 则 (n≥1)的n个根都是在区间(a, b)内的单重实根.,,,,,,,,,,,,例题：利用 Gram-schmidt 方法构造 [0,1] 上带权 的前3个正交多项式,解：利用正交化公式来求,,,,,,,,,,,,,于是,于是,3）几种常用的正交多项式,勒让德多项式 当区间[-1,1],权函数ρ(x) ≡1时,由{1,x,…,xn,…}正交化得到的多项式就称为勒让德多项式,并用P0(x),P1(x),…,Pn(x),…表示. 其简单的表达式为 最高项系数为1的勒让德多项式为,,,,勒让德多项式的性质,,,,(2)奇偶性,(3)递推关系,(1)正交性,,且有以下常用公式,(4),在区间[-1,1]内有n个不同的实零点。
时,由序列{1,x,…,xn,…}正交化得到的多项式就是切比雪夫多项式,它可表示为 Tn(x)=cos(n arccosx), | x |≤1 若令x＝cosθ，则Tn(x)=cos nθ， 0≤θ≤π.,,切比雪夫多项式,区间为[-1,1],当权函数,(1)递推关系,,切比雪夫多项式的性质,(2)切比雪夫多项式{Tk(x)}在区间[-1,1]上带权 正交且 (3) T2k(x)只含x的偶次幂,T2k+1(x)只含x的奇次幂.,,,,(4) Tn(x)在区间[-1,1]上有n个零点,,,,若将xn用T0(x),T1(x), …,Tn(x)的线性组合表 示,则其公式为,3.3 最佳一致逼近多项式,最佳一致逼近多项式 是讨论 f∈C[a, b],在Hn=span{1,x,…xn}中求多项式 , 使其误差 这就是通常所指的最佳一致逼近或切比雪夫逼近问题.,,,,,为f(x)与Pn (x)在[a, b]上的偏差 . 显然 , 的全体组成一个集 合,记为{ },它有下界0.,,,,,,偏差,为了说明这一概念,先给出以下定义.,设Pn(x)∈Hn,f(x)∈C[a, b],称,若记集合的下确界为 则称之为f(x)在[a, b]上的最小偏差 . 最佳逼近多项式 假定f(x)∈C[a, b],若存在Pn*(x)∈Hn使 (f, Pn*(x))＝En,,,,,,,,,则称Pn*(x)是f(x)在[a, b]上的最佳一致逼近 多项式或最小偏差逼近多项式。
注意,定义并未说明最佳逼近多项式是否 存在,但可以证明下面的存在定理. 定理 ： 若f(x)∈C[a, b],则总存在Pn*(x)使,,,,,,,,其中,偏差点定义 设f(x)∈C[a, b]，P(x)∈Hn，若在x＝x0有,,,就称x0是P(x)对f(x)的偏差点.,若 称x0为“正”偏差点,若 称x0为“负”偏差点.,,为了研究最佳逼近多项式的特性，先引进偏差 点的定义.,由于函数P(x)－f(x)在[a, b]上连续,因此,至少存在一个点x0∈[a, b]使,,,也就是说P(x)的偏差点总是存在的下面给出反映最佳逼近多项式特征的切比雪夫定理.,切比雪夫定理,Pn(x)∈Hn是f(x)∈C[a, b]的最佳逼近多项式 的充分必要条件是P(x)在[a, b]上至少有n+2 个轮流为“正”，“负”的偏差点，即有n+2个点 a≤x1＜x2＜.＜xn+2≤b，使,这样的点组称为切比雪夫交错点组 . 切比雪夫定理说明用P(x)逼近f(x)的误差曲线y＝P(x)－f(x)是均匀分布的由这个定理还可得以下重要推论. 推论 若f(x)∈C[a, b]，则在Hn中存在唯一的最佳逼近多项式 利用切比雪夫定理可直接得到切比雪夫多项式Tn(x)的一个重要性质，即,,,定理 在区间[-1,1]上所有最高次项系数为1的n次多项式中,,,,,即可以理解为,与零的偏差等于最小当且仅当,与零的偏差最小，其偏差为,最佳一次逼近多项式,切比雪夫定理 给出了最佳逼近多项式P(x)的特性,但要求出P(x)却相当困难. 下面讨论n=1的情形. 假定f(x)∈C2[a, b]. 且f“(x)在(a,b)内不变号，我们要求最佳一次逼近多项式 P1(x)=a0 + a1x 至少有3个点a≤x1＜x2＜x3≤b，使,,,,,,由于 在[a, b]上不变号,故 单调, 在(a, b)内只有一个零点,记为x2,于是,,,,,,于是,即,,另外两个偏差点必定是区间的端点,由此得到,代入到(2)得,这就得到最佳一次逼近多项式P1(x)，其方程为,有（1）式得,有（1）式得,例1、设,不超过2的多项式,使它为,的最佳一致逼近多项式。
试在 [-1，1] 上寻找一个次数,在 [-1，1] 上,应满足,由最小偏差定理,解：所求,的首项系数为 4,,从而,,例2、设,m , M 是,在,上的 min , max 值 ， 则,的零次最佳一致逼近多项式为,，,证明：,的连续性知,使得,令,则,由,，,即,故,是,与,的偏差点，从而由 chebyshev 定理知,即当,时,逼近多项式为,的零次最佳一致,例3、求,在 [0，1] 上求三次最佳逼近多项式则当,在 [0,1] 变化时,此时,设,为,,,解：令,在 [0,1] 上的三次最佳一致逼近多项式由于,9. 设,的首相系数为,故有,即,,,3.4 最佳平方逼近,最佳平方逼近及其算法 考虑在区间[a,b]上一般的最佳平方逼近问题时对f(x)∈C[a,b]及C[a,b]中的一个子集 若存在,,,使下式成立,则称 是f(x)在子集 中的最佳平方逼近函数. 为了求 , 由(1)可知该问题等价于求多元函数 的最小值.由于 是关于 的二次函数,,,,,,利用多元函数求极值的必要条件,,,,,,,,,,,即,于是有,是关于 的线性方程组,称为法方程,,由于,线性无关，故系数矩阵的行列式非奇异，即,于是方程组(1)有唯一解,从而有,以下证明,必定满足最佳平方逼近的定义,即,但我们只需证明,作,即上式第二项积分为零。
于是可得,,即得,必定是所求函数的最佳平方多项式则要在Hn中求n次最佳平方逼近多项式,此时,若取,若用H表示,,,,,,,对应的矩阵,即,即,若用{1,x,…,xn}做基求最佳平方多项式, 计算简单，但当n较大时, 系数矩阵H是病态的,因此直接求解法方程是相当困难的,故通常是采用正交多项式做基底构造最佳平方多项式则称H为希尔伯特(Hilbert)矩阵,若记向量,则,用正。