《专题十--内积空间与希尔伯特空间(讲稿)》由会员分享，可在线阅读，更多相关《专题十--内积空间与希尔伯特空间(讲稿)（34页珍藏版）》请在金锄头文库上搜索。
1、专题十专题十 内积空间与希尔伯特内积空间与希尔伯特空间空间元素的长度（范数）元素的长度（范数）内积空间与内积空间与希尔伯特空间希尔伯特空间内积空间内积空间+ +完备性完备性希尔伯特空间希尔伯特空间欧氏空间欧氏空间线性空间线性空间+ +内积内积内积内积空间空间两向量夹角与正交两向量夹角与正交内积空间特点：内积空间特点：1内积与内积空间内积与内积空间一、内积空间与希尔伯特空间一、内积空间与希尔伯特空间的概念的概念内内积积公公理理定义定义1 设设H是数域是数域K上的线性空间上的线性空间，定义函数，定义函数 :H HK, 使对使对 对对 x,y,z H, K, 满足满足1)=+y, z)2)= 4)
2、0, 且且=0x=0则称则称 为数域为数域K中中x与与y的的内积内积, 而称定义了内积的空间而称定义了内积的空间H为为内积空间内积空间。注：注：1) 当当数域数域K为实数域时，称为实数域时，称H为实的内积空间；为实的内积空间； 当数域当数域K为复数域为复数域C时，则称时，则称H为复的内积空间。为复的内积空间。2) = + 3) =4) = 3) = + 2 由内积诱导的范数及由内积诱导的距离由内积诱导的范数及由内积诱导的距离定义定义2 (1)范数范数称为由内积诱导的范数。称为由内积诱导的范数。(2)距离函数距离函数称为由内积诱导的距离。称为由内积诱导的距离。注注: (1) 内内积与由内与由内积
3、诱导的范数的的范数的三角三角不等式关系不等式关系许瓦瓦兹不等式不等式 | |x| |y|(2) 内内积与由内与由内积诱导的范数的等式关系：的范数的等式关系： (3)由内由内积诱导的范数的范数满足范数公理足范数公理 内内积空空间按照由内按照由内积导出的范数，是出的范数，是线性性赋范范 空空间。但反之不然但反之不然3 线性赋范空间成为内积空间（范数是由内积导线性赋范空间成为内积空间（范数是由内积导出的范数）的充分必要条件出的范数）的充分必要条件定理定理1 线性赋范空间线性赋范空间X是内积空间是内积空间 x,y X, 有有 |x+y|2 + |x-y|2=2|x|2 + 2|y| ( (平行四边形公
4、式或中线公式平行四边形公式或中线公式) )定义定义3 设设H是内积空间，若是内积空间，若H按照由内积诱导的范数成按照由内积诱导的范数成为为Banach空间，则称空间，则称H是希尔伯特空间。是希尔伯特空间。4 4 希尔伯特空间希尔伯特空间例例1 n维欧氏空间维欧氏空间Rn按照内积按照内积是内积空间。是内积空间。Rn中中由内积导出的距离为由内积导出的距离为 Rn按照由内积导出的范数按照由内积导出的范数 因而是因而是HilbertHilbert空间。空间。是是BanachBanach空间，空间，例例2 l2空间按照内积空间按照内积是内积空间。是内积空间。l2按照由内积导出的范数按照由内积导出的范数
5、是是Banach空间，因而是空间，因而是Hilbert空间。空间。l2中由内积导出的距离为中由内积导出的距离为 ( (许瓦兹不等式许瓦兹不等式) )例例3 L2a,b空间按照内积空间按照内积是内积空间。是内积空间。L2a,b按照由内积导出的范数按照由内积导出的范数 是是Banach空间，因而是空间，因而是Hilbert空间。空间。L2a,b中由内积导出的距离为中由内积导出的距离为 Ca,b中范数不满足平行四边形公式，中范数不满足平行四边形公式，例例4 Ca,b按照范数按照范数是线性赋范空间，是线性赋范空间，但但Ca,b不是内积空间不是内积空间证证 取取x=1, y=(t-a)/(b-a) Ca
6、,b|x|=1, |y|=1|x+y|=max|1+(t-a)/(b-a)|=2, |x-y|=max|1-(t-a)/(b-a)|=1|x+y|2+|x-y|2=5 4=2(|x|2+|y|2)因而不是由内积导出的范数因而不是由内积导出的范数Ca,b不是内积空间不是内积空间5 5 内积空间中的极限内积空间中的极限证证 xnx|xn-x|0 yny|yn-y|0 | - | - |+|-| |xn-x| |yn| + |x| |yn-y|0 (n)定义定义4 （极限）设（极限）设X是内积空间，是内积空间， xn X, x X及及y X, 定理定理2 设设H是希尔伯特空间，则是希尔伯特空间，则H
7、中的内积中的内积是是x,y的的连续函数连续函数, 即即 xn、yn H, x, y H, 若若xnx, yny, 则则注：距离函数、范数、内积都是连续函数注：距离函数、范数、内积都是连续函数 （线性运算对内积的连续性）（线性运算对内积的连续性） 6 6 内积空间的完备化内积空间的完备化定义定义5 (内积空间的同构内积空间的同构) 设设X,Y是同一数域是同一数域K上的内积空上的内积空间，若存在映射间，若存在映射T: XY, 保持线性运算和内积不变，即保持线性运算和内积不变，即 x,y X, , K, 有有 (1) T( x+ y)= Tx+ Ty, (2) =则称内积空间则称内积空间X与与Y同构
8、，而称同构，而称T为内积空间为内积空间X到到Y的同构的同构映射。映射。定理定理3 设设X是内积空间，则必存在一个是内积空间，则必存在一个Hilbert空间空间H，使，使X与与H的稠密子空间同构，而且在同构意义下，满足上述的稠密子空间同构，而且在同构意义下，满足上述条件的条件的Hilbert空空 间是唯一的。间是唯一的。二、内积空间中的正交分解与投影定理二、内积空间中的正交分解与投影定理 在解析几何中，有向量正交和向量投在解析几何中，有向量正交和向量投影的概念，而且两个向量正交的充分必要影的概念，而且两个向量正交的充分必要条件是它们的内积等于条件是它们的内积等于0，而向量，而向量x在空间在空间中
9、坐标平面上的正交投影向量中坐标平面上的正交投影向量x0是将向量是将向量的起点移到坐标原点，过向量的终点做平的起点移到坐标原点，过向量的终点做平面的垂线所得的垂足与原点之间的有向线面的垂线所得的垂足与原点之间的有向线段而得到的。且有段而得到的。且有x=x0+x1, 其中其中x1 该坐该坐标平面。这时称标平面。这时称x=x0+x1为为x关于做表面的关于做表面的正交分解。正交分解。 下面将把正交分解和正交投影的概念与推广到一般下面将把正交分解和正交投影的概念与推广到一般 的内积空间的内积空间中。中。 其中的投影定理是一个理论和应用上都极其重要的定理，利用其中的投影定理是一个理论和应用上都极其重要的定
10、理，利用投影定理可以将内积空间分解成两个字空间的正交和。这是内积投影定理可以将内积空间分解成两个字空间的正交和。这是内积看所特有的性质，这个定理在一般的巴拿赫空间中并不成立（因看所特有的性质，这个定理在一般的巴拿赫空间中并不成立（因为巴拿赫空间中没有正交性的概念）。在实际应用中，投影定理为巴拿赫空间中没有正交性的概念）。在实际应用中，投影定理还常被用来判定最佳逼近的存在性和唯一性。还常被用来判定最佳逼近的存在性和唯一性。x0x1x 1 1 正交的概念正交的概念 定义定义5 (正交正交) 设设H是内积空间，是内积空间， x,y H, M,N H. (1) x y=0; (2) x My M, 都
11、有都有=0; (3) M Nx ， y N,都有都有=0.定理定理4 (勾股定理勾股定理) 设设H是内积空间，是内积空间， 若若x,y H, 且且x y，则，则 |x+y|2=|x|2+|y|2注注 1）在一般的内积空间中，若在一般的内积空间中，若x y，则有则有勾股定理勾股定理 |x+y|2=|x|2+|y|2成立，但反之不然。成立，但反之不然。 事实上，事实上， |x+y|2=|x|2+|y|2+2Re(x,y) 2）在实内积空间中，在实内积空间中，x y|x+y|2=|x|2+|y|2，即即勾股定理勾股定理成立成立定义定义6 (正交补正交补) 设设H是内积空间是内积空间, M H, 称集
12、合称集合M =x|x y, y M为为M在在H中的正交补。中的正交补。注：正交补的性质：注：正交补的性质：是是U的闭线性子空间，即的闭线性子空间，即U的的完备子空间，完备子空间，事实上，事实上， x,y L 及及 z L, 有有=0,=0 = + =0 L L 为为H线性子空间线性子空间 xn L , xnx, z L =lim=0x L L 为为H的闭子空间的闭子空间定义定义10 (正交分解与正交投影正交分解与正交投影) 设设U是内积空间，是内积空间，M U是线性子空间，是线性子空间，x U, 如果存在如果存在x0 M, x1 M , 使得使得 x=x0+x1 （1） 则称则称x0为为x在在
13、M上的上的正交投影正交投影，而成（，而成（1）式为）式为x关于关于M的的正交分解。正交分解。2 2 正交分解与正交投影正交分解与正交投影定理定理14 (投影定理投影定理) 设设M是希尔伯特空间是希尔伯特空间H的闭线性子空的闭线性子空 间，则对间，则对 x H在在M中存在唯一的正交投影中存在唯一的正交投影x0, 使使 x=x0+x1 (其中其中x1 M ). yn M, 使得使得|yn-x|d (n) (下确界定义下确界定义)证证 x H, 令令x到到M的距离的距离 (x,M)=inf|x=y| 0y MM是是H的线性子空间的线性子空间ym,yn M, 有有0 |ym-yn|2 = |(ym-x
14、)+(x-yn)|2 = |(ym-x)+(x-yn)|2+|(ym-x)-(x-yn)|2-|(ym-x)-(x-yn)|2 = 2|ym-x|2+2|x-yn|2-|(ym+ yn)-2x|2 ( (平行四边形公式平行四边形公式) ) 2|ym-x|2+2|x-yn|2-4d20 (m,n)2) 证明证明 xn在在M中收敛中收敛1) 证明证明 yn是基本列是基本列 M使使Hilbert空间的闭线性子空间空间的闭线性子空间M是完备的是完备的x0 M, 使使ynx0 ,|yn-x|x0-x| (n)d=|x-x0|=inf|x-y|y Mxn是基本列是基本列3) 证明证明x0 是是x在在M中的
15、正交投影中的正交投影记记x1=x-x0, z M, z, Cx0+ z M|x-x0|2 |x-(x0+ z)|2=|x-x0|2- - -| |2|z|2+ -| |2|z|2 0特取特取 |2 0|=04) 证明证明x0 是唯一的，从而上述正交分解式也是唯一的是唯一的，从而上述正交分解式也是唯一的x1=x-x0 M x=x0+x1=0x-x0 z设设x0, x0使使x在在M上的两个正交投影，则上的两个正交投影，则|x0-x0|=0 ,x1=x0=x0注：注：1)由定理的证明过程易知由定理的证明过程易知, 只要只要M是是H的完备子空间的完备子空间, 而而H本身本身不完备不完备, , 定理结论
16、也成立。定理结论也成立。从而上述正交分解从而上述正交分解式也唯式也唯一一.2)设设en是内积空间是内积空间H的标准正交系的标准正交系, x H, ck=, 则则即对任何数组即对任何数组 1, 2, n,有有是是x在内积空间在内积空间H上的正交投影上的正交投影2 2 正交投影的应用正交投影的应用最佳逼近问题最佳逼近问题(1) 最佳逼近问题的一般提法：最佳逼近问题的一般提法： 设设H是是Hilbert空间，空间，x, x1, x2, , xn H, 要求寻找出要求寻找出n个数个数 1, 2, n, 使得使得即要求出即要求出使得使得|x-x0|最小。最小。(2) 最佳逼近问题的几何解释：最佳逼近问题
17、的几何解释：记记M=spanx1, x2, , xn H, 则则表示表示x到到M上某点的距离上某点的距离表示表示x到到M的最短距离的最短距离表示表示x在在M上的正交投影上的正交投影最佳逼近问题实际上就是求正交投影的问题最佳逼近问题实际上就是求正交投影的问题(2) 最佳逼近问题的求解步骤：最佳逼近问题的求解步骤：设设xn M线性无关，记线性无关，记M=spanx1, x2, , xn H唯一的唯一的x0:使得使得|x-x0|=inf|x-y|, 且对且对 y M, 有有=0=0 (xk M, k=1,2,n)= (xk M, k=1,2,n)M是是H的闭线性子空间的闭线性子空间三、内积空间中的正
18、交系与傅立叶级数三、内积空间中的正交系与傅立叶级数1 1 正交系的概念正交系的概念 在解析几何中，向量在解析几何中，向量i, j, k起着坐标架的作用，他们两起着坐标架的作用，他们两两正交，两正交，R3中一切向量中一切向量x都能由他们线性表示：都能由他们线性表示：x=x1i+x2j+x3k。这是解析几何的基础。这是解析几何的基础。 R3中的向量正交概念中的向量正交概念一般内积空间中的向量正交概念一般内积空间中的向量正交概念定义定义7 (正交集与正交集与标准正交系标准正交系) 设设H是内积空间是内积空间, M H, （1）如果对如果对 x,y M, x y, 都有都有=0，则称则称 M是是H中的
19、正交系。中的正交系。 （2） en H, 若若则称则称en是是H中的标准正交系。中的标准正交系。2 2 正交的性质正交的性质 例如例如 （1） i, j, k 是是R3中的标准正交系。中的标准正交系。是是L2- , 中的标准正交系。中的标准正交系。（3）e1=(1,0,0,0,0,), e2=(0,1,0,0,0,), ,en=(0,0,0,1,0,)定理定理4 (勾股定理勾股定理的推广的推广) 设设H是内积空间，若是内积空间，若x1,x2,.,xn H是正交系是正交系，则有，则有|x1+x2+xn|2=|x1|2+ |x2|2+|xn|2（2）是是l2 中的标准正交系。中的标准正交系。定理定
20、理7 设设H是内积空间，若是内积空间，若M=e1,e2,.,en, H是标准是标准正交系正交系，则，则e1,e2,en,是线性独立系，即是线性独立系，即e1,e2,.,en, 中的任何有限组是线性无关的。中的任何有限组是线性无关的。证证 n, 令令 1e1+ nen=0 =0 j= j=0 e1,en线性无关线性无关e1,en,是线性独立系。是线性独立系。定理定理8 (Gram-Schmidt正交化定理正交化定理) 设设H是内积空间是内积空间, x1,x2,.,xn, H是是H中任一个线性独立系，则可将其进中任一个线性独立系，则可将其进行标准正交化，得到一个标准正交系。行标准正交化，得到一个标
21、准正交系。定理定理8 设设H是内积空间，是内积空间，e1,e2,.,en, H是标准正交系，是标准正交系，记记 Mn=spane1,en.(1) 若若x= 1e1+ 2e2+ nen, 则则 i=;(2) 若若 x X, xn=e1+en Mn, 则则y Mn|x-xn|2= |x|2-|xn|2 = (x,Mn) =inf |x-y|x-xn Mn,|xn|2=|2+|2 (3) x X, xn=e1+en Mn即为即为x在在Mn上上的正交投影。的正交投影。（最佳逼近定理）（最佳逼近定理） y Mnxn-y Mnx-xn xn-y |x-y|2=|(x-xn)+(xn-y) |2=|x-xn
22、|2+|xn-z|2 | x-xn|2|x-xn|2=inf|x-z|= (x,Mn)y Mn证证 (1) = i= i(2) 显然显然xn=e1+en Mn, = = (i=1,2,n)x-xn Mn x-xn,e1,en两两正交两两正交, 且且x-xn xn. =0 (i=1,2,n). |xn|2=|e1+en|2 =|e1|2 +|en|2=|2+|2|x|2=|(x-xn)+xn|2=|x-xn|2+|xn|2 |x-xn|2= |x|2- |xn|2 定理定理9 (贝塞尔贝塞尔(bessel)不等式不等式) 设设H是内积空间是内积空间, e1,e2,.,en, H 是标准正交系，则
23、是标准正交系，则 x H, 有有证证 由定理由定理8有，有， xn=e1+en , x H, |x|2=|x-xn|2+|xn|2 |xn|2 =|x|2-|x-xn|2 |x|2 |2+|2 |x|2 |2+|2+ |x|2 (n)推论推论 设设H是内积空间是内积空间, e1,e2,.,en, H是标准正交系，是标准正交系，则则 x H, 有有lim=0.n证证 根据定理根据定理9，级数，级数 |2收敛收敛lim=0.n3 3 内积空间中的傅立叶级数内积空间中的傅立叶级数定义定义8 (Fourier级数级数) 设设H是内积空间，是内积空间，en (n=1,2,)是是H中的标准正交系，中的标准
24、正交系，x H, 则称则称cn= (n=1,2,)为为x关于关于en的的 Fourier系数，而称系数，而称为为x关于关于en的的Fourier级数。记作级数。记作注：注：1) x H, x的的Fourier系数系数cn=(n=1,2,)满足满足 Bessel不等式不等式2) 微积分学中的微积分学中的Fourier级数是级数是L2a,b上元素上元素x关于标准正交系关于标准正交系的的Fourier级数。级数。3) x H, x的的Fourier系数系数cn=(n=1,2,)是平方是平方可和的，可和的， 即即cn l2.问题：问题：由定理由定理8可知，对可知，对 x H, 及任何及任何n, xn=
25、e1+en 到到x的距离最小，那么当的距离最小，那么当n时，时，xn是否收敛于是否收敛于x呢呢？即即x的的Fourier级数级数e1+en+是否收敛是否收敛于于x？或者说？或者说x能否展开成傅立叶级数？能否展开成傅立叶级数？4 4 内积空间中的傅立叶级数的收敛性内积空间中的傅立叶级数的收敛性定理定理11 (Fourier级数收敛的充要条件级数收敛的充要条件) 设设en是内积空间是内积空间H的标准正交系的标准正交系, x H, 则则x关于关于en的的Fourier级数收敛于级数收敛于x的充要条件是成立巴塞弗的充要条件是成立巴塞弗(Parseval)等式：等式：证证 由定理由定理8知，知， 若若
26、x X, 取取xn=e1+en, 则则 x-xn xn, 且且 问题：问题： 对于对于n n维欧氏空间而言，如果基向量的个数小于维欧氏空间而言，如果基向量的个数小于n, n, 则空间中的一些向量就无法用这些基向量线性表示。这则空间中的一些向量就无法用这些基向量线性表示。这时可以认为基向量没有选时可以认为基向量没有选“完全完全”。此时不能保证。此时不能保证ParsevalParseval等式成立，而只有等式成立，而只有BesselBessel不等式成立。只有基不等式成立。只有基向量的个数等于向量的个数等于n n时，才能认为基向量是时，才能认为基向量是“完全完全”的。的。 对于一般的无限维内积空间
27、，也只有当基选完全时，对于一般的无限维内积空间，也只有当基选完全时，才能保证才能保证ParsevalParseval等式成立，从而使得空间中的任何元等式成立，从而使得空间中的任何元素都能由这组完全的基线性表示，其傅立叶级数才能收素都能由这组完全的基线性表示，其傅立叶级数才能收敛于自身，或者说，敛于自身，或者说，H H中的任何元素都可以展开成傅立中的任何元素都可以展开成傅立叶级数。那么，如何确认其基向量是完全的呢？叶级数。那么，如何确认其基向量是完全的呢？为此引为此引入下面的定义：入下面的定义：定义定义9 (完全的标准正交系完全的标准正交系) 设设H是内积空间，是内积空间，en (n=1,2,)
28、是是H中的标准正交系，如果在中的标准正交系，如果在H中不再存在于中不再存在于所有所有en(n=1,2,) 都正交的非零元素，即如果都正交的非零元素，即如果x H, x en(n=1,2,), 必有必有x= , 则称则称en是是H中的中的完全标准正完全标准正交系交系。是是L L2 2- , , 中的完全标准正交系。中的完全标准正交系。（2 2）勒让德）勒让德( (LegendreLegendre) )多项式表示的正交系多项式表示的正交系例如，（例如，（1 1）三角函数系）三角函数系是是L L2 2-1 1,1,1 中的完全标准正交系。中的完全标准正交系。(4) (4) x x H, H, par
29、sevalparseval等式成立。等式成立。定理定理1212 ( (正交系完全的充要条件正交系完全的充要条件) ) 设设een n 是希尔伯特是希尔伯特空间空间H H的标准正交系的标准正交系, , 则下列四个命题是等价的：则下列四个命题是等价的： (1) e (1) en n 是是H H中的完全标准正交系；中的完全标准正交系； (3) (3) x x H, xH, x关于关于een n 的的FourierFourier级数收敛于级数收敛于x, x, 即即x x可以展开成可以展开成关于关于een n 的的FourierFourier级数级数: :(2) spane(2) spanen n|n=
30、1,2,=H;|n=1,2,=H;五、可分希尔伯特空间五、可分希尔伯特空间 根据前面的讨论，根据前面的讨论，L2- , 上的确存在至多可列的完上的确存在至多可列的完全标准正交系。事实上，这个结论与可分的希尔伯特空全标准正交系。事实上，这个结论与可分的希尔伯特空间也是成立的。间也是成立的。定理定理15 (H可分的充要条件可分的充要条件完全标准正交系的存在性完全标准正交系的存在性) H是可分的希尔伯特空间是可分的希尔伯特空间H有至多可列的完全标准有至多可列的完全标准 正交系正交系en. 定理定理16 (可分希尔伯特空间的同构性可分希尔伯特空间的同构性) (1) 任意有限维可分的希尔伯特空间必与任意
31、有限维可分的希尔伯特空间必与Rn同构；同构； (2) 任意无限维可分的希尔伯特空间必与任意无限维可分的希尔伯特空间必与l2同构。同构。 证证 H是可分是可分存在存在H的完全标准正交系的完全标准正交系e1,e2,en或或e1,e2,en,. 作映像作映像 : HRn（或或l2）, (x)=(x,e1,)（或或 (x)=(x,e1,) ）是一一是一一映像且映像且保持线性运算和内积不变，即保持线性运算和内积不变，即H与与Rn （或或l2）同同构构注：注： (1) 欧式空间欧式空间Rn任可以看作是有限维可分的希尔伯任可以看作是有限维可分的希尔伯特空间的模型；特空间的模型； (2) l2空间可以看作是无限维可分的希尔伯特空间的空间可以看作是无限维可分的希尔伯特空间的模型。模型。 (3) 对可分的希尔伯特空间的研究可以转化为对对可分的希尔伯特空间的研究可以转化为对Rn或或l2的研究，要研究某可分的希尔伯特空间中的函数，只的研究，要研究某可分的希尔伯特空间中的函数，只要研究该函数的傅立叶系数就够了。要研究该函数的傅立叶系数就够了。
