矩阵理论第五讲

《矩阵理论第五讲》由会员分享，可在线阅读，更多相关《矩阵理论第五讲（36页珍藏版）》请在金锄头文库上搜索。

1、信息科学与工程学院矩阵理论-第五讲2004年1信息科学与工程学院上节内容回顾Hamilton-Cayley定理任一方阵都是它的特征多项式的根多项式的带余除法方阵的零化多项式方阵的最小多项式多项式矩阵的逆、单模矩阵多项式矩阵的互质性简介右公因子左公因子最大右公因子gcrdgcrd的构造定理多项式矩阵的既约性简介多项式矩阵的行次数和列次数、行次表示式和列次表示式2信息科学与工程学院内积空间内积空间设X是实数域或复数域上的线性空间，其中定义了一个二元数值函数满足下列条件：1.对第一变元的线性：2.共轭对称性：3.正定性： 且则称此二元值函数 是X上的内积（Inner product），定义了内积的空

2、间称为内积空间。 F = R时称X为实内积空间，F = C时称X为复内积空间3信息科学与工程学院内积空间由内积的定义：1.对第一变元的线性：2.共轭对称性：3.正定性： 且中的条件1和2，可得4.对第二变元的共轭线性4信息科学与工程学院内积空间内积的定义：1.对第一变元的线性：2.共轭对称性：3.正定性： 且由条件1和2，可得4.对第二变元的共轭线性由条件1和2，可得5. 5信息科学与工程学院内积空间内积空间举例：1.n维欧氏(Euclid)空间Rn：2.n维复欧氏(Euclid)空间Cn：3.实l2空间： 此空间中的点为无穷维向量，每个向量的所有坐标是平方可和的： 取p = 2, 收敛Hld

3、er不等式：6信息科学与工程学院内积空间Cauchy-Schwarz inequality (柯西柯西-许瓦兹不等式许瓦兹不等式)设 是X上的内积，则证明：当x, y其中之一为零向量时，等式成立。现设 ， 有令 ，7信息科学与工程学院赋范空间向量范数（向量范数（Norm）设X是数域F上的线性空间，定义在X上的实值函数实值函数 如果满足以下条件三角形不等式绝对齐性正定性 ，且则称此实值函数是X上的范数（Norm）。带有给定范数的线性空间 称为赋范空间。 8信息科学与工程学院赋范空间定义了范数，即可定义度量有了度量，即可定义极限、进而定义收敛、连续性等。有了极限和收敛即可定义Cauchy列，定义了

4、Cauchy列，即可判断空间的完备性。赋范空间举例赋范空间举例n维复维复Euclid空间空间Cn在Cn的内积定义的基础上，定义易验证，此范数满足范数的3个条件，称为向量x的2-范数或长度。 由Cauchy-schwarz不等式对欧氏空间对欧氏空间, 内积的模内积的模方不大于长度平方之积方不大于长度平方之积9信息科学与工程学院赋范空间n维复维复Euclid空间空间Cn ，定义则 是范数， 是带有范数 的赋范空间 ，由绝对值不等式，条件1很容易验证： 同样可验证条件2、31-范数10信息科学与工程学院赋范空间Ca, b :设Ca, b是a, b上实值或复值连续函数的全体，在第一讲中我们已知此空间是

5、线性空间，对 定义 可以证明， 是范数，Ca, b是赋范空间。上界上界设 ，如果 ，使得 ，有 ，则称c是A的一个上界上界，并称集合A有上界有上界或上有界上有界11信息科学与工程学院赋范空间上确界（上确界（Suprmum）如果A有上界，且A的上界中有一个最小者M，则称M是A的上确界或最小上界，记作 ，上确界要满足两个条件1 M是A的一个上界2 对A的任一上界c，有由此，如果A有上确界，则必是唯一的如果A无上界，可记作同样可定义下界、下确界（Infimum） 。下确界也是唯一的。如果不存在下确界，记作现在证明线性空间Ca, b中定义的 是范数 ， ，由上界的定义由绝对值不等式12信息科学与工程学

6、院赋范空间 是显然的 当且仅当 ，即Ca, b上恒为0的函数13信息科学与工程学院赋范空间a, b上所有连续函数的全体构成的空间已知此空间是线性空间，对此空间中的任一函数 f 定义 则 是范数，Ca, b是赋范空间空间lp此空间中的向量 为满足条件 的无穷维向量，由第一讲已知此空间是线性空间，对 ，定义由Minkowski不等式知 是范数，空间lp是赋范空间p-范数14信息科学与工程学院赋范空间当 时，定义 为所有无穷维有界向量构成的空间，对 ，定义仿照Ca, b空间的做法，易证 是范数， 是赋范空间 Hlder不等式：Minkowski不等式：Cauchy-Shwarz不等式：取p = 2定

7、义内积为还有积分形式-范数15信息科学与工程学院线性空间、内积空间和赋范空间的关系内积空间内积空间定义了内积定义了内积赋范空间赋范空间赋予范数赋予范数Hilbert空间空间完备完备线性空间线性空间n维实空间维实空间Rnn维欧氏空间维欧氏空间n维复空间维复空间Cnn维复欧氏空间维复欧氏空间（酉空间）（酉空间）Banach空间空间完备完备完备：空间中所有的Cauchy列都收敛16信息科学与工程学院范数在优化问题中的应用由于线性空间中没有度量，不能引入开集、闭集、收敛性和连续性的概念，所以引入范数，使之成为一个赋范线性空间赋范线性空间在收敛上有缺陷，即不具备完备性。完备性在理论分析和实际应用中有着重

8、要意义，特别是在最优化理论中，当期望找到一个使目标泛函达到最优的向量时，往往是先构造一个向量序列，其中每个元素大部分优于其前面的元素，而最终所要求的最优向量恰好是该序列的极限。在尚不知极限是何值的情况下，必须要有一个判据确保这种算法步骤有效，这个判据就是完备性引进Cauchy列与完备性，使之成为一个Banach空间，是讨论最优化问题的基础，特别是最小范数问题与最佳逼近问题的基础王日爽范函分析与最优化理论，北航出版社17信息科学与工程学院范数在优化问题中的应用变分引理变分引理设X是Hilbert空间，K是H中非空闭凸集， ，则K中存在着唯一的点 使得 表示点h到K中点k的距离，表示点h到集合K的

9、距离记作 ，此定理表明存在唯一的点 达到h到K中点的距离的最小值 葛显良应用泛函分析，浙大出版社KKh18信息科学与工程学院内积空间投影定理在3维欧氏空间中，从一点到一个平面的最短距离，是由该点向平面所作的垂直线段。推广到高维空间和无穷维Hilbert空间时，在最佳逼近、Fourier级数和最小范数问题中有着广泛的应用设M是Hilbert空间H中的闭线性子空间， ，且 是M中满足 的唯一元素，则 反之，若 且 ，则 王日爽、葛显良：同上19信息科学与工程学院几个重要不等式的证明Young不等式设 ， ，则有证明：在平面上由方程 所定义的曲线在0, a上围成曲边三角形xy020信息科学与工程学院

10、几个重要不等式的证明其面积为另一方面，将此曲线用 来表示，在y轴的区间0, b上的曲边三角形的面积为比较以a, b为边的矩形面积与两曲边三角形面积之和21信息科学与工程学院几个重要不等式的证明级数形式的Hlder不等式设 ， ，则有 当右边的两个级数收敛时，左边的级数也收敛。若k n时， ，即得有限和的形式。证明：先对 正规化，使证明简化。令 那么 ， 。由Young不等式22信息科学与工程学院几个重要不等式的证明两边求前n项的和代换回 ，得当右边的两个级数收敛时，令 ，即证Cauchy-Shwarz不等式：取p = 2, 定义内积为23信息科学与工程学院几个重要不等式的证明级数形式的Mink

11、owski不等式设 ， ，则有 当右边的两个级数收敛时，左边的级数也收敛。若k n时， ，即得有限和的形式。证明：p = 1时，由绝对值不等式，结论成立。设p 1绝对值不等式：qpHlder不等式：24信息科学与工程学院范数的等价性 两边除以 ，注意到 ，即证。范数的等价性赋范空间的极限和收敛矩阵论简明教程p43定义：如果序列 ， ，当 时，称 收敛于x，x为 的极限，记作范数等价的定义如果 和 是定义在线性空间X上的两个范数，称它们为等价的，如果定义相同的收敛性p25信息科学与工程学院几个重要不等式的证明范数等价的充要条件如果 和 是定义在线性空间X上的两个范数，则这两个范数等价的充要条件是

12、 ，使得 ，都有证明：充分性如果条件成立，则当 时，当 时，所以，此两范数具有相同的收敛性，即它们是等价的。必要性反证法：若 和 等价，如果不存在 ，使得26信息科学与工程学院几个重要不等式的证明 对 ， ，使得 ，否则， 是存在的，那么 两边同乘以令 ，则 ，且 但与 、 等价矛盾，所以 ，使得同理可证 ，使得 令 ，则 ，定理得证27信息科学与工程学院有限维赋范空间的范数特性定理如果X是数域F上的有限维线性空间，则X上的任意两个范数是等价的徐仲等矩阵论简明教程p41引理范数是连续的，即当 时，证明： 28信息科学与工程学院有限维赋范空间的范数特性引理设f是定义在赋范空间X的紧集A上的连续实

13、泛函，即 连续，则f在A上取到最大值和最小值葛显良应用泛函分析p113证明（有限维线性空间上范数是等价的）：设X是n维线性空间，单位球面 是X中的有界紧集故 在S上可取到最大值和最小值，设分别为 和则 ，当 时，29信息科学与工程学院有限维赋范空间的范数特性因此同理，对定义在有限维赋范空间X上的范数 ，可得即 与 等价30信息科学与工程学院内积空间的正交性正交性正交性向量的正交性设X为内积空间， ，若 ，则称x, y为正交的（或直交的），记作集合的正交性设 ，若 ， ，有 ，则称A与B正交，记作向量与集合的正交对向量x，若 ，均有 ，则称x与A正交，记作零向量0与任何向量x正交，也与任何集合A

14、正交多维空间的勾股定理若 在X中两两正交，则31信息科学与工程学院内积空间的正交性单位向量对内积空间X ， ，若 ，则称x为单位向量向量的单位化或规范化内积空间的非零向量除以其长度，称为将向量x单位化或规范化设X是内积空间， ，则设 是内积空间X的一组两两正交的非零向量，则 线性无关证明：设 令 考察 是否 。为此，对任意32信息科学与工程学院内积空间的正交性由对第一变元的线性由于 两两正交，上式变为而 , ，因此这说明即 线性无关将线性代数中Gram-Schmidt正交化程序构造标准正交向量组的方法推广到内积空间Gram-Schmidt正交化定理33信息科学与工程学院内积空间的正交性Gram-Schmidt正交化定理设X是内积空间，而 是X中线性无关的子集，则存在标准正交集 ，使得证明：因 ，令 ，则 ，令 ，则且 ，否则， 线性相关，与假设矛盾。令 ，则 是标准正交集，且用数学归纳法：假设 是标准正交集，且34信息科学与工程学院内积空间的正交性令 ，则对且 ，否则， 线性相关，与假设矛盾令 ，则 是标准正交集，且又所以35信息科学与工程学院36