矩阵分析课件

《矩阵分析课件》由会员分享，可在线阅读，更多相关《矩阵分析课件（119页珍藏版）》请在金锄头文库上搜索。

1、1 1 矩阵的满秩分解矩阵的满秩分解定理定理：设：设 ，那么存在，那么存在 第四章第四章 矩阵的分解矩阵的分解 这这章章我我们们主主要要讨讨论论矩矩阵阵的的五五种种分分解解：矩矩阵阵的的满满秩秩分分解解，正正交交三三角角分分解解，奇奇异异值值分分解解，极极分解，谱分解。分解，谱分解。 R(A)=r列满秩使得使得证明证明：假设矩阵：假设矩阵 的前的前 个列向量是线性个列向量是线性无关的，对矩阵无关的，对矩阵 只实施只实施行初等变换行初等变换可以将其化成可以将其化成其中其中 为为列列满秩矩阵，满秩矩阵， 为为行行满秩矩阵。满秩矩阵。我们成此分解为我们成此分解为矩阵的满秩分解矩阵的满秩分解。即存在即

2、存在 使得使得于是有于是有其中其中 如果如果 的前的前 列线性相关，那么只需对列线性相关，那么只需对作列变换使得前作列变换使得前 个列是线性无关的。然后重个列是线性无关的。然后重复上面的过程即可。这样存在复上面的过程即可。这样存在且满足且满足 从而从而其中其中所以B是A中r 个线性无关的列例例 ：分别求下面三个矩阵的满秩分解：分别求下面三个矩阵的满秩分解解解 ：（：（1）对此矩阵只实施对此矩阵只实施行变换行变换可以可以得到得到 第一列，第四列是线性无关的第一列，第四列是线性无关的。我们也我们也可以选取可以选取该矩阵该矩阵第一列，第三列第一列，第三列是线性无关的。选取是线性无关的。选取所以所以

3、，且此矩阵的第三，第四，且此矩阵的第三，第四，第五列任意一列都是线性无关的，所以选取第五列任意一列都是线性无关的，所以选取哪一列构成列满秩矩阵均可以。哪一列构成列满秩矩阵均可以。解解：（：（2）对此矩阵只实施行变换可以得到对此矩阵只实施行变换可以得到也可以选取也可以选取选取选取解解：（：（3）对此矩阵只实施行变换可以得到对此矩阵只实施行变换可以得到 所以所以 ，且容易看出此矩阵的，且容易看出此矩阵的第二列和第四列是线性无关的第二列和第四列是线性无关的，选取，选取 定理定理：如果：如果 均为矩阵均为矩阵 的满秩分解，那么的满秩分解，那么（1） 存在矩阵存在矩阵 满足满足 由上述例子可以看出由上述

4、例子可以看出矩阵的满秩分解形式矩阵的满秩分解形式并不唯一并不唯一。一般地我们选取行最简形矩阵主元一般地我们选取行最简形矩阵主元所在的列对应的列向量构成列满秩矩阵，将阶所在的列对应的列向量构成列满秩矩阵，将阶梯型矩阵全为零的行去掉后即可构成行满秩矩梯型矩阵全为零的行去掉后即可构成行满秩矩阵阵。但是不同的分解形式之间有如下联系：。但是不同的分解形式之间有如下联系：（2）证明：同理 2 矩阵的正交三角分解矩阵的正交三角分解例：例： 设设 ，那么，那么 可唯一地分解可唯一地分解为为或或其中其中 ， 是正线上三角矩是正线上三角矩阵，阵， 是正线下三角矩阵。是正线下三角矩阵。证明证明：先证明分解的存在性。

5、将矩阵：先证明分解的存在性。将矩阵 按列分块得到按列分块得到由于由于，所以，所以是线性无关的。利用是线性无关的。利用SchmidtSchmidt正交化与单位化正交化与单位化方法，先得到一组正交向量组方法，先得到一组正交向量组第一步第一步 正交化正交化容易验证容易验证 是一个正交向量组是一个正交向量组第二步第二步 单位化单位化显然显然 是一个标准的正交向量组。是一个标准的正交向量组。其中其中 ，于，于是有是有其中其中 ，显然矩阵显然矩阵 是一个正线上三角矩阵。是一个正线上三角矩阵。 矩阵矩阵 是一个正线上三角矩阵是一个正线上三角矩阵 A是列满秩也有注意到注意到 是酉矩阵，而是酉矩阵，而 是一个正

6、是一个正线上三角矩阵，由前面的结论可知线上三角矩阵，由前面的结论可知因此有因此有下面考虑分解的唯一性。设有两种分解式下面考虑分解的唯一性。设有两种分解式那么有那么有其中其中 是正线下三角矩阵，而是正线下三角矩阵，而其中其中 是正线上三角矩阵。是正线上三角矩阵。于是于是因为有因为有 ，所以，所以 ，按照分解的存在性可知按照分解的存在性可知 此结论也可以被推广为此结论也可以被推广为定理定理：设：设 ，则，则 可以唯一地分可以唯一地分解为解为其中其中 是是 阶正线上三角矩阵，阶正线上三角矩阵，即，即 是一个是一个次酉矩阵次酉矩阵。分解的唯一性证明。设分解的唯一性证明。设证明证明：分解的存在性证明，同

7、上面的例题分解的存在性证明，同上面的例题完全一样。（完全一样。（见前面的注见前面的注）列为两两正交的单位向量则则因为因为 是正定的是正定的Hermite 矩阵（为什么矩阵（为什么？），由正定二次型的等价定理可知，其三？），由正定二次型的等价定理可知，其三角分解是唯一的，故角分解是唯一的，故 ，进一步有，进一步有 。例例 1 ：求下列矩阵的正交三角分解求下列矩阵的正交三角分解解：解： （1）容易判断出）容易判断出 ，即，即 是一个列满秩矩阵。按照定理的证明过程，是一个列满秩矩阵。按照定理的证明过程，将将 的三个列向量正交的三个列向量正交化与单位化。先得到一个正交向量组化与单位化。先得到一个正交向

8、量组再将其单位化，得到一组标准正交向量组再将其单位化，得到一组标准正交向量组也可这样，也可这样，原来的向量组用标准正交向量去原来的向量组用标准正交向量去表示表示将上面的式子矩阵化，即为将上面的式子矩阵化，即为（2）首先判断出）首先判断出 ，由定理可，由定理可知必存在知必存在 ，以及三阶正线上三角，以及三阶正线上三角矩阵矩阵 使得使得再将其单位化，得到一组标准正交向量组再将其单位化，得到一组标准正交向量组另：推论推论：设：设 ，则，则 可分解为可分解为其中其中 ， 是是 阶正线上三角矩阵，阶正线上三角矩阵， 是是 阶正线下三角阶正线下三角矩阵。矩阵。3 矩阵的奇异值分解矩阵的奇异值分解引理引理

9、1 ：对于任何一个矩阵对于任何一个矩阵 都有都有3 3 矩阵的奇异值分解矩阵的奇异值分解引理引理 1 1 ：对于任何一个矩阵对于任何一个矩阵 都有都有设设 ， 是是 的特征值，的特征值，引理引理 2 ：对于任何一个矩阵对于任何一个矩阵 都有都有 与与 都是半正定的都是半正定的Hermite-矩阵。矩阵。是是 的特征值，它们都是实数。如果记的特征值，它们都是实数。如果记特征值特征值 与与 之间有如下关系。之间有如下关系。例例 ：求下列矩阵的奇异值求下列矩阵的奇异值为矩阵为矩阵 的的正奇异值正奇异值，简称，简称奇异值奇异值。同时，我们称同时，我们称定理定理：设：设 ，那么，那么例例 ：求下列矩阵的

10、奇异值求下列矩阵的奇异值显然显然 的特征值为的特征值为5，0，0，所以，所以 的的奇异值为奇异值为 解：解： （1）由于）由于（2）由于）由于显然显然 的特征值为的特征值为 2，4，所以，所以 的奇的奇异值为异值为 。 例例 2 证明：正规矩阵的奇异值为其非零证明：正规矩阵的奇异值为其非零 特征值的模长。特征值的模长。证明：例例 2 证明：正规矩阵的奇异值为其非零证明：正规矩阵的奇异值为其非零 特征值的模长。特征值的模长。奇异值奇异值定理：定理：设设 ，是是 的的 个奇异值，那么存在个奇异值，那么存在 阶酉矩阶酉矩阵阵 和和 阶酉矩阵阶酉矩阵 使得使得 证明证明： 由于由于 ，所以，所以 的特

11、的特征值为征值为其中，其中，且满足且满足 。因为因为 是一个是一个H-阵，所以存在阵，所以存在 阶酉矩阵阶酉矩阵 且满足且满足将酉矩阵将酉矩阵 按列进行分块，记按列进行分块，记从而有从而有于是有于是有 ，其中，其中记记 ，这里，这里 选取选取 使得使得 是酉矩阵，则是酉矩阵，则令令 ，那么容易验证，那么容易验证由上述式子可得由上述式子可得 我们称此定理为我们称此定理为奇异值分解定理奇异值分解定理。称表达。称表达式式为为矩阵矩阵 的奇异值分解式的奇异值分解式。这里，要注意这里，要注意 。如何求此分解表达式？特别要注意下面的如何求此分解表达式？特别要注意下面的关系式关系式即即由此可知由此可知 的列

12、向量就是的列向量就是 的标准正的标准正交特征向量；而交特征向量；而 的列向量就是的列向量就是 的的标准正交特征向量。标准正交特征向量。例例 ：求下列矩阵的奇异值分解表达式求下列矩阵的奇异值分解表达式例例 ：求下列矩阵的奇异值分解表达式求下列矩阵的奇异值分解表达式解解 ： （1）容易计算容易计算 的特征值为的特征值为5，0，0，所以，所以 的奇异值为的奇异值为 。下面计算。下面计算的标准正交特征向量，解得分别与的标准正交特征向量，解得分别与5，0，0对应的三个标准正交特征向量对应的三个标准正交特征向量由这三个标准正交特征向量组成矩阵由这三个标准正交特征向量组成矩阵 ，所，所以有以有再计算再计算

13、的标准正交特征向量，解得分的标准正交特征向量，解得分别与别与5，0对应的两个标准正交特征向量对应的两个标准正交特征向量由这两个标准正交特征向量组成矩阵由这两个标准正交特征向量组成矩阵那么有那么有于是可得奇异值分解式为于是可得奇异值分解式为解解 ：（：（2）容易计算容易计算，那么，那么 的非零奇异值为的非零奇异值为 ， 对应于特征值对应于特征值5，2的标准特征向量为的标准特征向量为由这两个标准正交特征向量组成矩阵由这两个标准正交特征向量组成矩阵那么有那么有再计算再计算 的标准正交特征向量，解得分的标准正交特征向量，解得分别与别与5，2，0，0对应的两个标准正交特征向对应的两个标准正交特征向量量由

14、这四个标准正交特征向量组成矩阵由这四个标准正交特征向量组成矩阵 ，所，所以有以有于是可得奇异值分解式为于是可得奇异值分解式为练习练习：求下面矩阵的奇异值分解式：求下面矩阵的奇异值分解式推论：推论：设设 ， 是是 的的 个奇异值，那么存在次酉矩阵个奇异值，那么存在次酉矩阵 使得使得推论：推论：设设 ， 是是 的的 个奇异值，那么存在次酉矩阵个奇异值，那么存在次酉矩阵 使得使得且这样的分解式是唯一的。同时有且这样的分解式是唯一的。同时有定理：定理： 设设 ，那么必存在酉矩阵，那么必存在酉矩阵 与正定的与正定的H-H-矩阵矩阵4 矩阵的极分解矩阵的极分解使得使得为矩阵为矩阵 的的极分解表达式极分解表

15、达式。称分解式称分解式A满秩证明： 满秩，所以 正定，故有证明证明：根据矩阵的奇异值分解定理可知，：根据矩阵的奇异值分解定理可知，存在酉矩阵存在酉矩阵 使得使得与半正定与半正定H-矩阵矩阵 使得使得且满足且满足定理定理：设：设 ，则存在，则存在A不满秩 为为 的的 个奇异值。个奇异值。其中其中于是有于是有如果令如果令其中其中 是半正定的是半正定的H-矩阵，矩阵， 是是 酉矩阵。酉矩阵。从而有从而有分必要条件是分必要条件是定理定理：设：设 ，则，则 是正规矩阵的充是正规矩阵的充由上面的结论可以给出正规矩阵的另外一由上面的结论可以给出正规矩阵的另外一种刻划。种刻划。 5 矩阵的谱分解矩阵的谱分解

16、我们主要讨论两种矩阵的谱分解：正规我们主要讨论两种矩阵的谱分解：正规矩阵与可对角化矩阵。矩阵与可对角化矩阵。 设设 为正规矩阵，那么存在为正规矩阵，那么存在使得使得其中其中 是半正定的是半正定的H-矩阵，矩阵， 是酉矩阵，且是酉矩阵，且其中其中 是矩阵是矩阵 的特征值的特征值 所对应的单位所对应的单位特征向量。我们称上式为正规矩阵特征向量。我们称上式为正规矩阵 的的谱分谱分解表达式解表达式。 设正规矩阵设正规矩阵 有有 个互异的特征值个互异的特征值 ，特征值，特征值 的代数重为的代数重为 ， 所对应的个两两正交的所对应的个两两正交的单位特征向量单位特征向量为为 ，则，则 的谱分解表达式又的谱分

17、解表达式又可以写成可以写成其中其中 ，并且显然有，并且显然有 定理定理： 设设 为一个为一个 阶矩阵，其有阶矩阵，其有 个互个互异的特征值异的特征值 ， 的代数重数的代数重数为为 ， 那么那么 为正规矩阵的充分必要条为正规矩阵的充分必要条件是存在件是存在 个个 阶矩阵阶矩阵 且满足且满足 有上面的谱分解表达式又可以给出正规矩阵有上面的谱分解表达式又可以给出正规矩阵的一种刻划。的一种刻划。（6）满足上述性质的矩阵）满足上述性质的矩阵 是唯一的。我是唯一的。我们称们称 为为正交投影矩阵正交投影矩阵。例例 1 ： 求正规矩阵求正规矩阵解解：首先求出矩阵：首先求出矩阵 的特征值与特征向的特征值与特征向

18、量。容易计算量。容易计算例例 1 ： 求正规矩阵求正规矩阵的谱分解表达式。的谱分解表达式。当当 时，求得三个线性无关的特征时，求得三个线性无关的特征向量为向量为从而从而 的特征值为的特征值为当当 时，求得一个线性无关的特征时，求得一个线性无关的特征向量为向量为将将 正交化与单位化可得正交化与单位化可得将将 单位化可得：单位化可得：于是有于是有这样可得其谱分解表达式为这样可得其谱分解表达式为解解：首先求出矩阵：首先求出矩阵 的特征值与特征向量。的特征值与特征向量。容易计算容易计算例例 2 ： 求正规矩阵求正规矩阵的谱分解表达式。的谱分解表达式。可以求出分别属于这三个特征值的三个线性可以求出分别属

19、于这三个特征值的三个线性无关的特征向量无关的特征向量从而从而 的特征值为的特征值为再将其单位化可得三个标准正交的特征向量再将其单位化可得三个标准正交的特征向量于是有于是有这样可得其谱分解表达式为这样可得其谱分解表达式为练习：练习：求正规矩阵求正规矩阵的谱分解表达式。的谱分解表达式。 下面我们讨论可对角化矩阵的谱分解表下面我们讨论可对角化矩阵的谱分解表达式。达式。 设设 是一个是一个 阶可对角化的矩阵，特征阶可对角化的矩阵，特征值为值为 ，与其相应的特征向量分，与其相应的特征向量分别为别为 ，如果记，如果记那么那么其中其中由于由于 ，所以有，所以有又由于又由于 ，从而，从而现在观察矩阵现在观察矩

20、阵 与列向量与列向量 之间的关系：之间的关系：这说明矩阵这说明矩阵 的列向量是矩阵的列向量是矩阵 的的特征向量。另外注意到特征向量。另外注意到 可对角化矩阵的谱分解步骤：可对角化矩阵的谱分解步骤：（1）首先求出矩阵）首先求出矩阵 的全部互异特征值的全部互异特征值 及每个特征值及每个特征值 所决定的线所决定的线性无关特征向量性无关特征向量（2）写出）写出（3）令）令（4）最后写出）最后写出例例 ：已知矩阵已知矩阵 为一个可对角化矩阵，求其谱分解表达式。为一个可对角化矩阵，求其谱分解表达式。解解: 首先求出矩阵首先求出矩阵 的特征值与特征向量。的特征值与特征向量。容易计算容易计算从而从而 的特征值为的特征值为可以求出分别属于这三个特征值的三个线性可以求出分别属于这三个特征值的三个线性无关的特征向量无关的特征向量于是于是取取令令那么其谱分解表达式为那么其谱分解表达式为（1） 取何值时，取何值时， 可以对角化可以对角化?（2）当）当 可对角化时，求可逆矩阵可对角化时，求可逆矩阵 使使得得 为对角矩阵。为对角矩阵。（3）当）当 可对角化时，求其谱分解表达可对角化时，求其谱分解表达式。式。练习：练习： 设矩阵设矩阵