《Appendix B矩阵代数简单介绍》由会员分享，可在线阅读，更多相关《Appendix B矩阵代数简单介绍（12页珍藏版）》请在金锄头文库上搜索。
1、1线性代数复习1.11.1 矩阵的概念矩阵的概念给定数域上个数把它们按一定次序排成一个行KnKija), 2 , 1;, 2 , 1(njmi n列的长方形数表K， nKnnKKaaaaaaaaaA212222111211MOMM称为数域上的一个行列的矩阵矩阵，简称为矩阵。其中称为矩阵的第 行、第KnKKnijai列的元素。矩阵（只有一行）称为维行向量维行向量；矩阵（只有一列）称为维列维列j1 kk1nn向量向量。零矩阵、方阵、对角矩阵、单位阵零矩阵、方阵、对角矩阵、单位阵所有元素为零的矩阵称为零矩阵零矩阵，记为。000,0AAA如果矩阵的行、列数都是，则称 A 为阶方阵阶方阵；nn 阶方阵
2、A 的元素按次序构成的阶行列式，称为矩阵矩阵 A A 的行列式的行列式，记为|A|。nn 在阶方阵中，若主对角线两侧的元素全为零，则称之为对角矩阵，对角矩阵，记为；若对角n 矩阵的主对角线元素全为 1，则称之为单位阵，单位阵，记为；特别地，称为数量矩阵II1.2 矩阵的运算矩阵的加、减运算以及数乘运算 当矩阵 A 和 B 的行数和列数相等时，它们可以进行加、减运算；AB 等于所有对应位 置的元素相加、减。 数乘运算就是数乘矩阵 A 中所有元素得到的矩阵。k，ABBA，)()(CBACBA，AOAOAA)(2，AA)()(kllkAAAlklk )(，BABAkkk)(AA 1，OA 0AA )
3、 1(矩阵相乘记，且smijaA)(nsijbB)(nmijcC)(，那么 A 和 B 相乘得到的矩阵 C 的元素可用公式表示为 ABC ，。注意，在一般 skkjikijbac1), 1;, 1(njmi 情况下矩阵乘法不满足交换律和消去律，即；BAAB 不能推出。ACABA 且0CB 矩阵相乘满足如下运算规则：，)()(BCACAB，ACABCBA)(，CABAACB)(，ABBA)()(kllk，AA IAA I，OAO OOA 转置把矩阵的行和列互换得到的矩阵称为 A 的转置矩阵，记为。A转置矩阵满足如下运算规则：3；AA)()(BABA；。)(kAkA)(ABAB若，那么 A 称之为
4、对称矩阵对称矩阵。AA 矩阵的逆对于阶方阵 A，存在阶方阵 B，使得，那么 A 是nnIBAAB可逆的，B 称为 A 的逆矩阵，记为。1A方阵 A 可逆的充要条件是，此时 A 是非奇异矩阵非奇异矩阵。0|A若，A 是奇异矩阵奇异矩阵。0|A逆矩阵具有的性质：；AA11)(11)()( AA。111)(ABAB分块矩阵的运算（重点！） 在运算中，可以把子块当作数量元素处理；但矩阵的分块方式要与运算相配套。记，那么 22211211 AAAAA 22211211 BBBBB， 2222212112121111 BABABABABA4， 2222122121221121221212112112111
5、1 BABABABABABABABAAB 22 12 21 11 AAAAA， 221 11212222121 111 112122121 111 111 CAACCAAAACAAAA其中，和都是非奇异的方阵。1 121 11212222)(AAAAC11A22A特别地，设是阶方阵，是阶方阵，那么AmBn， 111BOOA BOOA OABO OBAO111， kkkBOOA BOOA， 11111BOCBAA BOCA 11111BCABOA BCOA方阵的迹方阵的迹迹定义为矩阵主对角线上元素之和，记为；对于iiiaAtr)(矩阵 A 和矩阵 B，有。若多个矩nmmn)()(BAtrABtr
6、阵不同次序相乘都是方阵，那么有。)()()(BCAtrCABtrABCtr51.31.3 线性组合、线性无关与矩阵的秩线性组合、线性无关与矩阵的秩线性组合给定内一个向量组，又给定实数域 R 内 s 个数,nR,1,2 s1k,称向量为向量组2ksksskkk 2211的一个线性组合。,1,2 s线性组合通常可表示为：，其中是1 1.ssAkkkA矩阵，是的向量。nsk1s线性相关与线性无关给定一组维向量，如果存在一组不全为零的数,n,1,2 s1k,.,，使得成立，则称2ksk02211 sskkk线性相关线性相关，换句话说，向量组线性相关等价于组中至少有一个向量可12s以写成其他向量的线性组
7、合线性组合。是线性无关线性无关当且仅当,1,2 s推出02211 sskkk。0.21s矩阵的秩 矩阵的秩就是矩阵列向量组中极大线性无关组的向量个数，记为 rank(A)。 它满足以下性质：1）);()()()(AArankAArankArankArank62）对于矩阵 A，；nm),min()(nmArank3）若 A 是 n 阶方阵且秩为 n，那么 A 是非奇异的，即|A|存在。1.41.4 矩阵的特征根与特征向量矩阵的特征根与特征向量特征根与特征向量的定义设 A 是 n 维矩阵，若存在一个数以及一个非零的 n 维列向量 c，使得，那么就是 A 的特征根特征根，c 就是 A 的特征向量特征
8、向量。cAc通过求解特征方程特征方程得到特征根，再计算其特征向量。0| IA特征根和特征向量满足的性质： 1）所有特征根的和等于 A 的迹； 2）所有特征根的乘积等于 A 的行列式； 3）非零特征根的数目等于 A 的秩；1.51.5 一些重要的矩阵一些重要的矩阵正交矩阵对于维向量和，称n 21,.,n 21,.,n以下运算为和的内积内积：。向量的长度长度定义为 niii 1。若，则称为单位向量单位向量。若| 1，则称向量、正交正交。0如果阶方阵满足，则称为正交矩阵正交矩阵。方阵nQIQQQQQ为正交矩阵的充要条件就是的所有行（列）向量都是单位向量，而且两两正QQ7交。对称矩阵如果阶方阵满足，则
9、称为对称矩阵对称矩阵。nQQQ Q幂等矩阵若 n 阶方阵，那么 M 称为幂等矩阵幂等矩阵。 32MMMnn幂等矩阵的性质： 1）幂等矩阵的特征根或者是 1 或者是 0，所以它的秩等于它的迹；即 rank（M）tr(M)； 2）M 是半正定的。例子（一个常用的幂等矩阵一个常用的幂等矩阵）0M给定一个列向量以及元素全为元素全为 1 1 的维列向量维列向量 ，那么有：1nYni；Yiynii1 iainaYinY1(用内积表示多元素相加)令， )(1 0iinIM易证是对称幂等矩阵，因此；0M000MMM00 0MMM， YyYyYMn10也就是说左乘矩阵能使 Y 中的原始数据转换成离差形式。0M8
10、；00iM0)(01 YMiyynii；YMYYMYMyynii0 0 0 12)()()( ；XMYXMYMxxyyniii0 0 0 1)()()( 此外，都是对称幂等矩阵，前者秩等于1)(XXXXPPIXXXXIMnn1)(k，后者秩等于 nk。1.61.6 二次型与正定矩阵二次型与正定矩阵含有 n 个变量的二次齐次函数的一般形式是),(, 21nxxxf；并约定 ninjjiijnxxaxxxf11, 21),(， ), 2 , 1,(njiaajiij 那么二次型可以表示为，Axxq其中的 n 阶对称矩阵，是数量，是 n 维列向量。)(ijaA qx正定矩阵、半正定矩阵 若对于任意的
11、非零向量，都严格为正，那么 A 就称为正定矩阵正定矩阵；若对于任意的非零向xq 量，都非负，那么 A 就称为非负定矩阵非负定矩阵。xq 正定矩阵的性质： 1）实对称矩阵 A 是正定（半正定）的充要条件是 A 所有的特征根都是大于零（不小于零）9的。2）若 A 是正定，也是正定。1A3）若 A 是正定，B 是非奇异矩阵，那么是正定的。B AB4）若 A 是矩阵，那么和都是半正定矩阵；若 A 是nkAAAA矩阵，而且，那么是正定矩阵，因nk( )rank AkAA此也是非奇异的。1.71.7 线性二次型的微分运算线性二次型的微分运算假设一个多元函数，那么一个梯度向量为)(),.,(1Xfxxfyn
12、； )(.)(/./)(11xfxfxyxyXXfDnn海赛矩阵（二阶偏导矩阵）为22 1112 22 1/./(). /./nnnnyx xyx xf XHX Xyxxyxx 通常涉及的一些运算：1）当，那么。DAx/DxA 2）令，是给定的向量，那么。ya xa1n/yxa 3）令二次型，A 是给定的对称矩阵，那么()g Xx Ax；()/2g XxAx 10例子：1.81.8 随机向量的分布与数字特征随机向量的分布与数字特征 协方差矩阵协方差矩阵 设 Y 是一个由多个随机变量组成的向量，即，那么 21),.,(nYYYY Y 的期望为， nnYEYE YE . )(.)( )(11Y 的
13、协方差矩阵为 )(.)(.)(.)()(2 11112 11nnnnnnYEYYEYYEYEYYE对于 n 个随机变量的线性组合，有Y 11)().(YEYYEnn)(YVar11多变量的正态分布多变量的正态分布 X(,)，其中 X 为 n 维列向量，常被称为正态向量；为期望向量，为协方差矩阵。X 的密度函数为.1 /21/211()exp()()(2 )|2nf Xxx正态向量的线性函数正态向量的线性函数若，那么),(NX),(AAbANbAX标准正态向量的二次型标准正态向量的二次型若，A 是幂等矩阵，那么(0,)nXNI。)(2ArankAXX特别地，。) 1()(2120nXXXMXnii幂等矩阵二次型的独立性幂等矩阵二次型的独立性设，A 和 B 都是幂等矩阵，那么如果就有(0,)nXNI0AB和就独立。AXXBXX满秩二次型的分布满秩二次型的分布设，那么),(NX，), 0()(2/1INX。)()()(21nXX12线性函数与二次型的
