关于多维正态分布资料

《关于多维正态分布资料》由会员分享，可在线阅读，更多相关《关于多维正态分布资料（10页珍藏版）》请在金锄头文库上搜索。

1、关于多维正态分布 （共 7 页） 关于多维正态分布 定义 设，是阶实对称正定方阵，称n维随机向量RnnX服从正态分布 ( ,N)，如果X有以下形式的联合概率密度函数 1 11 ( )exp()() 2 (2 ) det( ) X n fxxx = 教材相关内容：第 180 页例 3.4.12。2n =的情形，第 141 页二元正态分布。 性质 1： （正态分布在可逆仿射变换下仍是正态分布） 设维随机向量n ( , )XN)，A是n阶实数可逆方阵，。则Rnb(,YAXbAb A AN=+。 证明：注意到 1( )xAYb =， 1( )xAYAb =， 2 det()det( ) det( )

2、det()det( ) det( )A AAAA= = 所以， 1 111 1 ( )( ) 1 () |det| 11 exp()() 2| (2 ) det 11 exp()() () 2 (2 ) det() YAXb X n n fyfy fAyb A AybAyb A ybAA AybA A A + = = = = 1 det| ) 故(,YAXbN Ab A A=+。 教材相关内容：第 162 页例 3.3.9。 1 关于多维正态分布 （共 7 页） 性质 2： （具有独立分量的正态分布随机向量，边缘分布） 设 1111 22 0 , 0 X XN X = 22 其中X是n维随机向

3、量， 1 X是维随机向量， 1 n 2 X是维随机向量；， 2 nR i n i ii 是阶实数矩阵，。则 i n1,2i= ii 是对称正定矩阵， 1 X与 2 X独立，并且 (,) iiii XN，i。 1,2= 证明：1、易见是对称矩阵， ii 1,2i=。 () 111 111 11 22 0 00 00 x xxx = 而且当且仅当。因此 111 1 0xx= 1 0x = 11 是对称正定矩阵。类似可证是对称正 定矩阵。 22 2、对 ， 11 22 0 0 = 自然有 1 111 1122 1 22 0 ,detdetdet 0 = = 从而 12 11 ,1212 2 2 1

4、1 11 (,)exp(,) 2 (2 ) det 11 exp 2 (2 ) det i XX n iiii n i ii x fx xx x x xx = = = 易见 1 11 ()exp,1,2. 2 (2 ) det i i Xiiiii n ii fxxxi = = 从而 1212 ,1212 (,)()() XXXX fx xfxfx= 故 1,2 XX独立，且(,) ii XN ii 。 2 关于多维正态分布 （共 7 页） 性质 3： （正态分布随机向量的分量的独立化，正态分布的边缘分布仍是正态分 布） 设 1111 2221 , X XN X = 12 22 其中X是n维随

5、机向量， 1 X是维随机向量， 1 n 2 X是维随机向量；， 2 nR i n i ij 是n阶实数矩阵，i。记 ij n1,2= 11 1 221112 0YI Y YI = 1 2 X X 其中是阶单位矩阵。则 i I i n 1. 1 ，从而 1 Y和 2 Y独立。 111 1 22111122211112 0 , 0 YN 2. (,) iiii XN，1,2i=。 证明：根据性质 1， 111 1 2211122 1 1111112 11112 11 211122211122122 2 111 11 22111122211112 0 00 , 0 0 , 0 YIX Y YIX I

6、II N III N = = 由性质 2 知，和独立，并且 1 Y 2 Y 11111 (,)XYN=。用类似的办法可以证明 22 (,XN 22) 。 注记：注记：这里使用的变量变换是从不独立（这里使用的变量变换是从不独立（ 1,2 XX 2 H 可能不独立）到独立（构造出来 的是独立的） ，而对正态分布随机向量的分量，独立与不相关是等价的（性 质 3） ，而不相关相当于几何上的垂直（关于空间上的内积） ，因此这本质上 就是内积空间中向量组的 可能不独立）到独立（构造出来 的是独立的） ，而对正态分布随机向量的分量，独立与不相关是等价的（性 质 3） ，而不相关相当于几何上的垂直（关于空间上

7、的内积） ，因此这本质上 就是内积空间中向量组的 Gram-Schmidt 正交化过程。 这方法在教材第 141 页例 3.1.7、第 149 页例 3.2.5、第 174 页例 3.4.9、第 189 页例 3.5.4 中都有体现。 另外，这里得到的结论对应教材第 149 页例 3.2.5（二元正态的边缘分布） 。 正交化过程。 这方法在教材第 141 页例 3.1.7、第 149 页例 3.2.5、第 174 页例 3.4.9、第 189 页例 3.5.4 中都有体现。 另外，这里得到的结论对应教材第 149 页例 3.2.5（二元正态的边缘分布） 。 12 ,Y Y 3 关于多维正态分布

8、 （共 7 页） 性质 1： （正态分布在非退化仿射变换下的不变性，性质 1 的一般形式） 设n维随机向量( , )XN，A是mn阶实数方阵，rankAm=（即的行向量A 是线性无关的） ，。则YARmb(,N Ab)A AXb=+。 证明：因为是满行秩矩阵，所以Amn。如果mn=，则是可逆矩阵，这时 结论如 b 中形式。 A 如果，则的个维行向量线性无关，我们可以将它们扩充为n维 空间的一组基，也就是说存在 mn 记 1 n = ? ， AC=， 则A是n阶可逆矩阵，于是。 2 CC= 2 CCAA = 令 1( YAX) =，则由性质 1 知道 111111 (,)( n YA XAN A

9、AAAN =0,I ) 其中I是n阶单位矩阵。于是的联合概率密度函数为 n Y 2 1 1111 ( )expexp 22 2 (2 ) n Yk n k fyy y = = y ， 因此，于是 . . . 1,., (0,1) i i d n YYN ()0 k E Y=， 1,; Cov( ,) 0,. ij ij Y Y ij = = ，即( )0E Y =，I Yn =， 因此，由数学期望和协方差矩阵的性质，得到 ()()( )E XE AYAE Y=+=+=， XY AAAA= 。 上述证明给出的构造过程叫做正态分布的标准化过程（我们称为上述证明给出的构造过程叫做正态分布的标准化过程

10、（我们称为n维标 准正态分布） 。 维标 准正态分布） 。 (0,I ) n N 教材相关内容：有了协方差矩阵就可以很容易地得到相关系数，对的情形， 2n = 5 关于多维正态分布 （共 7 页） 2 11 2 122 2 = ， 所以 () 2 Var ii X=， 121 Cov(,)XX 2 =， 从而 12 1212 , 12 12 Cov(,) VarVar XX XX XX = 是 12 ,XX的相关系数，这就是教材第 174 页例 3.4.9 的结论。 教材第 180 页例 3.4.12 中定义多维正态分布时，数学期望向量和协方差矩阵的说 法本不应该写在定义的叙述中，因为它们是概

11、率密度函数的自然推论。 性质 5： （对正态分布随机向量的分量，独立性与不相关性等价） 设 1111 2221 , X XN X = 12 22 其中X是n维随机向量， 1 X是维随机向量， 1 n 2 X是维随机向量；， 2 nR i n i ij 是n阶实数矩阵，i。则 ij n1,2= 1 X与 2 X独立当且仅当 1221 0= =； 证明：充分性就是性质 2。下证必要性。因 1 X与 2 X独立，所以 1 X的任何分量U 与 2 X的任何分量V独立，于是Cov(,)U V0=，而根据性质 4，是X的协方差 矩阵，的元素是 1221 = 1 X的分量与 2 X的分量的协方差，因此。 1

12、221 0 = 教材相关内容：第 178 页性质 3.4.13。 6 关于多维正态分布 （共 7 页） 性质 6： （正态分布的条件分布仍是正态分布） 设 。 111112 222122 , X XN X = 则 1. 在已知 11 Xx=发生的条件下， 2 X的条件概率分布是正态分布 11 221111122211112 (),Nx + ) 2. 2 X关于 1 X的线性回归与非线性回归相同：)E X 1 212211111 (|)(XX =+ 。 证明：由性质 3，我们知道与 1 2221111 YXX = 1 YX1=独立，并且 11 222111122211112 (,YN ) 于是在

13、已知 11 Xx=的条件下， 1 2221111 XY =+ x 2 ，X的条件概率分布就是 的概率分布，根据性质 1，的分布是正态分布 1 22111 Y + 1 x 1 22111 Y + 1 ) 1 x ， 11 221111122211112 (),Nx + 这就是在已知 1 Xx=的条件下 2 X的条件概率分布。再有性质 4 知，这个条件分 布的数学期望为 1 2112211111 (|)(E XXxx) =+ 。 由于它关于 1 x是一次的，所以这即是线性回归又是非线性回归。 教材相关内容：第 189 页例 3.5.4。第 193 页第 13 行的公式。 7 关于多维正态分布 （共 7 页） 教材第 162 页例 3.3.9 设X与Y独立同分布，都服从正态分布 2 ( ,)N 。记 , . UXY VXY =+ = 试求(,的联合密度函数，问U和V是否独立？ )U V 解：由于X与Y独立，都服从正态分布 2 ( ,)N ，所以 2 2 0 , 0 X N Y