《2-多元正态分布参数估计》由会员分享，可在线阅读，更多相关《2-多元正态分布参数估计（61页珍藏版）》请在金锄头文库上搜索。
1、2011-3-30应用统计方法 2.2 多元正态分布的定义及性质2.2 多元正态分布的定义及性质 一、标准多元正态分布一、标准多元正态分布 设随机向量, 独立同分布 于，则的密度函数为 ),( 21 = = p uuuu p uuu, 21 ) 1 , 0(N ),( 21 = = p uuuu 222 12 11 111 ( ,)exp()(2 )exp() 222 pp p pii ii f x xxxx = = L + += = = , 0|ln ), 2 , 1(01 )( ) 1() 11ln(ln|ln )01 ()1ln(.| , 0, 0 . ,|ln 111 21 21 pt
2、rBIIB IBpi pBtr B xwhenxxB BB IB pBtrBpB pp pi p i i p i i p i i p p p 2011-3-30应用统计方法 ).,(lnmax),(ln 0, )( 2 1 )()( 2 )( 2 1 )( 2 1 )( 2 1 |ln 2 2ln 2 ),(ln 1 11 11 1 )()( 1 = = = += = = LXL X AtrC XX n AtrC XXnAtrC xxtr nnp L n i ii 有 即对固定的以上等号成立当且仅当 :),(lnmax) ,(ln 1 0, = XLXLA n X 时，下面证明当 2011-3
3、-30应用统计方法 时成立即仅当 上等号是正定矩阵，由引理以若取 n , |ln 22 |ln|ln)( 2 |ln|ln)( 2 )(|ln 2 )2ln( 2 )( 2 1 |ln 2 )2ln( 2 ),(ln 2/12/1 2/12/1 1 2/12/12/12/1 1 11 1 1 1 A I n A B n A B n Annp C n A n A n A tr n C n A n A n A tr n C n A tr nnp Atr nnp XL p = = += += += = 2011-3-30应用统计方法 .| e2 ),( |,|ln 2 )2ln(1( 2 ),(ln
4、max),(ln 2/2/ 0, nnp X A n n A XL n Annp XL n A XL = += = ）（ 似然函数的最大值为： 所以 2011-3-30应用统计方法 A n Xpn NniX pi 1 , ),(), 2 , 1( )( = = 的最大似然估计为则， 的随机样本是多元正态总体定理设 的无偏估计是故 无偏性： ：的最大似然估计的性质三 X n n xE n xE n XE p n i p n i n i ip n i i = = = = = = = = 1 1 1 1 1 1 1 1 1 )( 1 )( 1 )( 1 , 2011-3-30应用统计方法 的强相合估
5、计。，是可以证明 相合性（一致性） 即是有效估计的最小方差无偏估计，是可以证明 有效性： 样本均值。 样本协方差阵。 的无偏估计是的无偏估计，而不是 又 = = = = = = = , 3 , 2 1 11 ) 1()( ) )()()( 1 1 1 1 1 1 X SX X A n SA n nZD ZZEZZEAE n nn 2011-3-30应用统计方法 pnAP AX NZZZZA n NX NpAX pn n t tt d p p = = = 104 3 ), 0(, )2( );,(1 ),( 11 1 1 ）（ 相互独立；和）（ 分布；独立同其中 ）（ 和样本离差阵，则 的样本均
6、值向量元正态总体分别为和设定理 nnij nnn n r nn rr rr n = = )( /1/1 )1(1)1( 111 形式阶正交矩阵，具有以下是证明：设 2011-3-30应用统计方法 .),2, 1(),( , 1 )()1( )( )1( 1 维随机向量为即 令 pnt r r XXZ X X X Z Z Z tn t nt nn = = = = = = = = = = = = 时当 时当 时当 时当 维正态随机向量，且 也是的线性组合，故维正态随机向量是 0 )()(),cov( 0 )( , 1 1 )( )()1( n i ii n i itit tnt rr ZEZZEZ
7、EZZ ntn nt XErEZ p ZXXpZ 2011-3-30应用统计方法 ) 1 ,( 1 ),( 1 )1( 1 )( = = = n NZ n X nNXnX n Z pn p n n 故有 AXXXX XXZZXXZZ XXXXXX ZZ Z Z ZZZZ n n nn nn n n n n = = = = = = = = = = = )( XXn , ),()2( 1 )()( 1 )()( 1 )()( 1 1 1 )()( 1 1 1 且 2011-3-30应用统计方法 也相互独立。与相互独立，故与 的函数，而是的函数是 XAZ ZZZXZZZZA n nnn n 1111
8、 1 1 ,) 3( = = ).()() 1(, , 1)0(),()4( 11 nppBpAA BrankAranknpBBBA pn APBBAZZB n = 从而的秩也是，故的秩是是正定矩阵时，当 矩阵。显然是 ，以下来证明：则记 . 0 , 10, 1 线性相关列线性相关的前 容易看出：列线性相关的前 为此须证我们来证明反之，设 p ZZPpBP pBP APpn = = = 2011-3-30应用统计方法 0)0( ,|00 ,|, ,|, , , 221 2221 2221 21 1 111 = = = = = = + pE zZzZZpPpE zZzZzzZPpE zZzZzz
9、ZPpE ZZZpP ZZZZZP pp ppp ppp p p i piii ，使维向量 张成的子空间落入由 的线性组合可以表示成 的线性组合可以表示成 的线性组合可以表示成 0 . 00 , 0), 0(, 0, 0), 0( 11 1 1 的概率是 的子空间取值落入维数小于或者说 即且对常向量 而事实：由于在证明过程中用到如下 pZZaP aaaaNZaa NZ p = 2011-3-30应用统计方法 . , ),cov( ,)( 1 ij ijij jjii ij ji ji ij jip r ji VarXVarX XX XXXXXp 然估计量 的最大似列的元素。试求行第的第是协方差
10、阵其中 的相关系数为维正态随机向量例设 计：参数函数的最大似然估四 = = jjii ij jjii ij ijij ij n t jtjitiij ij n t tt t aa a r a n xxxx n XXXX n A n ntX = = = = = = 1 )( 1 )( 11 ),2, 1( 1 1 )()( )( 的最大似然估计量相关系数 的最大似然估计为的元素 的最大似然估计为则解：给定样本 2011-3-30应用统计方法 2011-3-30应用统计方法 (p50):2-19 ; /*-yyexa0219.sas */ data d0219; input num x1 x2 x
11、3; cards; 1 65 45 27.6 2 70 45 30.7 3 70 48 31.8 4 69 46 32.6 5 66 50 31.0 6 67 46 31.3 7 68 47 37.0 8 72 43 33.6 9 66 47 33.1 10 68 48 34.2 ; proc print; run; proc corr data=d0219 cov csscp ; var x1-x3; run; quit; 2011-3-30应用统计方法 The SAS System 14:12 Tuesday, February 27, 2008 1 Obsnum x1 x2 x3 1 1
12、 65 45 27.6 2 2 70 45 30.7 3 3 70 48 31.8 4 4 69 46 32.6 5 5 66 50 31.0 6 6 67 46 31.3 7 7 68 47 37.0 8 8 72 43 33.6 9 9 66 47 33.1 10 1068 48 34.2 2011-3-30应用统计方法 CSSCP Matrix x1 x2 x3 x1 42.90000000 -17.50000000 17.41000000 x2 -17.50000000 34.50000000 5.55000000 x3 17.41000000 5.55000000 55.70900000 Covariance Matrix, DF = 9 x1 x2 x3 x1 4.766666667 -1.944444444 1.934444444 x2 -1.944444444 3.833333333 0.616666667 x3 1.934444444 0.616666667 6.189888889 2011-3-30应用统计方法 Simple Statistics Variable N Mean Std Dev Sum Minimum Maximum x1 10 68.10000 2.18327 681.00000 65.00000 72.00000 x2
