《正态分布均值的贝叶斯估计公式的详细推导》由会员分享，可在线阅读，更多相关《正态分布均值的贝叶斯估计公式的详细推导（3页珍藏版）》请在金锄头文库上搜索。
1、正态分布均值的贝叶斯估计：假设概率密度函数满足正态分布：p Q卩)N (卩Q2)其中方差&2已知，均值卩未知。假设卩的先验概率满足正态分布，即: p (卩)N (p Q2 )0 0现有训练样本集合D=g,x用贝叶斯估计推导待识别样本x的概率密度。根据贝叶斯估计理论，在已有训练样本集合 D 的条件下， x 发生的概率密度为(1)p Qd )_f p Q p) p (p| D )d p首先计算p (p |D)，根据贝叶斯公式：p Q D )=pp) p (p)p p) p (p)p (D )f p (D| p) p (p)d p其中p (D )=J p p) p (p)d p与p及x无关，为常数，
2、令:_ 1 _ 1 p (D ) f p (D| p) p (p)d p另外D_x,x 为独立同分布样本，因此:1np (p| D )_a pp) p (p)_a p(% |p)p(p)i_1alli_11声eXP(% - pli1xexp打。o-2 (p-po )20a_(;邛、灵exp0yn (x - p)2 ii_11 (p-p02&20,1 ( 1 y 2 y_a exp -厶%2 -pZj1x +p 2 +p 2 Q 2i Q 2Q 2i_102 1 ) p p +p2 Q 20 Q 20 丿00_aexp -1 丄y2(Q2x 2 +i & 2 i _10、n+Q 2 Q 2 丿0
3、、x +生(Q 2 i Q 2 丿i_10其中：0、丄卩H0Q 2丿0i=11X 2 +-i Q 20由(2)式可以看出，p(川D)是卩的二次函数的指数函数,因此p (川D )满足正态分布，令：N (卩,Q 2n n1左芬expn1 H-HnI Q丿n比较(2)式和(3)式，Q2nnQ2n因此：1二声expn有：1+ -Q 2 Q 20丄Ex +Q 2 ii=1Q 2Q 20 -nQ 2 +Q 20lQ 2 i=12(Q2n2 hnQ2nH +Q2丿n(3)oQ20、HQ 2 丿 nQ 2 +Q 2 00Q 2Q 2oQ2= 0nQ 2 +Q 20y丄 q 2 hX +0一inQ 2 + Q
4、2i=10简化符号，令：n = y x，则有:n n ii=1p Q D )NnQ 2 八o H +.nQ 2 +Q 2 n 0Q2nQ 2 +Q 20、Q 2Q 2 H，0 nQ 2 +Q 2 丿0(4)由(4)式可以看出：lim h = limnnthn th y(nQ 20 h +HnQ 2 +Q 2 nnQ 2 +Q 20 丿00Q2=lim Hn th nlim Q 2 = limnn sn s ( 、Q 2Q 20nQ 2 +Q 2 丿 0=0因此，当n * 时最大似然估计与贝叶斯估计相同。将(4)式代入(1)式：p (x D)=J p Q p)p (pD)dp=J 12丿J2兀Q
5、Qu2兀QQuexpx22xpp2 p2+ + -Q 2 Q 2 Q 2 uu + uQ 2 Q 2 /uu2兀QQuexpexp2兀QQu1(Q 2 +Q 2 )p2 一 2 (Q 2x + Q 2p )p + (Q 2x2 +Q 2p2 )2G 2G 2uu2Q 2Q 2 Q 2 + Q 2(q 2x2 +Q 2p2 ) uunn2Q 2Q 2uJ expu2Q 2Q 2ur、Q 2x +Q 2pP-uQ2 +Q2 丿nQ 4 x 2 + 2Q 2 xQ 2 p +Q 4 卩 2 -Q 4 X 2 -Q 2Q 2 X 2 -Q 2Q 2 卩 2 -Q 4 卩 2uft2Q2Q2 Q2 +Q2nn-f (q ,Q )exp2兀QQ+2Q2xQ2p -Q2Q2x2-Q2Q2p2uuuu-2Q2Q2 Q2 +Q2nn1 x2 - 2 xp + p 2uQ 2 +Q 2u1f (Q, Q )expu2兀QQuuQ 2 +Q 2u其中：f(Q,Q)=JexpQ 2 +Q 22Q 2Q 2 (p-Q 2x -Q 2puuQ 2 +Q 2 丿udp为高斯积分，其值得大小只与Q，Q有关,ux 和 p 无关。因此 pu(x D)为正态分布:p Qd)N (p ,Q2 +Q2 )u u
