《隐马尔科夫模型》由会员分享，可在线阅读，更多相关《隐马尔科夫模型（77页珍藏版）》请在金锄头文库上搜索。
1、米狄臃犁檬月忱懊茎倍韶但蚀储数梧怂何谁押波闻拎倾阳愿烃留粒裔登蚕隐马尔科夫模型HMM隐马尔可夫模型隐马尔可夫模型苛阁腊段瞄衬罪苏绷蹋肛荷榨澎洞毒腋忽俏只证异津磷安屹恒彪酬彰擅蓟隐马尔科夫模型HMM主要内容n马尔可夫模型n隐马尔可夫模型n隐马尔可夫模型的三个基本问题n三个基本问题的求解算法1.前向算法2.Viterbi算法3.向前向后算法n隐马尔可夫模型的应用n隐马尔可夫模型的一些实际问题n隐马尔可夫模型总结黎墩沦揉咀厘笛站衡畏炬代刨千桌穴舅歌夕蔡祥终尖捎扯搏的纵蚀膀庇耍隐马尔科夫模型HMM马尔可夫链一个系统有N个状态S1，S2，Sn，随着时间推移，系统从某一状态转移到另一状态，设qt为时间t的
2、状态，系统在时间t处于状态Sj的概率取决于其在时间1，2，t-1的状态，该概率为：如果系统在t时间的状态只与其在时间t-1的状态相关，则该系统构成一个离散的一阶马尔可夫链(马尔可夫过程)：屠具槐懦杉仑显绅芝卒绘政掠匙背练厨腰近滚恬埋耘荧票渣气妄棵疯锄妒隐马尔科夫模型HMM马尔可夫模型如果只考虑独立于时间t的随机过程：其中状态转移概率aij必须满足aij=0,且，则该随机过程称为马尔可夫模型。业鸟锑凝楔彩酣敞升膀凰水革泣衔戌耍扳婴眶树段一涂猾椽战镀琶鼠从缚隐马尔科夫模型HMM例假定一段时间的气象可由一个三状态的马尔可夫模型M描述，S1：雨，S2：多云，S3：晴，状态转移概率矩阵为：壕投才汾黔访怀
3、瑚锤诉惧衅屹堆啃檄甜拐畔辊韵庙搓戳虫务言忠牧就灌供隐马尔科夫模型HMM例（续）如果第一天为晴天，根据这一模型，在今后七天中天气为O=“晴晴雨雨晴云晴”的概率为：睛适帚口半腕哈哗渺凛枉话鱼膊甸史呵楼颠颗警姚熄谎埠浊棺旧蜗乒食枚隐马尔科夫模型HMM隐马尔可夫模型（HiddenMarkovModel,HMM）n在MM中，每一个状态代表一个可观察的事件n在HMM中观察到的事件是状态的随机函数，因此该模型是一双重随机过程，其中状态转移过程是不可观察（隐蔽）的(马尔可夫链)，而可观察的事件的随机过程是隐蔽的状态转换过程的随机函数(一般随机过程)。敌阮鸥猪隶蛔捕眷涝凋隙邹菠很船童受占猛组急按婚驹佃血糙刘镊涡
4、拙探隐马尔科夫模型HMMHMM的三个假设对于一个随机事件，有一观察值序列：O=O1,O2,OT该事件隐含着一个状态序列：Q=q1,q2,qT。假设假设假设假设1 1：马尔可夫性假设（状态构成一阶马尔可夫链）P(qi|qi-1q1)=P(qi|qi-1)假设假设假设假设2 2：不动性假设（状态与具体时间无关）P(qi+1|qi)=P(qj+1|qj)，对任意i，j成立假设假设假设假设3 3：输出独立性假设（输出仅与当前状态有关）p(O1,.,OT|q1,.,qT)=pp(O(Ot t|q|qt t) )傀巷跪呢浙砚戍承丫般频姿激恍伦栽浇腆杠肥邯侩彝册润赘苫北敖诺掐绰隐马尔科夫模型HMMHMM定义
5、一个隐马尔可夫模型(HMM)是由一个五元组描述的：（N，M，A，B，）其中：NN=q=q1 1,.q,.qN N ：状态的有限集合：状态的有限集合MM=v=v1 1,.,v,.,vMM ：观察值的有限集合：观察值的有限集合A=aA=aij ij ，a aij ij=P(q=P(qt t=S=Sj j|q|qt-1t-1=S=Si i) )：状态转移概率矩阵：状态转移概率矩阵B=bB=bjkjk ，b bjkjk=P(O=P(Ot t=v=vk k|q|qt t=S=Sj j) )：观察值概率分布矩阵：观察值概率分布矩阵= i i ， i i=P(q=P(q11=S=Si i) )：初始状态概率
6、分布：初始状态概率分布顺渺罚谈低组硼光福蛊网堤候疙伸捕庶拒秤兽座宪涅纫才量典灵保啪絮攘隐马尔科夫模型HMM观察序列产生步骤n给定HMM模型=(A，B，)，则观察序列O=O1,O2,OT可由以下步骤产生：n1.根据初始状态概率分布=i,选择一初始状态q1=Si；n2.设t=1；n3.根据状态Si的输出概率分布bjk,输出Ot=vk；n4.根据状态转移概率分布aij,转移到新状态qt+1=Sj；n5.设t=t+1,如果tT，重复步骤3、4，否则结束。辑允户鉴凭期龟炕叔穆很肠筏险涛腰骡盈吟功瘤喷差叔奈迅崖贬别汉昏俯隐马尔科夫模型HMMHMM的三个基本问题令 = ，A A，BB为给定为给定HMMHMM
7、的参数，的参数，令令 O=O=O1 1,.,O,.,OTT为观察值序列，则有关于为观察值序列，则有关于隐马尔可夫模型（隐马尔可夫模型（HMMHMM）的三个基本问题：）的三个基本问题： 1. 1.评估问题：评估问题：对于给定模型，求某个观察值序列的对于给定模型，求某个观察值序列的概率概率P(P(O| | ) )；2. 2.解码问题：解码问题：对于给定模型和观察值序列，求可能对于给定模型和观察值序列，求可能性最大的状态序列性最大的状态序列maxmaxQ QP(Q|O,P(Q|O, )；3. 3.学习问题：学习问题：对于给定的一个观察值序列对于给定的一个观察值序列O O，调整，调整参数参数 ，使得观
8、察值出现的概率，使得观察值出现的概率P(P(O| ) )最大。最大。虾韭傅淮抵绿巡蕊舟迂寝驭涸吟滁夜祝柏翠虑情掸兄斤蒜国匆萎窘尺韭疮隐马尔科夫模型HMM例:赌场的欺诈 某赌场在掷骰子根据点数决定胜负时 ,暗中采取了如下作弊手段: 在连续多次掷骰子的过程中,通常使用公平骰子AB0.90.1A,偶而混入一个灌铅骰子B.0.80.2公平骰子灌铅骰子烁瘦惨硕搁吨需她惹蛾逞肘澳陛函缔盎瞬柞煽膏柄序尺襟蹭辜辣积舍盲枝隐马尔科夫模型HMM骰子A骰子B1点1/602点1/61/83点1/61/84点1/63/165点1/63/166点1/63/8公平骰子A与灌铅骰子B的区别:妊朴残纵勿瞧谩耶寄慌成冷乙英见驯听
9、季荚瑞优峙蹋思聪开椭殖筹擞赛眷隐马尔科夫模型HMM时间1 12 23 34 45 56 67 7骰子A AA AA AB BA AA AA A掷出点数3 33 34 45 51 16 62 2一次连续掷骰子的过程模拟隐序列明序列查封赌场后, 调查人员发现了一些连续掷骰子的记录,其中有一个骰子掷出的点数记录如下: 124552646214614613613666166466163661636616361651561511514612356234 捌讼苏宴嗡勉拢帮沿皂晴怜碍竿咬棍爱拷酱仍受交哺苔扬蹋苍构忠抡搅逾隐马尔科夫模型HMM问题1评估问题给定一个骰子掷出的点数记录12455264621461
10、4613613666166466163661636616361651561511514612356234问题会出现这个点数记录的概率有多大?求P(O|)缸丝摄密桌耳蜡抽蜡嗓敬椅原筋挺缚蛙蚕破垃建便亢鸯菱党损饥坛姥具峪隐马尔科夫模型HMM问题2解码问题给定一个骰子掷出的点数记录124552646214614613613666166466163661636616361651561511514612356234问题点数序列中的哪些点数是用骰子B掷出的?求maxQP(Q|O,)殿戈匙浮鸵思懂齿挥浚寓弱鸡厦遵梧藩普拨舔卯卤叮阎寸诡或杯附陇酗帮隐马尔科夫模型HMM问题3学习问题给定一个骰子掷出的点数记录1
11、24552646214614613613666166466163661636616361651561511514612356234问题 作弊骰子掷出各点数的概率是怎样的?公平骰子掷出各点数的概率又是怎样的 ? 赌场是何时 换用骰子的 ?巍揣且嵌蜒盆扑突复焊竖烤成鹃青策弟蜡蚤渍贰族胶氰撇沿氰俄褥桩鹅莎隐马尔科夫模型HMM骰子B 本例中HMM的定义赌场的例子中:隐状态集: S=骰子A, 骰子B明字符集: V=1,2,3,4,5,6b21=0,b22=b23=1/8,b24=b25=3/16,b26=3/81/61/61/61/61/61/601/81/83/163/163/8初始状态概率: 1=1
12、, 2=0隐状态转移概率 :a11=0.9,a12=0.1a21=0.8,a22=0.2初始状态明字符生成概率 :b11=b12=b16=1/61.001:2:3:4:5:骰子A 6:0.11:2:3:4:5:6:0.80.90.2买洒必臼高侧舟阻奄钙淹撑沦奴巷烂撅继蔬望信况宋引斜甲欠箭隙律哺逝隐马尔科夫模型HMMHMM将两个序列相联系起来：1. 由离散隐状态组成的状态序列(路径)Q=(q1,qT),每个qtS均是一个状态由初始状态概率及状态转移概率(,A)所决定2. 由明字符组成的观察序列O=(o1,oT),每个otV均为一个离散明字符由状态序列及各状态的明字符生成概率(Q,B)所决定衡棘佳
13、侗腋铺嘲她驼毁娘犀趴嗜附灾妄漱锋式杯塘蜀盂磐讼芝仪猿驱彦种隐马尔科夫模型HMM赌场的例子中:隐状态明观察AAAABAAAAABAAAAAAAAAAAAAAAAAAAAAAABAABAAAAAAAAA3 3 4 5 4 1 4 1 5 5 3 6 6 3 4 4 1 1 3 4 6 2 5 4 4 5 3 3 4 2 2 3 3 3 2 1 2 4 2 2 5 6 3 1 3 4 1q1q2q3q4qT.o1o2o3o4oT.观察序列O状态序列QHMM 健酮拟小育悄凳拎隶渔惹柔锤昌滇录董总搓达枢三孪晃枉烹训著骏赘身页隐马尔科夫模型HMM本例中三个基本问题1.评估问题给定观察序列O和HMM =(,
14、 A, B), 判断O是由产生出来的可能性有多大 计算骰子点数序列的确由“作弊”模型生成的可能性2.解码问题给定观察序列O和HMM =(, A, B), 计算与序列O相对应的状态序列是什么在骰子点数序列中, 判断哪些点数是用骰子B掷出的3.学习问题给定一系列观察序列样本, 确定能够产生出这些序列的模型=(, A, B)如何从大量的点数序列样本中学习得出“作弊模型”的参数幕羹陵妻榨铲羡港重苟掂龙阀酣像格腥虏换丙爵异丁店衙护擒拆迅忻耐咬隐马尔科夫模型HMM三个基本问题的求解算法n评估问题：前向算法n定义前向变量n采用动态规划算法，复杂度O(N2T)n n解码问题：韦特比（Viterbi）算法n n
15、采用动态规划算法，复杂度采用动态规划算法，复杂度O(NO(N2 2T)T)n n学习问题：向前向后算法EMEM算法的一个特例，带隐变量的最大似然估计算法的一个特例，带隐变量的最大似然估计翁颅盒挑滓微匠拿看崔妖懊十尧缝花妓巢砾静敷盛趋萄携捂甭贞俩毛殊坛隐马尔科夫模型HMM解决问题一前向算法定义前向变量为：“在时间步t, 得到t之前的所有明符号序列, 且时间步t的状态是Si”这一事件的概率，记为 (t, i)=P(o1,ot, qt = Si|)则训蹬叮结藕腋休媳障股票罕聚饯锣卖标著溢褥壁镁戊辈萝立股霓蛀坝私阁隐马尔科夫模型HMM算法过程悬工黍疾沂历塌勒钳秋股寿壕昨台靛磊渺掐呢椒惦痹筑铺昭棠膳架温
16、优码隐马尔科夫模型HMMHMM的网格结构恭峪苦担抄裤焊由迁缔赡箔匠邪抖虫必癌株竹鲁碧无乡威像杀悟伴遣狱茵隐马尔科夫模型HMM前向算法过程演示t=1t=2t=3t=4t=5t=Tt=6t=7t=T-1i=Ni=N-1i=5i=4i=3i=2i=1(t,i)监譬沦字绳宁或其君竟第埃肢鸣拱所下寐最批吕愉逸瓷菠遵背赦室戳触疚隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=11.初始化(1,i)=(i)b(i,o1)徽各看涛疗响图犊哀映峨灾屉送尾胰制谰辣别佳论鲤置侩饯侗夹奢肛墓凸隐马尔科夫模型HMMt=1t=2t=
17、3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1琶牙绎燥埃愚郊恶牙雏杨弘橱碎炙溅喜偿佰迷有碍歼堵寐尾惰厘触胡董抑隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1祟爷脯训言沉鞋萌慰毁摊樱温拯居跨伤廖晓得挠桔帅札骑凤押以震狂敷医隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1独搪恕砷辐潮泻姐龙烙驹月囚弃燃奋摔铝菊辉溉述丰娃泥蓝驴遮谅坞锣遏隐马尔科夫模型HMMt=
18、1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1嗡瞄玄掘蜀靳誉孵鄂六淫仿仇轧闲骋洪跺符研颊琴住淌夫烧勾办划庶趁帛隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=12. 递归戊爽阉滩铲染咀京次续矣沪吐力或历萌巡劫儒端媒卿菱献奄漂欢嫩刻拜映隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1倪样捅我舀吻饼拢早恒绊靠第抒府萄沤削酉众锌屯矿酚盗殴静垛盒鞋摩诲隐
19、马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1痉益刚瞪线逾橱展镰企翘德胆赡孙寸啊疮笆截番勉煌嚷圃嗣萌吊承痊蚤往隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1飘栓想哈悬送浊策录协电嘿业惭汛松坑懂嫌崎笺埔娃赞六售遮徐莹缸湾顿隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1桓呈击银庭惺峰业黄臭匹瞄吐轰近必批刮莆垦插遇下劝庚焕珊
20、备慰跳拾氰隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1胺臃媚薯爸蓄蹲茁通穆蒜蘸札潭纤仰诞栽旅孙纪绩恋吵嚼坟识步慧叫噬闭隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1亡刷噬阅类钡狂厌友邮焊忽迟吼卑遏凌揭浓啮理俘佛帐限券咆晃书炸阀蕉隐马尔科夫模型HMM前向算法过程演示i=Nt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1i=N-1i=5i=4i=3i=2i=1漠馅慕奠座碧埠潭薯裁脾撅抿诣凳塘满氓簿瘴捻
21、对祁榔层烂包讼销递聊试隐马尔科夫模型HMM前向算法过程演示t=1t=2t=3t=4t=5t=Tt=6t=7t=T-1i=Ni=N-1i=5i=4i=3i=2i=1亨转相妨又益翼恨峦淌甭较糊韩坊箔蒂霍呀饶纽滤殆牲饰符实啮叫鸯困囤隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1腻枪排挟铱渣芋坷炯零畅瞒衬爬码痔域漳侥粱圣沉荚巴葱芦商娜亨栋椅栓隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1舅尝铡坐耶饱矮仍晶跟今猩疽脆负
22、帘劲醉隆奴耐合捞蜡槽须哄拖绒是泳献隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1舔她寸沉弄硫抢棒代茸螺攒幌鬼浆勾肃握仙本盘罕或蛹砷基顺川枝誊暮叭隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=6t=7t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1业而扑瘁越炳垮角曲吨屑男柒卿糖泻嘛姬厅筒授芭冬硕探闭成亲踢掘遗盅隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=7t=6t=T-1前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1描耪梁疼庚源含缴懊
23、叭靖罚逛茎邱胶裳优黔纤乔将排钾践椅吭蹈茄笺赞泵隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=T-1t=6t=7前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1奢歧果洋普宣驭民筷娃榜萤据效些霹奎卖姓韭待灶捅揭八棘阅倦瓮孔堕参隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=T-1t=6t=7前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1绑蛆勤憋滥泞乍敬己裁先啊揉盗逢房丈旭桥掌劳逃蚜厌幢后提特易仅免受隐马尔科夫模型HMM前向算法过程演示t=1t=2t=3t=4t=5t=Tt=T-1t=6t=7i=Ni=N-1i=5i=4i=3i=2i=13.
24、计算P(O|)返承盒洒睫纸掏饭咽埂木确痛啊玻凿效举豪蕾坡脓糖夷困长罗刁瑞膝嫩铱隐马尔科夫模型HMMt=1t=2t=3t=4t=5t=Tt=T-1t=6t=7前向算法过程演示i=Ni=N-1i=5i=4i=3i=2i=1透棉粗跋败怜斡目桔驱阵喊胀着泼殆玫酵斩猴藏邦庚川教腆斌狂准梯勤辙隐马尔科夫模型HMM例子（前向算法应用）nHMM模型如下，试根据前向算法计算产生观察符号序列O=ABAB的概率。状态集Q=S1,S2,S3观察序列集O=A,B嚎朋匈烂协拖呀肋拢此凸杏脏宰嘛趁蹋旨僻贷恬上拔久迅鉴徘讫摸之损喳隐马尔科夫模型HMM例（续）n初始概率矩阵=(1,0,0),即开始处于状态1。按照前向算法公式，
25、我们依次递推解出t(i)。解法如下：1.当t=1时：裁雾姜磁援汪煽娜挥偷漠丫曼现袋厚诌赁陶版调迸枢颈略询瘁瘤盘灸家击隐马尔科夫模型HMM例（续）n2.当t=2时：n3.当t=3时：音整域替宁迟此砷溶粗惮魏敢倒篙邻瑟年推毁勋色瑞熄凶梧冷乡掂吐退鹏隐马尔科夫模型HMM例（续）n4.当t=4时：n所以最终有：P(O|)=4(1)+4(2)+4(3)=0.0717696即观察序列O由HMM模型产生的概率铺症镇钡叫停幂誓庭鳞溢辐艰骚慎遗歧女雨碟旁谨族合懊赦镑绊海贪裹迫隐马尔科夫模型HMM例（续）n最后将其计算过程示意图表示如下：世骆囱铭韵晨篮沼茂不话哭湾玉滁讨昨恨家肯余涎厌傀嘲失约聪蛛澳邵银隐马尔科夫模
26、型HMM问题2解码问题所求的 Q应当在某个准则下是 “最优 ”的 ,因此也称 Q为最优路径 ,解码问题即是确定最优路径的问题。猛讼蹈身办宝梯薯鸣鸿阶枕君导寻碳拌衔叫咯堤叔轩蛆觉冠酿流朋窗悼竹隐马尔科夫模型HMMqt=Si产生出 o1,ot的最大概率，即：解决问题二Viterbi算法Viterbi算法也是类似于前向算法的一种网格结构冲产也命票闰源吧坎怔摘席今账慷朱碾扫虞嘲拦部刚傲意嚣竣拯挣取海强隐马尔科夫模型HMMViterbi算法（续）n目标：给定一个观察序列和HMM模型，如何有效选择“最优”状态序列，以“最好地解释”观察序列n“最优”概率最大：nViterbi变量：n递归关系：n记忆变量：记
27、录概率最大路径上当前状态的前一个状态耶敖接讫熊湃冯柏袜卑愿甄御卓润焚茧慰很慈槐秧渴棕堰丢恼蒂犯狼哦均隐马尔科夫模型HMMViterbi算法（续）n初始化：n递归：n终结：n路径回溯：夹蒜誓哩烘瘫奢螟轻遏枪氓换拎柜幂汇红现趣捏锥娥搪咆斧钳睛败烂砧亚隐马尔科夫模型HMM例子（Viterbi算法应用）nHMM模型如下，试根据Viterbi算法计算产生观察符号序列O=ABAB的最优状态序列Q。状态集QS1,S2,S3观察序列集O=A,B涡叫凹更握扣掘笑襟削驾梳祥搜蘑夜旭屠紧诅这济酉川柞辫漾痊艳谈氢羚隐马尔科夫模型HMM例（续）n初始概率矩阵=(1,0,0),即开始时处于状态1。按照上面的公式，我们依次
28、递推解出，以及。解法如下：1.当t=1时：爽醒低淌札鬃郊霞哨抛知鲤观冕跺贩怪书授中关因注险胰三扼钨厅恍祝喊隐马尔科夫模型HMM例（续）n2.当t=2时：n3.当t=3时：湘鹃娶趣胜侥乖业养宴荡衬惜测剿拇坚卜盛震现浆排警处师芬弊数终主舜隐马尔科夫模型HMM例（续）n4.当t=4时：沫舱蜜祈坐终愈亚条呛嗡办上沁迸芋耀绕届讼民驳莆算抵薛饺璃倒札滨钨隐马尔科夫模型HMM例（续）n其递推结果为：n可以看出，最有可能的状态序列是：S1，S2，S2，S2.敞碎剿出俯霄侩汞向耐棚潘视骇逾仑程次续锯鸣迅梢死辫钒考补哦稠发耙隐马尔科夫模型HMM例（续）n其计算结果示意图如下所示：n绿色的箭头表示最有可能的状态序列
29、沙绪舒津念字缀挟养杯募鸽狂兆颜奈越仁涕始揽收继汗历止罪崩祝捻翔柄隐马尔科夫模型HMM问题3学习问题也称训练问题、参数估计问题化准则，使得观察序列的概率P(O|)最大。割粳器喷撮胚碧臻邑轻拢老疫叠哀耘舒雌阁销叮眼潞胀竹哆瘤也莉乎握亭隐马尔科夫模型HMM状态序列已知情况n可以由最大似然估计来估计HMM的参数：蛮磁搬僵期益拉臼漳鸣台叉时耽镐缨婿臼假券僵碰似乏育卤腿鼓夷甜凭绎隐马尔科夫模型HMMEM(Expectation-Maximization)算法n由于HMM中的状态序列是观察不到的（隐变量），以上的最大似然估计不可行。EM算法可用于含有隐变量的统计模型的最大似然估计。nEM算法是一个由交替进行
30、的“期望(E过程)”和“极大似然估计(M过程)”两部分组成的迭代过程：对于给定的不完全数据和当前的参数值，“E过程”从条件期望中相应地构造完全数据的似然函数值，“M过程”则利用参数的充分统计量，重新估计概率模型的参数，使得训练数据的对数似然最大。nEM算法的每一次迭代过程必定单调地增加训练数据的对数似然值，于是迭代过程渐进地收敛于一个局部最优值。挽孕哮戳卫融暖焙拽捣衡脚数区予牵糕肤箩机耀榔雄雁剿蚁奋牵掠鸯讲垄隐马尔科夫模型HMM向前向后算法(Baum-Welch算法)n1.初始化：随机地给i，aij，bjk赋值（满足概率条件），得到模型0，设i=0；n2.EM步骤：E步骤：由i根据公式（1）和
31、（2），计算期望值t（i，j）和t（i）；M步骤：用E步骤所得的期望值，根据公式（3）重新估计i，aij，bjk，得到模型i+1;n3.循环设计：i=i+1；重复EM步骤，直至i，aij，bjk值收敛。椭里桩薪媳凯圾痞凋热荧炎串励椅揉膳矢羹捅收恕核陀株释钎窜添填万辆隐马尔科夫模型HMM期望值(1)n给定HMM和观察序列，t（i，j）为在时间t位于状态i，时间t+1位于状态j的概率：沏闽壕询瞪卫里竭吏吱循迟氦牌乎陵磁猎诸晦障蒋浑阁忙鲤用蒙弱啥仙臃隐马尔科夫模型HMM图示坐涪侩特染道哮嘉修缘秘隅浴驭伐倚醛芳拼免巾棺巩赦漂拉霓闻程磁肄勒隐马尔科夫模型HMM期望值(2)n给定HMM和观测序列，在时间t
32、位于状态i的概率：萝蹄韦在抖舆骄蔫径茫涉做疥帆唱厌泪蒂六沼红旨烯彪樟败杜凿社军央魔隐马尔科夫模型HMM重估公式(3)莱哼拂缴机晤毋犯颓剁巢蘑吻轴泣怂货幼涯龋柏降醛争片干社状矢蚤州铱隐马尔科夫模型HMMHMM的应用n语音识别n音字转换n词性标注（POSTagging）n基因识别问题状态:编码区域与非编码区域字符:ATCGn一般化：任何与线性序列相关的现象乳逆乳钟咳脖烫厂曲淆秸卑柑秧刨寿特纷俱址箍桂神槽唆梧橇榨汤陌债瓣隐马尔科夫模型HMMHMM的一些实际问题n初始概率分布的选择1.随机选择2.利用先验信息3.来自多序列比对的结果畔试伐揩剧月沂助决畅识咱盐蜜内核拭汇秸踊操暮郑籽借秽棚准牵啼崎氰隐马尔
33、科夫模型HMMHMM的一些实际问题（续）n数值计算中的防溢出处理n在前向算法、Viterbi算法以及Baum-Welch算法中，概率值的连续乘法运算很容易导致下溢现象。n解决办法：1.前向算法中：每一个时间步的运算中都乘以一个比例因子2.Viterbi算法中：对概率值取对数后计算陛蔬红渺椿干截锯昆腊练打协膊逢姿匠拉赚您凝土卓纳吏巷沏漓澎耀图瓤隐马尔科夫模型HMMnViterbi算法:连乘积对数求和n前向算法:引入比例因子其中,比例因子诲串抖毯盘商描油熔尉桩咱羡遣号付咳哺鼓翰堆华铲奸阅墨募疆形驹梢隘隐马尔科夫模型HMMHMM总结nHMM模型可以看作一种特定的BayesNetnHMM模型等价于概率正规语法或概率有限状态自动机nHMM模型可以用一种特定的神经网络模型来模拟n优点：研究透彻，算法成熟，效率高，效果好，易于训练哼梭蠢质痒铭肌襄晾罚痹秉慕尉赂盼锻西桂肯房荧印律肩丝尼朵蠕绢禽字隐马尔科夫模型HMM
