《HMM隐马尔科夫变换课件》由会员分享，可在线阅读，更多相关《HMM隐马尔科夫变换课件（23页珍藏版）》请在金锄头文库上搜索。
1、HMM基本原理,及其应用,HMM的由来,1870年，俄国有机化学家Vladimir V. Markovnikov第一次提出马尔科夫模型。 HMM（Hidden Markov Model，HMM ）,马尔科夫性,如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔科夫性,或称此过程为马尔科夫过程。 X(t+1) = f( X(t) ),HMM是一个输出符号序列的统计模型，具有N 个状态S1,S2,SN，它按一定的周期从一个状态转移到另一个状态，每次转移时，输出一个符号。转移到哪一个状态，转移时输出什么符号，分别由状态转移概率和转移时的输出概率来决定。因为只能观测到输出符号序列，
2、而不能观测到状态转移序列（即模型输出符号序列时，是通过了哪些状态路径，不能知道），所以称为隐藏的马尔可夫模型。,一个简单的三状态HMM的例子,阴天,晴天,下雨,晴天 阴天 下雨 晴天 0.50 0.25 0.25 阴天 0.375 0.25 0.375 下雨 0.25 0.125 0.625,转移概率矩阵,由于链在时刻m从任何一个状态ai出发，到另一时刻m+n，必然转移到a1，a2，诸状态中的某一个，所以有 当Pij(m,m+n)与m无关时，称马尔科夫链为齐次马尔科夫链，通常说的马尔科夫链都是指齐次马尔科夫链。,HMM概念,HMM是一种随机过程，它用概率统计的方法来描述语音信号的变化过程。 H
3、MM与通常的Markov链的不同之处在于其观察结果不是与状态有确定的对应关系，而是系统所处状态的概率函数，所以模型本身是隐藏的，它与观察结果之间还有一层随机的关系。 HMM是对语音信号的时间序列结构建立统计模型，将之看做一个数学上的双重随机过程： 一个是用具有有限状态的Markov链来模拟语音信号统计特性变化的隐含随机过程， 另一个是与Markov链的每一个状态相关联的观测序列的随机过程。前者通过后者表现出来，但前者的具体参数是不可测的。,HMM概念,HMM的状态是不确定或不可见的，只有通过观测序列的随机过程才能表现出来 观察到的事件与状态并不是一一对应，而是通过一组概率分布相联系 HMM是一
4、个双重随机过程，两个组成部分： 马尔可夫链：描述状态的转移，用转移概率描述。 一般随机过程：描述状态与观察序列间的关系， 用观察值概率描述。,HMM组成,Markov链 （, A）,随机过程 （B）,状态序列,观察值序列,q1, q2, ., qT,o1, o2, ., oT,HMM的组成示意图,HMM实例描述,设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下 根据初始概率分布，随机选择N个缸中的一个开始实验 根据缸中球颜色的概率分布，随机选择一个球，记球的颜色为O1，并把球放回缸中 根据描述缸的转移的概率分布，随机选择下一口缸，重复以上步骤。 最后得到一个描述球
5、的颜色的序列O1,O2,，称为观察值序列O。,HMM的基本要素,用模型五元组 （ N, M, ，A，B）用来描述HMM，或简写为 =( ，A，B),HMM实例约束,在上述实验中，有几个要点需要注意： 不能被直接观察缸间的转移 从缸中所选取的球的颜色和缸并不是 一一对应的 每次选取哪个缸由一组转移概率决定,HMM可解决的问题,问题1：给定观察序列O=O1,O2,OT,以及模型 , 如何计算P(O|)？ 问题2：给定观察序列O=O1,O2,OT以及模型,如何选择一个对应的状态序列 S = q1,q2,qT，使得S能够最为合理的解释观察序列O？ 问题3：如何调整模型参数 , 使得P(O|)最大？,解
6、决问题1：1 前向法 2：后向法 解决问题2：Viterbi算法 解决问题3：Baum-Welch算法(模型训练算法),HMM的应用领域,语音识别 机器视觉 人脸检测 机器人足球 图像处理 图像去噪 图像识别 生物医学分析 DNA/蛋白质序列分析,人脸识别内容,人脸识别系统需要训练和识别两个部分，训练就是HMM建模过程。,人脸HMM模型,每个人的脸谱都有其个人特征，同一个人的脸不同拍摄条件下存在差异，但空间结构却是具有稳定的相似共性，从上到下为前额，眼睛，鼻子，嘴和下巴5部分组成。 人脸的个人特征首先表现在上述组成部分形状及其相互连接关系的不同，即可用一个一维HMM模型表示，人脸5个部分几何特
7、征对应HMM的状态序列，状态出现及其转移可用模型中概率矩阵描述。对一既定人脸，对应的HMM应当是唯一的人脸识别模型研究工作任务是通过分析已收集的人脸图像来分析和建立其HMM模型。,人脸HMM模型,5 状态人脸HMM,HMM建模训练和人脸识别工作流程,人脸数据库每个人的训练过程包括步骤： 对图像进行采样，进行图像预处理 划定在人脸区域，得到观察向量序列 初始化HMM，确定HMM的状态数N和观察向量维数 迭代计算初始HMM参数。首先，图像被统一分割，每部分对应HMM一个状态，然后上述的分割被Viterbi分割代替。这一过程输出是一个初始的HMM模型，用做下一步重估HMM参数输入。,5 使用Baum-Welch方法对HMM模型参数进行重估。根据训练图像的观察向量，HMM参数将被调整到一个局部极大值。这个过程的输出即为人脸数据库中人脸图像最终HMM模型。,
