《隐马尔科夫链模型理论及其在R中的应用》由会员分享，可在线阅读，更多相关《隐马尔科夫链模型理论及其在R中的应用（50页珍藏版）》请在金锄头文库上搜索。
1、,简介 模型讨论 一些应用 总结,隐马尔科夫链模型 理论及其在R中的应用,简介 模型讨论 一些应用 总结,大纲,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,Outline,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,从伯努利到隐马氏,伯努利模型：抛一枚硬币，记下结果，
2、重复实验，估计参 数p 混合模型：从若干枚硬币中选出一枚，抛出，记下结果，重 复实验，估计参数p 和 隐马氏模型：从若干枚硬币中，以马尔可夫过程(未知)选择 一枚，抛出.,估计参数.,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,从伯努利到隐马氏,伯努利模型：抛一枚硬币，记下结果，重复实验，估计参 数p 混合模型：从若干枚硬币中选出一枚，抛出，记下结果，重 复实验，估计参数p 和 隐马氏模型：从若干枚硬币中，以马尔可夫过程(未知)选择 一枚，抛出.,估计参数.,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,从伯努利到隐马氏,伯努利模型：抛
3、一枚硬币，记下结果，重复实验，估计参 数p 混合模型：从若干枚硬币中选出一枚，抛出，记下结果，重 复实验，估计参数p 和 隐马氏模型：从若干枚硬币中，以马尔可夫过程(未知)选择 一枚，抛出.,估计参数.,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,Outline,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,示意图,Xi均取值于离散状态空间1, 2,.kk 事先给定 X0由初始状态分布(多项式分布)产生
4、，之后以状态转移矩 阵A 产生X1.XT1 B表示不同状态下，观测值所服从的分布的参数 通常假定马氏过程具有平稳分布：A = ,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,示意图,Xi均取值于离散状态空间1, 2,.kk 事先给定 X0由初始状态分布(多项式分布)产生，之后以状态转移矩 阵A 产生X1.XT1 B表示不同状态下，观测值所服从的分布的参数 通常假定马氏过程具有平稳分布：A = ,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,引入 模型设定,小结,一个简单的隐马氏模型由以下5个要素定义 k 状态数 O观测序列 初始状态分布 A状态转移矩阵
5、B依赖于状态的分布参数 k ,O 已知。, A, B,需要估计,被称为模型参数,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,Outline,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,3个问题,问题1 已知模型参数，计算似然函数 问题2 估计最优模型参数(最大似然) 问题3 已知模型参数，估计最优状态序列Xi,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相
6、关性 预测 检验,3个问题,问题1 已知模型参数，计算似然函数 问题2 估计最优模型参数(最大似然) 问题3 已知模型参数，估计最优状态序列Xi,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,3个问题,问题1 已知模型参数，计算似然函数 问题2 估计最优模型参数(最大似然) 问题3 已知模型参数，估计最优状态序列Xi,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,算法,前向行算法；递推过程 BaumWelch算法;即EM算法 Viterbi算法；动态规划过程,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结
7、,估计 自相关性 预测 检验,Outline,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,Fact 在平稳分布的假定下,观测值边际分布为混合分布;混合比例为初 始状态分布均值，方差等各级矩均易求得。 Fact cov(g(Ot), g(Ot+k) = cov(g(Ot), g(Ot+k)|Xt, Xt+k)Pr(Xt)Pr(Xt+k|Xt)=,t t,E(g(O )|X )E(g,t+k t+k t,(O )|X )P
8、r(X )A,k,XtXt+k, .,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,Fact 在平稳分布的假定下,观测值边际分布为混合分布;混合比例为初 始状态分布均值，方差等各级矩均易求得。 Fact cov(g(Ot), g(Ot+k) = cov(g(Ot), g(Ot+k)|Xt, Xt+k)Pr(Xt)Pr(Xt+k|Xt)=,t t,E(g(O )|X )E(g,t+k t+k t,(O )|X )Pr(X )A,k,XtXt+k, .,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,Outline,1,
9、简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,对缺失值的估计 Pr(Ot|O(t) = Pr(O|模型参数)/pr(O(t)|模型参数),对未来值的预测 Pr(OT+k|O)=Pr(OT+k|模型参数)/Pr(O|模型参数),陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,对缺失值的估计 Pr(Ot|O(t) = Pr(O|模型参数)/pr(O(t)|模型参数),对未来值的预测 Pr(O
10、T+k|O)=Pr(OT+k|模型参数)/Pr(O|模型参数),陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,Outline,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,估计 自相关性 预测 检验,检验,Theorem 1(F(X) N(0, 1) residual=1(Ft(Xt xt),陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,Out
11、line,1,简介 引入 模型设定,2,模型讨论 估计 自相关性 预测 检验,3 一些应用 应用1: 地震 应用2:股票收益率 应用3:反应时间,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,数据 数据：19002005年世界范围内震级7级以上地震发生数 数据来源： http:/neic.usgs.gov/neis/eqlists R包: HiddenMarkov 特点:简单，直观，用于处理简单的隐马氏模型； 观测序列为单变量； 边际分布为一些常见的混合分布,如泊松,伯努利,高斯,指数等； 状态转移矩阵不随时间变化；,陆银波,隐
12、马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,数据 数据：19002005年世界范围内震级7级以上地震发生数 数据来源： http:/neic.usgs.gov/neis/eqlists R包: HiddenMarkov 特点:简单，直观，用于处理简单的隐马氏模型； 观测序列为单变量； 边际分布为一些常见的混合分布,如泊松,伯努利,高斯,指数等； 状态转移矩阵不随时间变化；,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,主要的函数,dthmm():设定模型参数的初始值，数据
13、 BaumWelch():估计模型参数 forward():前向型算法，预测时需要用到一些中间值 simulate():给出数据拟合值 residuals()：计算残差,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,主要的函数,dthmm():设定模型参数的初始值，数据 BaumWelch():估计模型参数 forward():前向型算法，预测时需要用到一些中间值 simulate():给出数据拟合值 residuals()：计算残差,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率
14、应用3:反应时间,主要的函数,dthmm():设定模型参数的初始值，数据 BaumWelch():估计模型参数 forward():前向型算法，预测时需要用到一些中间值 simulate():给出数据拟合值 residuals()：计算残差,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,最优状态数,Table: 选择合适的状态空间 状态数选为3,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,预测,Table: 预测2007-2011年发生15-20次的地震的概率,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,自相关性,Figure: 自相关性比较,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,残差检验,Figure: 模性拟合优度检验,陆银波,隐马氏(HMM),简介 模型讨论 一些应用 总结,应用1: 地震 应用2:股票收益率 应用3:反应时间,残差检验,Figure: 自相关性检验,陆银波,隐马氏(H
