马尔科夫随机场

《马尔科夫随机场》由会员分享，可在线阅读，更多相关《马尔科夫随机场（6页珍藏版）》请在金锄头文库上搜索。

1、马尔科夫随机场（一）什么是随机过程？在当代科学与社会的广阔天地里，人们都可以看到一种叫作随机过程的数学 模型：从银河亮度的起伏到星系空间的物质分布、从分子的布朗运动到原子的蜕 变过程，从化学反应动力学到电话通讯理论、从谣言的传播到传染病的流行、从 市场预测到密码破译，随机过程理论及其应用几乎无所不在。人类历史上第一个 从理论上提出并加以研究的过程模型是马尔科夫链，它是马尔科夫对概率论乃至 人类思想发展作出的又一伟大贡献。什么是马尔科夫随机过程和马尔科夫链一言以蔽之：马尔科夫过程，是指下一个时间点的指只与当前值有关系，与 以前没有关系，即未来决定于现在而不是过去。用一个通俗的比喻来形容，一只被切

2、除了大脑的白鼠在若干个洞穴间的蹿动 就构成一个马尔科夫链。因为这只白鼠已没有了记忆，瞬间而生的念头决定了它 从一个洞穴蹿到另一个洞穴；当其所在位置确定时，它下一步蹿往何处与它以往 经过的路径无关。这一模型的哲学意义是十分明显的，用前苏联数学家辛钦（1894 1959的话来说，就是承认客观世界中有这样一种现象，其未来由现在决定的 程度，使得我们关于过去的知识丝毫不影响这种决定性。这种在已知 “现在” 的条件下，“未来”与“过去”彼此独立的特性就被称为马尔科夫性，具有这种 性质的随机过程就叫做马尔科夫过程，其最原始的模型就是马尔科夫链。换个说法：马尔科夫随机过程是一类随机过程马尔科夫随机过程是一类

3、随机过程。它的原始模型马尔可夫链，由俄国数学 家A.A.马尔可夫于1907年提出。该过程具有如下特性：在已知目前状态（现在） 的条件下，它未来的演变 （将来）不依赖于它以往的演变 （ 过去 ） 。例如森林 中动物头数的变化构成马尔可夫过程。在现实世界中，有很多过程都是马尔 可夫过程，如液体中微粒所作的布朗运动、传染病受感染的人数、车站的候车人 数等，都可视为马尔可夫过程。关于该过程的研究，1931 年 A.H. 柯尔莫哥洛夫 在概率论的解析方法一文中首先将微分方程等分析的方法用于这类过程，奠 定了马尔可夫过程的理论基础。1951 年前后，伊藤清建立的随机微分方程的理 论，为马尔可夫过程的研究开

4、辟了新的道路。1954年前后，W.费勒将半群方法 引入马尔可夫过程的研究。流形上的马尔可夫过程、马尔可夫向量场等都是正待 深入研究的领域。人们在实际中常遇到具有下述特性的随机过程：在已知它目前的状态（现在） 的条件下，它未来的演变（将来）不依赖于它以往的演变（过去）。这种已知“现 在”的条件下，“将来”与“过去”独立的特性称为马尔可夫性，具有这种性质 的随机过程叫做马尔可夫过程。荷花池中一只青蛙的跳跃是马尔可夫过程的一个 形象化的例子。青蛙依照它瞬间或起的念头从一片荷叶上跳到另一片荷叶上，因 为青蛙是没有记忆的,当现在所处的位置已知时,它下一步跳往何处和它以往走过的路径无关。如果将荷叶编号并用

5、XO,X1,X2,分别表示青蛙最初处的荷叶号 码及第一次、第二次、跳跃后所处的荷叶号码，那么Xn,n$O就是马尔 可夫过程。液体中微粒所作的布朗运动，传染病受感染的人数，原子核中一自由 电子在电子层中的跳跃，人口增长过程等等都可视为马尔可夫过程。还有些过程 （例如某些遗传过程）在一定条件下可以用马尔可夫过程来近似。什么是马尔科夫随机场马尔可夫随机场（Markov Random Field）包含两层意思。马尔可夫性质：它指的是一个随机变量序列按时间先后关系依次排开的时候，第N+1时刻的分布特性，与N时刻以前的随机变量的取值无关。拿天气来打 个比方。如果我们假定天气是马尔可夫的，其意思就是我们假设

6、今天的天气仅仅 与昨天的天气存在概率上的关联，而与前天及前天以前的天气没有关系。其它如 传染病和谣言的传播规律，就是马尔可夫的。随机场：当给每一个位置中按照某种分布随机赋予相空间的一个值之后，其 全体就叫做随机场。我们不妨拿种地来打个比方。其中有两个概念：位置（site）, 相空间（phase space）。“位置”好比是一亩亩农田；“相空间”好比是种的 各种庄稼。我们可以给不同的地种上不同的庄稼，这就好比给随机场的每个“位 置”，赋予相空间里不同的值。所以，俗气点说，随机场就是在哪块地里种什么 庄稼的事情。马尔可夫随机场：拿种地打比方，如果任何一块地里种的庄稼的种类仅仅与 它邻近的地里种的庄

7、稼的种类有关，与其它地方的庄稼的种类无关，那么这些地 里种的庄稼的集合，就是一个马尔可夫随机场。参考：马儿科夫过程 随机过程之马尔科夫过程的理解马儿科夫随机场马尔科夫随机场#3场景知觉 马尔科夫随机场（二）(2010-10-25 12:36:48)转载标签： 分类： UsefulInformationit马尔可夫链定义马尔可夫链是随机变量 X1,X2,X3.的一个数列。这些变量的范围，即他们所有可能取值的集合，被称为“状态空间”，而Xn的值则是在时间n的状态。 如果Xn + 1对于过去状态的条件概率分布仅是Xn的一个函数，则P(乙+1 = xXq,X1,X21 . j xn) = P(Xn+1

8、 = xXn).这里x为过程中的某个状态。上面这个恒等式可以被看作是马尔可夫性质性质可还原性马尔可夫链是由一个条件分布来表示的PXnXn)这被称为是随机过程中的“转移概率”。这有时也被称作是“一步转移概率”。二、三，以及更多步的转移概率可以导自一步转移概率和马尔可夫性质：这些式子可以通过乘以转移概率并求k ? 1次积分来一般化到任意的将来时 间 n + ko周期性边际分布P(Xn)是在时间为n时的状态的分布。初始分布为P(XO)。该过程 的变化可以用以下的一个时间步幅来描述：这是 Frobenius-Perron equation 的一个版本。这时可能存在一个或多个状态分布n满足其中Y只是为了

9、便于对变量积分的一个名义。这样的分布n被称作是“平 稳分布(Stationary Distribution)或者稳态分布(Steady-stateDistribution)。一个平稳分布是一个对应于特征值为1的条件分布函数的特征 方程。平稳分布是否存在，以及如果存在是否唯一，这是由过程的特定性质决定的。 “不可约”是指每一个状态都可来自任意的其它状态。当存在至少一个状态经过 一个固定的时间段后连续返回，则这个过程被称为是“周期的”。重现性各态历遍性律动性平稳状态分析和极限分布可反转马尔可夫链可反转马尔可夫链类似于应用贝叶斯定理来反转一个条件概率:Pr(Xn = i)Pi(Xn=jXn=i)Pr

10、(X+1=j)以上就是反转的马尔可夫链。因而，如果存在一个n，使得:iPij = jPji -那么这个马尔可夫链就是可反转的。这个条件也被称为细致平衡(de tailed balance)条件。对于所有的 i 求和:X iPij 巧所以，对于可反转马尔可夫链，n总是一个平稳分布有限状态空间中的马尔可夫链如果状态空间是有限的，则转移概率分布可以表示为一个具有(i, j)元素的 矩阵，称之为“转移矩阵”：Pij =尸(X问十1 = i X.n = j)对于一个离散状态空间，k步转移概率的积分即为求和，可以对转移矩阵求 k次幕来求得。就是说，如果P是一步转移矩阵，就是k步转移后的转移矩 阵。平稳分布

11、是一个满足以下方程的向量P 尹=a + .在此情况下，稳态分布n *是一个对应于特征根为1的、该转移矩阵的特 征向量。如果转移矩阵P不可约，并且是非周期的，则收敛到一个每一列都是不 同的平稳分布n *，并且，lim Pfc7T = 7T+独立于初始分布n。这是由Perron-Frobenius theorem所指出的。正的转移矩阵(即矩阵的每一个元素都是正的)是不可约和非周期的。矩阵 被称为是一个随机矩阵，当且仅当这是某个马尔可夫链中转移概率的矩阵。注意：在上面的定式化中，元素(i,j)是由j转移到i的概率。有时候一个 由元素(i,j)给出的等价的定式化等于由i转移到j的概率。在此情况下，转移

12、 矩阵仅是这里所给出的转移矩阵的转置。另外，一个系统的平稳分布是由该转移 矩阵的左特征向量给出的，而不是右特征向量。转移概率独立于过去的特殊况为熟知的Bernoulli scheme。仅有两个可能 状态的 Bernoulli scheme 被熟知为伯努利过程科学应用物理马尔可夫链通常用来建模排队理论和统计学中的建模，还可作为信号模型用 于熵编码技术，如算术编码(著名的 LZMA 数据压缩算法就使用了马尔可夫链与 类似于算术编码的区间编码)。马尔可夫链也有众多的生物学应用，特别是人口 过程，可以帮助模拟生物人口过程的建模。隐蔽马尔可夫模型还被用于生物信息 学，用以编码区域或基因预测。马尔可夫链最近的应用是在地理统计学(geos tat is tics)中。其中，马尔 可夫链用在基于观察数据的二到三维离散变量的随机模拟。这一应用类似于“克 里金地理统计学(Kriging geostatistics)，被称为是“马尔可夫链地理统 计学”。这一马尔可夫链地理统计学方法仍在发展过程中。因特网应用马尔可夫模仿文本生成器马尔可夫过程，能为给定样品文本，生成粗略，但看似真实的文本：他们被 用于众多供消遣的“模仿生成器”软件。马尔可夫链还被用于谱曲。