《马尔科夫链-遍历性与极限分布》由会员分享,可在线阅读,更多相关《马尔科夫链-遍历性与极限分布(16页珍藏版)》请在金锄头文库上搜索。
1、马尔科夫链的遍历性遍历性定义2 若马尔科夫链转移概率的极限存在且与 无关,则称此马尔科夫链具有遍历性此时,若满足为转移概率的极限分布定义1 若马尔科夫链中的所有状态互通且均为非周期的正常返状态,则称该链是遍历的则称遍历性即在此称为转移概率的极限分布若马尔科夫链为有限状态的,显然有,满足说明1:构成一个概率分布有限状态的遍历的马尔科夫链必存在极限分布遍历性即若马尔科夫链为无限状态的,则有,又因为说明2:不一定构成一个概率分布无限状态的遍历的马尔科夫链不一定存在极限分布,只有其极限概率构成概率分布时才存在极限分布绝对概率的极限即:绝对概率的极限与转移概率的极限相同即平稳分布具有遍历性的马尔科夫链的
2、平稳分布对具有遍历性的马尔科夫链有限马尔科夫链转移概率的极限分布一定是平稳分布无限马尔科夫链转移概率的极限分布不一定是平稳分布若初始概率是平稳分布,则任意时刻的绝对概率分布等于初始分布,也即为平稳分布证若初始概率是平稳分布,则任意时刻的绝对概率分布等于初始分布,也即为平稳分布证定理 对有限马尔科夫链,如果存在正整数k,使则此链是遍历的是方程组满足条件的唯一解注:此定理给出了求极限分布(平稳分布)的方法且极限分布例1 直线上带反射壁的随机游动,如果质点只能取1,2,3三个点,一步转移概率矩阵为讨论该链的遍历性,若具有遍历性,则计算其极限分布(平稳分布) 解 计算二步转移概率矩阵例2 若例1中,质点只能取1,2,3三个点,一讨论该链的遍历性,若具有遍历性,则计算其极限分布(平稳分布)步转移概率矩阵为解例3 若例1中,质点只能取1,2,3三个点,一讨论该链的遍历性,若具有遍历性,则计算其极限分布(平稳分布)步转移概率矩阵为解