概率统计和随机过程122遍历过程与马尔科夫链课件

《概率统计和随机过程122遍历过程与马尔科夫链课件》由会员分享，可在线阅读，更多相关《概率统计和随机过程122遍历过程与马尔科夫链课件（35页珍藏版）》请在金锄头文库上搜索。

1、遍历过程遍历过程 与与 马尔科夫链马尔科夫链1概率统计和随机过程122遍历过程与马尔科夫链课件 内内 容容 复复 习习 严平稳过程严平稳过程一定义定义1 随机过程随机过程 ，如果对任意，如果对任意 维维 分布函数分布函数,任意实数任意实数 ,满足满足: 则称则称 为为严平稳过程严平稳过程,或称狭义平稳过程或称狭义平稳过程. 2概率统计和随机过程122遍历过程与马尔科夫链课件广义平稳过程广义平稳过程 (一) 广义平稳过程的定义广义平稳过程的定义定义2 设随机过程设随机过程 ,对于任意对于任意 ,满足满足: (1) 存在且有限存在且有限;(2) 是常数是常数;(3) 仅依赖于仅依赖于 ,而与而与

2、无关无关,则称则称 为广义平稳过程为广义平稳过程,或称或称宽平稳过程宽平稳过程,简称简称平稳过程平稳过程. 3概率统计和随机过程122遍历过程与马尔科夫链课件严平稳过程与广义平稳过程的关系严平稳过程与广义平稳过程的关系推论推论 存在二阶矩的严平稳过程必定是广义平稳过程存在二阶矩的严平稳过程必定是广义平稳过程.1.广义平稳过程广义平稳过程,不一定是严平稳过程不一定是严平稳过程.2.严平稳过程严平稳过程,(如果二阶矩不存在如果二阶矩不存在),不一定不一定是广义平稳过程是广义平稳过程4概率统计和随机过程122遍历过程与马尔科夫链课件定义定义 如果随机过程如果随机过程 ,对任意正整数对任意正整数 ,

3、服从正态分布服从正态分布则称则称 为为正态过程正态过程.正态平稳过程正态平稳过程设设 是是正态过程正态过程, 服从正态分布服从正态分布,则则 必存在必存在,即即二阶矩存在二阶矩存在.5概率统计和随机过程122遍历过程与马尔科夫链课件二二. 正态平稳过程正态平稳过程定义定义 如果正态过程如果正态过程 又是又是(广义广义)平稳过程平稳过程,则则 称称 为正态平稳过程为正态平稳过程. 定理二定理二：设设 是正态过程是正态过程.则则 为严平稳过程为严平稳过程 为广义平稳过程为广义平稳过程.6概率统计和随机过程122遍历过程与马尔科夫链课件例例2 设设 是正态平稳过程是正态平稳过程,且且 令令 证明证明

4、: 是平稳过程是平稳过程.7概率统计和随机过程122遍历过程与马尔科夫链课件第四节第四节 遍历过程遍历过程(历经过程历经过程)一一. 时间均值和时间相关函数时间均值和时间相关函数函数函数 样本函数样本函数 在区间在区间 设随机过程设随机过程 任固定任固定 样本样本上的函数平均值定义为上的函数平均值定义为 在在 上的函数平均值定义为上的函数平均值定义为当当 变化时变化时, 8概率统计和随机过程122遍历过程与马尔科夫链课件 定义定义6 称为随机过程称为随机过程 对于参数对于参数 的平均值的平均值,通常称为随机过程通常称为随机过程 的的时间均值时间均值. 显然显然 是一个随机变量是一个随机变量.在

5、任意在任意 处处, 给任意实数给任意实数 ，过程在，过程在 和和 的两个的两个状态的乘积状态的乘积 在在 上的平均值上的平均值, 记为记为9概率统计和随机过程122遍历过程与马尔科夫链课件定义定义7 称为随机过程称为随机过程 的的时间相关函数时间相关函数. (显然它是一个随机过程显然它是一个随机过程. )对随机过程对随机过程时间均值时间均值 定义定义, 10概率统计和随机过程122遍历过程与马尔科夫链课件时间相关函数时间相关函数 例例1 求随机相位正弦波求随机相位正弦波的时间均的时间均 值和时间相关函数值和时间相关函数.(记住这个例题的结论,以后要用)11概率统计和随机过程122遍历过程与马尔

6、科夫链课件12概率统计和随机过程122遍历过程与马尔科夫链课件二二. 各态遍历性各态遍历性定义定义8 设设 是一个是一个平稳过程平稳过程 或或 即即, 为常为常 数数, 且且 的的均值具有各态遍历性均值具有各态遍历性;注：注： (1) 如果如果则称过程则称过程13概率统计和随机过程122遍历过程与马尔科夫链课件 (2) 如果如果 则称过程则称过程 的的自相关函数具有各态遍历性自相关函数具有各态遍历性. (3) 均值和自相关函数均值和自相关函数都具有各态遍历性都具有各态遍历性的平稳过程称为的平稳过程称为遍历过程遍历过程,或说或说,该平稳过程该平稳过程具有遍历性具有遍历性. (三三) 遍遍历过程的

7、例子历过程的例子例例1 设设，其中，其中是实常数是实常数, 14概率统计和随机过程122遍历过程与马尔科夫链课件不具各态遍历性的例子：不具各态遍历性的例子：例例2 设设 是一个随机变量是一个随机变量,且且 则则 (1) 是平稳过程是平稳过程;(2) 的均值不具有各态遍历性的均值不具有各态遍历性.服从区间服从区间 上的均匀分布上的均匀分布,的各态遍历性的各态遍历性.讨论讨论 解解及例及例1结论，结论，由由知知X(t)具有遍历性具有遍历性15概率统计和随机过程122遍历过程与马尔科夫链课件四四. 平稳过程具有各态遍历性的判别定理平稳过程具有各态遍历性的判别定理引理引理 设设 是一个平稳过程是一个平

8、稳过程,则它的则它的 时间均值的数学期望和方差分别为时间均值的数学期望和方差分别为16概率统计和随机过程122遍历过程与马尔科夫链课件定理三定理三 (均值各态遍历定理均值各态遍历定理)平稳过程平稳过程 的的均值具有各态遍历性均值具有各态遍历性的充要条件是的充要条件是近似计算近似计算 提供依据提供依据.五：引入遍历过程的目的五：引入遍历过程的目的,应用意义应用意义17概率统计和随机过程122遍历过程与马尔科夫链课件例例1 设设 是以是以 为周期的随机相位周期为周期的随机相位周期 过程过程,即满足即满足( 是周期函数是周期函数)其中其中 是在是在 上服从均匀分布的随机变量上服从均匀分布的随机变量.

9、试证试证: (1) 是平稳过程是平稳过程; (2) 是遍历过程是遍历过程. 18概率统计和随机过程122遍历过程与马尔科夫链课件19概率统计和随机过程122遍历过程与马尔科夫链课件20概率统计和随机过程122遍历过程与马尔科夫链课件21概率统计和随机过程122遍历过程与马尔科夫链课件例例2 设平稳过程设平稳过程 的自相关函数的自相关函数以概率以概率1成立成立。 证明证明:对于任意对于任意t, 等式等式 是以是以T为周期的周期函数为周期的周期函数, 提示：提示：22概率统计和随机过程122遍历过程与马尔科夫链课件例例3解：解：23概率统计和随机过程122遍历过程与马尔科夫链课件24概率统计和随机

10、过程122遍历过程与马尔科夫链课件第十三章第十三章 马尔可夫链马尔可夫链马尔可夫过程是一类特殊的随机过程马尔可夫过程是一类特殊的随机过程, 最初是由俄国数学家马尔可夫最初是由俄国数学家马尔可夫1896年年生物学生物学,经济经济,管理管理,教育教育,气象物理气象物理,化学等等化学等等.马尔可夫链马尔可夫链 是离散状态的马尔可夫过程是离散状态的马尔可夫过程,提出和研究的应用十分广泛提出和研究的应用十分广泛,其应用领域涉其应用领域涉及计算机及计算机,通信通信,自动自动.控制控制,随机服务随机服务,可靠性可靠性,25概率统计和随机过程122遍历过程与马尔科夫链课件例例：一维随机游动：一维随机游动一个质

11、点在直线上的五个位置一个质点在直线上的五个位置:0, 1, 2, 3, 4做随机做随机 游动游动.当它处在位置当它处在位置1或或2或或3时时,以的以的1/3概率向左移概率向左移动一步而以动一步而以2/3的概率向右移动一步的概率向右移动一步;当它到达位置当它到达位置0时时,以概率以概率1返回位置返回位置1;当它到达位置当它到达位置4时以概率时以概率1停停 留在该位置上留在该位置上(称位置称位置0为反射壁为反射壁,称位置称位置4为吸收壁为吸收壁).26概率统计和随机过程122遍历过程与马尔科夫链课件0123412/32/32/31/31/31/3127概率统计和随机过程122遍历过程与马尔科夫链课

12、件 第一节第一节 马尔可夫链的定义马尔可夫链的定义一定义定义1 设随机过程设随机过程 的状态空间的状态空间 是是 有限集或可列集有限集或可列集, 对于对于 T 内任意内任意n+1个个参数参数 和和 内任意内任意 个状态个状态 如果条件概率如果条件概率 (1) 29概率统计和随机过程122遍历过程与马尔科夫链课件恒成立恒成立,则称此过程为马尔可夫链则称此过程为马尔可夫链. 式式(1)称为称为马尔可夫性马尔可夫性,或称或称无后效性无后效性.注注：30概率统计和随机过程122遍历过程与马尔科夫链课件系统现时情况的条件下系统现时情况的条件下,系统将来的发展变化系统将来的发展变化与系统的过去无关与系统的

13、过去无关.我们称之为我们称之为无后效性无后效性.许多实际问题都具有这种无后效性许多实际问题都具有这种无后效性.例如例如 生物基因遗传从这一代到下一代的生物基因遗传从这一代到下一代的转移中仅依赖于这一代而与以往各代无关转移中仅依赖于这一代而与以往各代无关.马氏性的直观含义可以解释如下马氏性的直观含义可以解释如下:将将 看作为现在时刻看作为现在时刻, 就是过去时就是过去时 刻刻,而而 则是将来时刻则是将来时刻.于是于是, (1) 式是说式是说,当已知当已知31概率统计和随机过程122遍历过程与马尔科夫链课件二二 马尔可夫链的分类马尔可夫链的分类状态空间状态空间 是离散的是离散的(有限集或可列集有限

14、集或可列集), 参数集参数集 可为离散或连续的两类可为离散或连续的两类.三三 离散参数马尔可夫链离散参数马尔可夫链（1）转移概率转移概率定义定义2 在离散参数马尔可夫链在离散参数马尔可夫链中中,条件概率条件概率 称为称为 在在 32概率统计和随机过程122遍历过程与马尔科夫链课件时刻时刻(参数参数) 由状态由状态 一步转移到状态一步转移到状态 的的一步转移一步转移概率概率,简称简称转移概率转移概率.条件概率条件概率 称为称为 在时在时 刻刻(参数参数) 由状态由状态 经经 步转移到状态步转移到状态 的的 步步 转移概率转移概率. 33概率统计和随机过程122遍历过程与马尔科夫链课件(2)转移概率的性质转移概率的性质:对于状态空间对于状态空间 内的任意两个内的任意两个状态状态 和和 ,恒有恒有(1) (2) 34概率统计和随机过程122遍历过程与马尔科夫链课件作 业习题十二习题十二 6，7，8，10，1135概率统计和随机过程122遍历过程与马尔科夫链课件