《随机过程总复习》由会员分享，可在线阅读，更多相关《随机过程总复习（88页珍藏版）》请在金锄头文库上搜索。
1、第一章复习内容第一章复习内容一、期望和方差一、期望和方差 1期望期望 设设离散型离散型随机变量随机变量X的分布律为的分布律为 则则 设设连续型连续型随机变量随机变量X的概率密度为的概率密度为 ，则则2021/6/161函数期望函数期望 当当 X为为离散型离散型随机变量随机变量则则 当当X为为连续型连续型随机变量，随机变量，则则2021/6/1622.方差方差 计算方差时通常用下列关系式：计算方差时通常用下列关系式： 称随机变量称随机变量 的期望的期望为为X的方差，即的方差，即 2021/6/1633性质性质（1）（2） （3 3） 若若X X和和Y Y相互独立，则相互独立，则2021/6/16
2、4计算协方差时通常用下列关系式：计算协方差时通常用下列关系式： 二、协方差二、协方差 2021/6/165三、矩母函数三、矩母函数 1定义定义 为为X的矩母函数的矩母函数2原点矩原点矩的求法的求法 称称 的数学期望的数学期望 利用矩母函数可求得利用矩母函数可求得X的各阶矩，即对的各阶矩，即对 逐次求导并计算在逐次求导并计算在 点的值：点的值： 2021/6/1663和的矩母函数和的矩母函数 定理定理1 设相互独立的随机变量设相互独立的随机变量 的的矩母函数分别为矩母函数分别为 ， ， ， 则其和则其和 的矩母函数为的矩母函数为 两个相互独立的随机变量之两个相互独立的随机变量之和和的矩母函数等于
3、它的矩母函数等于它们的矩母函数之们的矩母函数之积积.2021/6/167 四、特征函数四、特征函数 特征函数特征函数 设设X为随机变量，称复随机变量为随机变量，称复随机变量 的数学期望的数学期望为为X的特征函数，其中的特征函数，其中t是实数。是实数。 还可写成还可写成 特征函数与分布函数相互唯一确定。特征函数与分布函数相互唯一确定。2021/6/168性质性质则和则和 设相互独立的随机变量设相互独立的随机变量 的的 特征函数分别为特征函数分别为 ， ， 的特征函数为的特征函数为 两个相互独立的随机变量之两个相互独立的随机变量之和和的特征函数等于它的特征函数等于它们的特征函数之们的特征函数之积积
4、.2021/6/169练习练习:设随机变量设随机变量X的概率密度函数为的概率密度函数为试求试求X的矩母函数。的矩母函数。解：解：2021/6/1610练习练习 解解 由于由于 所以所以 设随机变量设随机变量X服从参数为服从参数为 的泊松分布，的泊松分布，求求X的特征函数。的特征函数。2021/6/1611条件分布函数与条件期望条件分布函数与条件期望 离散型离散型 若若 ，则称，则称 为在条件为在条件 下，随机变量下，随机变量Y的条件分布律。的条件分布律。 为在条件为在条件 下，随机变量下，随机变量X的条件分布律的条件分布律 。同样同样1、条件分布函数的定义、条件分布函数的定义 2021/6/1
5、612连续型连续型 同样同样称为在条件称为在条件 下，随机变量下，随机变量X的条件分布律的条件分布律 。称为在条件称为在条件 下，随机变量下，随机变量Y的条件分布律。的条件分布律。 注意：分母不等于注意：分母不等于02021/6/16132、条件期望的定义、条件期望的定义 离散型离散型 其中其中连续型连续型 其中其中条件概率密度条件概率密度 2021/6/16143、全数学期望公式、全数学期望公式 定理定理 对一切随机变量对一切随机变量X和和Y，有有 连续型连续型 是随机变量是随机变量Y的函数，当的函数，当 时取值时取值因而它也是随机变量。因而它也是随机变量。 离散型离散型 2021/6/16
6、15设二维随机向量（设二维随机向量（X，Y）的联合概率密度为）的联合概率密度为解：解：练习练习:2021/6/16162021/6/1617练习: :对于随机于随机变量量X和和Y，满足条件足条件则有有练习: :若随机若随机变量量X和和Y相互独立相互独立，满足条件足条件则有有2021/6/1618 一矿工困在矿井中，要到达安全地带，有三个一矿工困在矿井中，要到达安全地带，有三个通道可选择，他从第一个通道出去要走通道可选择，他从第一个通道出去要走1个小时可个小时可到达安全地带，从第二个通道出去要走到达安全地带，从第二个通道出去要走2个小时又个小时又返回原处，从第三个通道出去要走返回原处，从第三个通
7、道出去要走3个小时也返回个小时也返回原处。设任一时刻都等可能地选中其中一个通道，原处。设任一时刻都等可能地选中其中一个通道，试问他到达安全地点平均要花多长时间。试问他到达安全地点平均要花多长时间。 练习练习 解解 设设X表示矿工到达安全地点所需时间，表示矿工到达安全地点所需时间，Y 表示表示他选定的通道，则他选定的通道，则所以所以 2021/6/1619第二章复习内容第二章复习内容随机过程的分类随机过程的分类T离散、离散、I离散离散T离散、离散、I连续连续参数参数T状态状态I分类分类T连续连续 、I离散离散T连续连续 、I连续连续 Poisson过程是参数过程是参数 状态状态 的随机过程的随机
8、过程.Brown运动是参数运动是参数 状态状态 的随机过程的随机过程.离散离散连续连续连续连续连续连续2021/6/1620练习练习 袋中放有一个白球，两个红球，每隔袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对单位时间从袋中任取一球，取后放回，对每一个确定的每一个确定的t对应随机变量对应随机变量试求这个随机过程的一维分布函数族。试求这个随机过程的一维分布函数族。分析分析先求先求 的概率分布的概率分布2021/6/1621所以所以解解P2021/6/1622随机过程的数字特征随机过程的数字特征 2方差函数方差函数 1均值函数均值函数 3协方差函数协方差函数注注2021/6
9、/1623 4自相关函数自相关函数注注2021/6/1624 5互协方差函数互协方差函数 6互相关函数互相关函数2021/6/1625练习练习解解求求:(1)均值函数均值函数;(2)协方差函数协方差函数;(3)方差函数。方差函数。（1）（2）（3）2021/6/1626练习练习解解试求它们的互协方差函数。试求它们的互协方差函数。所以所以2021/6/16271.严平稳过程严平稳过程定义定义1则则 称为严平稳过程称为严平稳过程若对任意的若对任意的和任意的和任意的严平稳过程的有限维分布关于时间是平移不变的严平稳过程的有限维分布关于时间是平移不变的.2021/6/16282.宽平稳过程宽平稳过程定义
10、定义2如果它满足：如果它满足：则称则称 为宽平稳过程，为宽平稳过程， 简称平稳过程简称平稳过程2021/6/1629因为因为均值函数均值函数注注:(3)可等价描述为可等价描述为:2021/6/1630注注2注注1 严平稳过程不一定是宽平稳过程。严平稳过程不一定是宽平稳过程。因为严平稳过程不一定是二阶矩过程。因为严平稳过程不一定是二阶矩过程。若严平稳过程存在二阶矩，则它一定是宽平稳过程。若严平稳过程存在二阶矩，则它一定是宽平稳过程。宽平稳过程也不一定是严平稳过程。宽平稳过程也不一定是严平稳过程。因为宽平稳过程只保证一阶矩和二阶矩不随时间因为宽平稳过程只保证一阶矩和二阶矩不随时间推移而改变，这当然
11、不能保证其有穷维分布不随推移而改变，这当然不能保证其有穷维分布不随时间而推移。时间而推移。2021/6/1631性质性质1 平稳过程相关函数的性质平稳过程相关函数的性质(1)自相关函数的性质自相关函数的性质性质性质2性质性质32021/6/1632(2)协方差函数的性质协方差函数的性质性质性质2性质性质3性质性质12021/6/1633练习练习解解:2021/6/1634的随机变量序列的随机变量序列,则则令令练习练习2. 若若对任意的任意的,增量增量的概率分布只依的概率分布只依赖于于而与而与 无关，无关，则称随机称随机过程程为 。独立增量独立增量过程程 时齐的时齐的2021/6/1635定义定
12、义3.1.1第三章复习内容第三章复习内容2021/6/1636定义定义3.1.22021/6/1637定义定义3.1.2的等价定义的等价定义显见显见Poisson过程本身不是平稳过程，其增量是过程本身不是平稳过程，其增量是平稳过程。平稳过程。2021/6/16382021/6/16392021/6/1640解解:练习练习:2021/6/1641设设N(t)是参数为是参数为 的的Poisson过程过程,事件发生时刻事件发生时刻 在已知在已知N(t)=2的条件下的联合概率密度为的条件下的联合概率密度为_.练习练习:2021/6/1642重要结论重要结论2021/6/1643解解:没被维修过的概率没
13、被维修过的概率练习练习:维修过一次的概率维修过一次的概率2021/6/1644例例1解解设顾客到达某商场的过程是泊松过程设顾客到达某商场的过程是泊松过程,已知平均每小已知平均每小时有时有30人到达人到达,求下列事件的概率求下列事件的概率:两个顾客相继到两个顾客相继到达的时间间隔达的时间间隔:(1)超过超过2分钟分钟;(2)在在1分钟到分钟到3分钟之分钟之间间.若以分钟为单位若以分钟为单位,顾客到达数是强度为顾客到达数是强度为 的泊的泊松过程松过程.则顾客到达的时间间隔则顾客到达的时间间隔 服从参数服从参数为为 的指数分布的指数分布,其密度函数为其密度函数为 故故2021/6/1645例例2：一
14、理发师在一理发师在t=0时开门营业时开门营业,设顾客按强度为设顾客按强度为的泊松过程到达的泊松过程到达.若每个顾客理发需要若每个顾客理发需要a分钟分钟,a是正是正常数常数 . 求第二个顾客到达后不需等待就马上理发的求第二个顾客到达后不需等待就马上理发的概率及到达后等待时间概率及到达后等待时间S的平均值的平均值 .解：解：设第一个顾客的到达时间为设第一个顾客的到达时间为T1，第二个顾客的，第二个顾客的到达时间为到达时间为T2。令。令X2= T2 - T1，则第二个顾客到达，则第二个顾客到达后不需等待等价于后不需等待等价于 X2a。由定理知由定理知X2服从参数为服从参数为 的指数分布，故的指数分布
15、，故等待时间等待时间2021/6/1646考虑一特定保险公司的全部赔偿，设在考虑一特定保险公司的全部赔偿，设在0,t 内投内投保死亡的人数保死亡的人数N(t)是发生率为是发生率为 的泊松过程。设的泊松过程。设 是第是第n个投保人的赔偿价值，个投保人的赔偿价值， 独立同分布。独立同分布。表示表示0,t 内保险公司必须付出的内保险公司必须付出的全部赔偿。全部赔偿。练习练习:2021/6/1647解：解：2021/6/1648第四章 更新过程1.更新过程的定义更新过程的定义 设Xn,n1是独立同分布的非负随机变量，分布函数为F(x)，且F(0)1，令记称N(t),t0更新过程更新过程。2021/6/
16、16492、更新函数、更新函数 令令M(t)=EN(t)，称，称M(t)为更新函数。为更新函数。Theorem：2021/6/16503.更新方程更新方程 设设M(t)为更新函数，其导数称为更新密度，记为为更新函数，其导数称为更新密度，记为m(t)，则则其中其中 是是 的密度函数。的密度函数。2021/6/1651 定义（更新方程）定义（更新方程）如下形式的积分方程称如下形式的积分方程称为更新方程为更新方程其中其中H(t)，F(t)为已知，且当为已知，且当t0时，时， H(t)，F(t)均为均为0，当，当H(t)在任何区间上有界时称此方程为在任何区间上有界时称此方程为适定更新方程，简称更新方程
17、适定更新方程，简称更新方程。2021/6/1652更新方程的解更新方程的解 定理：定理：设更新方程中设更新方程中H(t)为有界函数，则为有界函数，则方程存在惟一的在有限区间内有界的解方程存在惟一的在有限区间内有界的解2021/6/1653更新定理更新定理1、初等更新定理初等更新定理设 ，则2021/6/16542、布莱克威尔、布莱克威尔(Blackwell)定理定理设F(x)为非负随机变量X的分布函数 (1) 若F(x)不是格点的，则对任意的a0，有(2)若F(x)是格点的，周期为d，则P在nd处发生更新容易看出，初等更新定理是容易看出，初等更新定理是BlackwellBlackwell定理定
18、理的特殊情况。的特殊情况。2021/6/1655记记 ，设，设h(t) 0满足满足(1) h(t) 非负不增；非负不增；(2) 。H(t)是更新方程是更新方程的解。那么的解。那么（1）若）若F(x)不是格点的不是格点的3、关键更新定理、关键更新定理2021/6/1656（2）若）若F(x) 是格点的，对于是格点的，对于注：注：关键更新定理与布莱克威尔关键更新定理与布莱克威尔(Blackwell)定理是等价性的定理是等价性的2021/6/1657第五章复习内容第五章复习内容马尔可夫性即无后效性马尔可夫性即无后效性.状态的分类及性质是重点状态的分类及性质是重点互通互通,类类,不可约不可约,周期等概
19、念周期等概念.2021/6/1658状态状态i非常返非常返常返常返正常返正常返零常返零常返2021/6/16592021/6/1660平稳分布与极限分布平稳分布与极限分布(重点重点)2021/6/1661研究状态的关系研究状态的关系(重点重点)2021/6/1662练习：设马氏链的状态空间为练习：设马氏链的状态空间为1,2,一步转移矩阵一步转移矩阵为为解解:2021/6/1663练习：设马氏链的状态空间为练习：设马氏链的状态空间为1,2,一步转移矩阵一步转移矩阵为为解解:状态转移图如右状态转移图如右:2021/6/1664两状态互通，周期为两状态互通，周期为1，故对于不可约的有限马，故对于不可
20、约的有限马氏链是正常返的氏链是正常返的.2021/6/1665练习：设马氏链的状态空间为练习：设马氏链的状态空间为1,2,一步转移矩阵一步转移矩阵为为解解:显然显然,此链具有遍历性。此链具有遍历性。由由解得解得2021/6/1666练习：设马氏链的状态空间为练习：设马氏链的状态空间为1,2,3,一步转移矩阵一步转移矩阵为为解解:2021/6/1667练习：设马氏链的状态空间为练习：设马氏链的状态空间为1,2,3,一步转移矩阵一步转移矩阵为为解解:2021/6/1668(2)经两步转移后处于状态经两步转移后处于状态3的概率为的概率为2021/6/1669设马氏链的状态空间为设马氏链的状态空间为1
21、,2,3,4,一步转移矩阵为一步转移矩阵为试研究其状态关系试研究其状态关系.解解:状态转移图如下状态转移图如下:练习练习2021/6/16702021/6/1671故状态故状态1与与2都是正常返状态都是正常返状态,又因周期都是又因周期都是1,故都为故都为遍历状态遍历状态.故状态故状态3是非常返状态是非常返状态.故状态故状态4是吸收状态是吸收状态.2021/6/1672练习练习设马氏链的状态空间为设马氏链的状态空间为1,2,一步转移矩阵为一步转移矩阵为解：解：2021/6/1673练习练习 设马氏链的状态空间为设马氏链的状态空间为1,2,一步转移矩阵为一步转移矩阵为解解:2021/6/1674第
22、六章复习内容第六章复习内容了解上鞅了解上鞅,下鞅下鞅,鞅的定义鞅的定义2021/6/1675 、 上鞅 上鞅 、 下鞅 下鞅 上鞅 下鞅 上鞅 下鞅 上鞅 下鞅 下鞅 上鞅2021/6/1676若若为下鞅，下鞅，为上鞅，上鞅，则有有 ( )为下鞅下鞅 A为上鞅上鞅 B为下鞅下鞅 C为上鞅上鞅 D练习练习:2021/6/1677第七章复习内容第七章复习内容Brown运动的定义运动的定义2021/6/1678(1)(2)(3)(4)2021/6/1679(5)(6)2021/6/1680(7)(8)(9)2021/6/1681解解:练习练习2021/6/1682重要结论重要结论Brown运动具有运
23、动具有Markov性性Brown桥的定义桥的定义,原定反射的原定反射的Brown运动的定义运动的定义,几何几何Brown运动的定义运动的定义,有漂移的有漂移的Brown运动的定运动的定义义2021/6/1683练习练习:计算计算Brown桥的均值桥的均值,方差方差,协方差函数协方差函数.解解:2021/6/1684利用标准布朗运动的矩母函数利用标准布朗运动的矩母函数计算几何布朗运动计算几何布朗运动的均值函数与方差函数的均值函数与方差函数.练习练习:解解:2021/6/1685练习练习:计算有漂移的计算有漂移的Brown运动的均值运动的均值,方差方差,协方差函协方差函数数.解解:2021/6/1686有漂移的有漂移的Brown运动运动2021/6/1687 结束语结束语若有不当之处，请指正，谢谢！若有不当之处，请指正，谢谢！
