《应用随机过程课件资料》由会员分享,可在线阅读,更多相关《应用随机过程课件资料(290页珍藏版)》请在金锄头文库上搜索。
1、应用随机过程,Application of Stochastic Processes,范爱华,数理科学与工程学院 应用数学系,成功的道路并不拥挤,,的人并不是很多。,因为坚持到最后,教材 应用随机过程,主要教学参考书,张波 张景肖 编 中国人民大学 出版社,参考书,第1章 预备知识,1.1 概率空间,在自然界和人类的活动中经常遇到各种各样的现象,大体上分为两类:必然现象和随机现象 。,具有随机性的现象随机现象,对随机现象的观察或为观察而进行的实验,随机试验,随机试验的结果,基本事件或样本点。,所有可能的结果称为样本空间。,A称为事件。,(有3个特征),事件的性质 假设A,B,C是任意事件,则他
2、们满足:,(1)交换律,(2)结合律,(3)分配律,(4)对偶原则 (De Morgan律),定义1.1,性质 假,例1.1,例1.2,例1.3,随机试验: 掷一枚骰子,观察出现的点数,,思考题:,定义1.2,结论:,定义1.3,定义1.4,例1.1:,概率的基本性质,单调性,次可列可加性,事件列极限1:,结论:,定理:,具体情况:,事件列极限2:,定义1.5, 的下极限, 的上极限,例1.2:,关系:,含义:,例1.3:,1.2 随机变量和分布函数,随机变量:,用实数来表示随机实验的各种结果.,定义1.6,关于随机变量的几点说明:,定理1.1:,定义1.7,分布函数的含义:,分布函数 的性质
3、:,随机变量的类型:,离散型:,连续型:,多维随机变量:, d维随机向量,多维随机变量联合分布函数:,性质:,一些常见的分布:,1.离散均匀分布:,分布列:,2.二项分布:,分布列:,3.几何分布:,分布列:,4.Poisson分布:,分布列:,_参数为 的 Poisson分布,5.均匀分布:,6.正态分布:,7. 分布:,函数的性质:,8.指数分布:,9. 分布:,10.d维正态分布:(略),1.3 数字特征、矩母函数与特征函数,一、数字特征,定义1.8:, X的一阶矩,二、Rieman-Stieltjes 积分,Rieman-Stieltjes 积分:,注:,R-S 积分性质:, 可加性,
4、注:,四、矩母函数与特征函数,1. 矩母函数(moment generating function ),定义1.9:,矩母函数的性质:,2. 特征函数(characteristic function ),复随机变量,定义1.10:,复随机变量的数学期望,特征函数的性质:,有界性,共轭对称性,例3.1:,例3.2:,例3.3:,例3.4:,例3.5:,作业题:,1.4 条件概率 条件期望 独立性,一、条件概率,1. 定义:,1. 基本公式,定理1:(乘法公式),定理2: (全概率公式),定理3: (Bayes公式),二、独立性,1. 定义:,注1:两两独立并不包含独立性。,例:,注2,我们有,2
5、. 独立性的性质:,定理4:,推论1:,推论2:,定理5:,定理6:,四、条件期望,1. 边缘分布,称X,Y独立.,2. 条件分布函数,3. 条件数学期望,异同:,定义:,定理:,例2:,五、独立随机变量和的分布卷积公式, 称为 的卷积,注:,结合律,分配律,第2章 随机过程的基本 概念和基本类型,2.1 基本概念,在概率论中,我们研究了随机变量,,维随机向量。,在极限定理中,我们研究了无穷多个随机变量,,但局限,在它们相互独立的情形。,将上述情形加以推广,,即研究,一族无穷多个、相互有关的随机变量,,这就是随机过程。,定义2.1:,设,是一概率空间,,对每一个参数,,,是一定义在概率空间,上
6、的随机,变量,,则称随机变量族,为该概率,空间上的一随机过程。,称为参数集。,随机过程的两种描述方法:,用映射表示,即,是一定义在,上的二元单值函数,,固定,是一定义在样本空间,上的函数,,即为一随机变量;,对于固定的,是一个,关于参数,的函数,,或称随机,过程的一次实现。,记号,通常称为样本函数,,有时记为,或简记为,参数,一般表示时间或空间。,参数常用的一般有:,(1),(2),(3),当参数取可列集时,,一般称随机过程为随机序列。,随机过程,可能取值的全体所构成的集合,称为此随机过程的状态空间,记作S.,S中的元素,称为状态。状态空间可以由复数、实数或更一般的,抽象空间构成。,随机过程分
7、为以下四类:,(1)离散参数离散型随机过程;,(2)连续参数离散型随机过程;,(3)连续参数连续型随机过程;,(4)离散参数连续型随机过程。,以随机过程的统计特征或概率特征的分类,一般有:,独立增量过程;,Markov过程;,二阶矩过程;,平稳过程;,更新过程;,Poission过程;,维纳过程。,鞅;,随机过程举例,例2.1,例2.2,抛掷一枚硬币,样本空间为,定义:,随机过程。,例2.3,2.2 有限维分布与Kolmogvrov定理,一、随机过程的分布函数,1. 一维分布函数,2. 二维分布函数,3. n维分布函数,4. 有限维分布族,称为有限维分布族,5. 有限维分布族的性质,(1) 对
8、称性,(2) 相容性,注1:随机过程的统计特性完全由它的有限维分 布族决定。,注2:有限维分布族与有限维特征函数族相互唯 一确定。,问题:,一个随机过程,是否描述了该过程的全部概率特性?,的有限维分布族,,定理:(Kolmogorov存在性定理),设分布函数族,满足以上提到的对称性和相容性,,则必有一随机过程,恰好是,的有限维分布族,即:,定理说明:,的有限维分布族包含了,的所有概率信息。,例2.4,例2.5,二、随机过程的数字特征,1. 均值函数,随机过程,(假设是存在的),的均值函数定义为:,2. 方差函数,随机过程,的方差函数定义为:,3. (自)协方差函数,4. (自)相关函数,5.
9、(互)协方差函数,6. 互相关函数,7. 互不相关,8. 特征函数,为随机过程,的有限维特征函数族。,记:,例2.6,例2.7,作业1,2.3 随机过程的基本类型,一、严平稳过程,定义1:,二、严平稳过程的特点,则,三、宽平稳过程,(简称平稳过程),定义2:,注1:,注2:,例2.8,例2.9,四、平稳过程相关函数的性质,性质1:,性质2:,结论:,性质3:,性质4:,注:,定义:,注:,性质5:,性质6:,性质7:,性质8:,性质9:,例2.10:,五、独立增量过程,定义1,例2.11:,定义2,六、遍历性定理,定义1:,定义2:,例2.12:,例2.13:,定理2.2: (均值遍历性定理)
10、,推论2.1:,推论2.2:,定理2.2: (协方差函数遍历性定理),作业1:,作业2: 书第二章 习题2.6.,作业3:,第3章 Poisson过程,3.1 Poisson过程,定义3.1:,Poission过程是计数过程,而且是一类最重要、应用广泛的计数过程,它最早于1837年由法国数学家Poission引入。,定义3.2:,例3.1:,解:见板书。,定义3.2:,一计数过程,是独立增量及平稳增量过程,即任取,相互独立;,定义3.2的解释:,定理3.1:,由增量平稳性,记:,(I),情形:因为,我们有:,另一方面,代入上式,我们有:,令,我们有:,(II),情形:因为:,故有:,化简并令,
11、得:,两边同乘以,,移项后有:,当,时,有:,由归纳法可得:,注意:,因此,代表单位时间内事件,出现的平均次数。,由归纳法可得:,注意:,因此,代表单位时间内事件,出现的平均次数。,例3.2:,例3.3:,例3.4:,作业1:,作业2:书第三章习题3.5,3.6,3.10,3.2 Poisson过程相联系的若干分布,复习:1.指数分布,2.无记忆性,定理3.2:,结论:,定义3.3:,注:,例3.5: (见书例3.4),例3.6:,定理3.3:,证明:见板书。,引理:,原因:,注:,定理3.4:,例3.7: (见书例3.5),例3.8: (见书例3.6),3.3 Poisson过程的推广,一、
12、非齐次Poisson过程,定义3.4:,过程有独立增量;,定义3.5:,注2:定义3.4与定义3.5是等价的。,注1:我们称m(t)为非齐次poisson过程的均值或强度。,定理3.5:,注3:用此定理可以简化非齐次Poisson过程的问题 到齐次Poisson过程中进行讨论。另一方面也可以 进行反方向的操作,即从一个参数为 的Poisson 构造一个强度函数为 的非齐次Poisson过程。,定理3.5:,(一般了解),例3.9: (见书例3.7),二、复合Poisson过程,定义3.6:,物理意义:,如,表示粒子流,,例3.10: (见书例3.8),例3.11: (见书例3.9 顾客成批到达
13、的排队系统),定理3.6:,例3.12:(见书例3.10),作业1:,作业2:,参考 例3.12:(见书例3.10),作业3: 见书习题3.12,第5章 Markov过程,5.1 基本概念,直观意义:,1 . Markov链的定义,定义5.1:,定义5.2:,定义5.3:,2 . 转移概率,注:有定义5.1知,转移矩阵的性质:,定义5.4:,2 . Markov链的例子,带有一个吸收壁的随机游动:,特点:,当,就停留在零状态。,此时,是一齐次马氏链,其状态空间为,,一步转移概率为:,注意;,状态为马氏链的吸收状态的充要条件是:,例5.1:,带有两个吸收壁的随机游动:,此时,是一齐次马氏链,状态
14、空间为,为两个吸收状态,它的一步转移,概率为:,例5.2:,它的一步转移概率矩阵为:,特点:,概率为:,例5.3:,带有一个反射壁的随机游动:,一旦质点进入零状态,下一步它以概率,向右移动一格,,以概率,停留在零状态。,此时的状态空间为,它的一步转移,例5.4:,例5.5:,4. n步转移概率 C-K方程,定义5.5(n步转移概率),定理5.1: (Chapman-Kolmogorov方程,简称C-K方程),例5.6:,例5.7: (隐Markov模型),或者为正面或者为反面.在任何给定时刻只有一枚硬,呈现,但是有时硬币可能被替换而不改变其正反面.,硬币M和W分别具有转移概率,在任何给定时刻硬
15、币被替换的概率为30%,替换完成时,,硬币的状态不变. 这一Markov链有4个状态,分别 记为1:UM; 2:DM; 3:UW; 4:DW.状态1、3表示正面 U,状态2、4表示反面D转移矩阵为4X4的矩阵.我们,可以计算转移概率,比如,首先,(无转移),而后,(无转移).因此转移概率为,其他转移概率类似可得,转移方式为,转移概率矩阵为,例5.8:,例5.9:,带有两个反射壁的随机游动:,此时,是一齐次马氏链,状态空间为,为两个反射状态,求它的一步转,移概率。,作业1:,作业2:,5.3 状态的分类及性质,引入:,定义5.7,注:,定理5.3:,注:,定义5.8:,例1:,定义5.9 (周期性),规定:,例2 (书5.14),注1:,注2:,定理5.4:,证明:板书。,注: 当两个状态的周期相同时,有时其状态之间 有显著差异。,如:,定义5.10: (常返性),注2:,注3:,注1:,例3,定义5.11,例4,引理5.1 ( ),定理5.5,引理5.2,定理5.6,作业1:,思考题:,定理5.5,引理5.2,定理5.6,闭集及状态空间的分解定理,闭集:,相关性质:,任何两个状态均互通,所有常返态构成一个闭集,在不可约马氏链中,所有状态具有相同的状态 类型.,状态空间分解定理:,定理5.7:,例5,例6:,作业1:,周期链分