随机过程讲义(中科院-孙应飞)

《随机过程讲义(中科院-孙应飞)》由会员分享，可在线阅读，更多相关《随机过程讲义(中科院-孙应飞)（334页珍藏版）》请在金锄头文库上搜索。

1、中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 第一章 随机过程及其分类第一章 随机过程及其分类 在概率论中，我们研究了随机变量，在概率论中，我们研究了随机变量，n维随机向量。在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。维随机向量。在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。 1 随机过程的概念随机过程的概念 定义：设定义：设),(P是一概率空间，对每一个参数是一概率

2、空间，对每一个参数Tt，),(tX是一定义在概率空间是一定义在概率空间),(P上的随机变量，则称随机变量族上的随机变量，则称随机变量族Tt);,(tXXT=为该概率空间上的一随机过程。其中为该概率空间上的一随机过程。其中RT 是一实数集，称为指标集或参数集。是一实数集，称为指标集或参数集。 随机过程的两种描述方法：随机过程的两种描述方法： 用映射表示，用映射表示， TXRTtX: ),( 即是一定义在即是一定义在), (XT上的二元单值函数，固定上的二元单值函数，固定Tt，),(tX是一定义在样本空间是一定义在样本空间上的函数，即为一随机变量；对于固定的上的函数，即为一随机变量；对于固定的，)

3、, (X是一个关于参数是一个关于参数Tt的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。记号的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。记号),(tX有时记为有时记为)(tX或简记为或简记为)(tX。 参数参数T一般表示时间或空间。 常用的参数一般有： （一般表示时间或空间。 常用的参数一般有： （1）, 2 , 1 , 00L= NT；（；（2）, 2, 1, 0L=T； （； （3）,baT =， 其中可以取或， 其中可以取或a0，b可以取。当参数取可列集时，一般称随机过程为随机序列。可以取。当参数取可列集时，一般

4、称随机过程为随机序列。 +随机过程随机过程);(TttX可能取值的全体所构成的集合称为此随机过程的状态空间，记作可能取值的全体所构成的集合称为此随机过程的状态空间，记作S。S中的元素称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。中的元素称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。 例例 1：抛掷一枚硬币，样本空间为：抛掷一枚硬币，样本空间为,TH=，借此定义：，借此定义： 中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 =时当出现，时当出现T2H,cos)(tttX),(+t 其中其中2/1=TPHP，则，则),(, )(+ttX是一随机过程。试考察

5、其样本函数和状态空间。是一随机过程。试考察其样本函数和状态空间。 例例 2：设：设 ),(, )cos()(+=ttAtX 其中其中A和和是正常数，是正常数，)2,0(U。试考察其样本函数和状态空间。试考察其样本函数和状态空间。 例例 3：设正弦随机过程：设正弦随机过程);(+)(,),;,121mmmnytYytttyLL为随机过程为随机过程和和的的m维联合分布函数。维联合分布函数。 如果对于任取的如果对于任取的，以及任意的，以及任意的tTtn,L，Ttttm,21L，随机过程，随机过程和和的联合分布函数满足：的联合分布函数满足： ),;,),;212121mnmntttyytttyLLL则

6、称随机过程则称随机过程和和是独立的。是独立的。 注 ： 随 机 过 程注 ： 随 机 过 程和和T独 立 可 以 得 到 随 机 过 程独 立 可 以 得 到 随 机 过 程和和统计不相关，反之不对。但对于正态过程来说是等价的，这一点我们以后将看到。统计不相关，反之不对。但对于正态过程来说是等价的，这一点我们以后将看到。 4函数及离散型随机变量分布列的函数及离散型随机变量分布列的函数表示函数表示 （1）函数（函数（Dirac 函数）的定义及性质函数）的定义及性质 定义：对于任意的无穷次可微的函数定义：对于任意的无穷次可微的函数，如果满足：，如果满足： tdtft)()( 其中：其中： 则称则称

7、的弱极限为的弱极限为函数，记为函数，记为。 显然，对于任意的显然，对于任意的，有：，有： 中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 11)(0=+tdtdt 即即 1)(=+tdt 注注 1：)(t在在0=t点的取值为点的取值为，在，在0t点的取值为，并且满足。点的取值为，并且满足。 01=)(+tdt注注 2：工程（信号处理等）上：工程（信号处理等）上函数也称为单位脉冲函数或单位冲激函数。函数也称为单位脉冲函数或单位冲激函数。 函数的筛选性质：函数的筛选性质： 若若)(tf为无穷次可微的函数，则有：为无穷次可微的函数，则有： )0()()(ftdtftI= 其中其中I

8、是包含点是包含点0=t的任意区间。特殊地，有：的任意区间。特殊地，有： )0()()(ftdtft=+ 更一般地，我们有：更一般地，我们有： )()()(00tftdtftt=+ （2）离散型随机变量分布列的）离散型随机变量分布列的函数表示函数表示 设离散型随机变量的分布列为：设离散型随机变量的分布列为：XL, 2 , 1=ipxXPii，则由，则由函数的筛选性质可以定义离散型随机变量的分布密度（离散型分布密度）为：函数的筛选性质可以定义离散型随机变量的分布密度（离散型分布密度）为： X=1)()(iiixxpxf 因为，由因为，由函数的筛选性质，离散型随机变量的分布函数可以表示为：函数的筛选

9、性质，离散型随机变量的分布函数可以表示为： X =xiii xxiudxuppxXPxFi1)()( 注：工程上，常用离散型随机变量分布列的注：工程上，常用离散型随机变量分布列的函数表示法。它将离散型随机变量的分布列表示成分布密度的形式，因此与连续型随机变量的概率分布密度函数一样，可以进行统一处理。在下面的例子中我们将看到它的应用。函数表示法。它将离散型随机变量的分布列表示成分布密度的形式，因此与连续型随机变量的概率分布密度函数一样，可以进行统一处理。在下面的例子中我们将看到它的应用。 中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 5条件数学期望条件数学期望 条件数学期望是

10、随机数学中最基本最重要的概念之一，它在随机过程课程中具有广泛的应用，需要同学们很好地掌握。条件数学期望是随机数学中最基本最重要的概念之一，它在随机过程课程中具有广泛的应用，需要同学们很好地掌握。 （1） 离散型情形） 离散型情形 定义：设二维离散型随机变量定义：设二维离散型随机变量(),YX0所有可能取的值是，其联合分布率为，记：所有可能取的值是，其联合分布率为，记： ),(jiyx,=jijipyYxXP= jjyYyYXEIYXE j)()( 称称YXE为关于为关于XY的条件数学期望。的条件数学期望。 注注 1：定义中的：定义中的)()( jyYI=是示性函数，即：是示性函数，即： =)(

11、:, 0)(:, 1)()( jjyYyYyYI j 注注 2：条件数学期望：条件数学期望YXE是随机变量是随机变量Y的函数，因此有关于它的分布，其分布为：的函数，因此有关于它的分布，其分布为： 当当)(kjyYXEyYXEkj=时，时， jjyYPyYXEYXEP= 否则，令：否则，令：:jkjyYXEyYXEkD=，则，则 =jDkkjyYPyYXEYXEP 注注 3：由于条件数学期望：由于条件数学期望YXE是随机变量是随机变量Y的函数，故可以求其数学期望，其数学期望为：的函数，故可以求其数学期望，其数学期望为： XEyYPyYXEYXEEjjj=。 例例 9： 离散型随机变量： 离散型随

12、机变量),(YX的联合分布率如下表所示， 试求的联合分布率如下表所示， 试求YXE的分布率，的分布率，,YXEEXE。 中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 X Y 1 2 3 jp 1 2/27 4/27 1/27 7/27 2 5/27 7/27 3/27 15/27 3 1/27 2/27 2/27 5/27 ip 8/27 13/27 6/27 1 （2） 连续型情形） 连续型情形 定义：设二维随机变量具有联合分布密度函数定义：设二维随机变量具有联合分布密度函数),(yxf，Y的边缘分布为，若随机变量的边缘分布为，若随机变量)(yfYYXE满足：满足： （a

13、）YXE是随机变量是随机变量Y的函数， 当的函数， 当yY =时， 它的取值为时， 它的取值为yYXE=； （b）对于任意的事件，有：）对于任意的事件，有： DDYXEDYYXEE= 则称随机变量则称随机变量YXE为关于为关于XY的条件数学期望。的条件数学期望。 注注 1：由于条件数学期望：由于条件数学期望YXE是随机变量是随机变量Y的函数，故可以求其数学期望，其数学期望为：的函数，故可以求其数学期望，其数学期望为： )()(XEdyyfyYXEYXEEY+= 例 10：设：例 10：设：(),(),2 22 121NYX，则有： ，则有： )(112 2+=xxXYE )(112 2+=XX

14、YE 解：先求解：先求Y关于关于xX =的条件分布密度， 的条件分布密度， =211 12222 22/12 2)()1 (21exp)1 (21)(),()(xyxfyxfxyfXxXY即 即 中科院研究生院 20092010 第一学期 随机过程讲稿 孙应飞 )1 (),()(22 211 122+ =xNxyfxXY)()(11 122+=+=xdyxyyfxXYExXY)(11 122+=XXYE （3） 条件数学期望的性质） 条件数学期望的性质 在各给定的随机变量的数学期望存在的条件下，我们有：在各给定的随机变量的数学期望存在的条件下，我们有： （a）YXEEXE=； ； （b） = niiiniiiYXEYXE11 a.s. ；其中；其中)1 (nii为常数；为常数； （c）)()()()(YXgEYhYYhXgE= a.s. ； （d）)()()()(YXgEYhEYhXgE=； （e） 如果如果YX,独立，则有独立，则有 XEYXE=； 证明：设证明：设),(),y(xfYX，则有：，则有： )()()()()()()()(),()(),()()()()(YXgEYhEdyyfyhyYXgEdyyfyhdxyfyxfxgdxdyyxfyhxgYhXgEYY