第十二章随机过程及其统计描述概率论与数理统计

《第十二章随机过程及其统计描述概率论与数理统计》由会员分享，可在线阅读，更多相关《第十二章随机过程及其统计描述概率论与数理统计（70页珍藏版）》请在金锄头文库上搜索。

1、1第十章第十章 随机过程及其统计描述随机过程及其统计描述1 随机过程的概念随机过程的概念2热噪声电压热噪声电压 电子元件或器件由于内部微观粒电子元件或器件由于内部微观粒子子(如电子如电子)的随机热骚动所引起的端电压称的随机热骚动所引起的端电压称为热噪声电压为热噪声电压, 它在任一确定时刻它在任一确定时刻t的值是一的值是一随机变量随机变量, 记为记为V(t). 不同时刻对应不同的随不同时刻对应不同的随机变量机变量, 当时间在某区间当时间在某区间, 譬如譬如0,+ )上推移上推移时时, 热噪声电压表现为一族随机变量热噪声电压表现为一族随机变量, 记为记为(V(t), t 0), 在无线电通讯技术中

2、在无线电通讯技术中, 接收机在接接收机在接收信号时收信号时, 机内的热噪声电压要对信号产生持机内的热噪声电压要对信号产生持续的干扰续的干扰. 通过某种装置对元件两端的热噪声通过某种装置对元件两端的热噪声电压进行长期测量电压进行长期测量, 并记录结果并记录结果, 作为试验结作为试验结果果, 得到一电压得到一电压-时间函数时间函数.3多次试验得到多个电压函数多次试验得到多个电压函数tv1(t)tv2(t)tvk(t)tj4设设T是一无限实数集是一无限实数集, 把依赖于参数把依赖于参数t T的一的一族族(无限多个无限多个)随机变量称为随机变量称为随机过程随机过程, 记为记为X(t), t T, 这里

3、对每一个这里对每一个t T, X(t)是一随机是一随机变量变量. T叫做叫做参数集参数集. 常把常把t看作为时间看作为时间, 称称X(t)为时刻为时刻t时过程的时过程的状态状态, 而而X(t1)=x(实数实数)说成是说成是t=t1时过程处于状态时过程处于状态x, 对于一切对于一切t T, X(t)所有所有可能取的一切值的全体称为随机过程的可能取的一切值的全体称为随机过程的状态状态空间空间. 对随机过程对随机过程X(t), t T进行一次试验进行一次试验, 其结果是其结果是t的函数的函数, 记为记为x(t), t T, 称它为随机称它为随机过程的一个过程的一个样本函数样本函数或或样本曲线样本曲线

4、. 所有不同的所有不同的试验结果构成一族样本函数试验结果构成一族样本函数.5随机过程可看作多维随机变量的延伸随机过程可看作多维随机变量的延伸. 随机过随机过程与其样本函数的关系就象数理统计中总体程与其样本函数的关系就象数理统计中总体与样本的关系一样与样本的关系一样.因此因此, 热噪声电压的变化过程热噪声电压的变化过程V(t), t 0是一是一随机过程随机过程, 它的状态空间是它的状态空间是(- - , + ), 一次观一次观测到的电压测到的电压-时间函数就是这个随机过程的一时间函数就是这个随机过程的一个样本函数个样本函数.在以后的叙述中在以后的叙述中, 为简便起见为简便起见, 常以常以X(t)

5、, t T表示随机过程表示随机过程. 在上下文不致混淆的情况下在上下文不致混淆的情况下, 一般略去记号中的参数集一般略去记号中的参数集T.6例例1 抛掷一枚硬币试验抛掷一枚硬币试验, 样本空间是样本空间是S=H,T, 现藉此定义现藉此定义tt1t2Ox(t)x=tx=cos pt7其中其中P(H)=P(T)=1/2. 对任意固定的对任意固定的t, X(t)是一是一定义在定义在S上的随机变量上的随机变量; 对不同的对不同的t, X(t)是不同是不同的随机变量的随机变量, 所以所以X(t), t (- - , + )是一族随是一族随机变量机变量, 即它是随机过程即它是随机过程. 另一方面另一方面,

6、 作一次试作一次试验验, 若出现若出现H, 样本函数样本函数x1(t)=cos p pt; 若出现若出现T, 样本函数为样本函数为x2(t)=t, 所以该随机过程对应的一所以该随机过程对应的一族样本函数仅包含两个函数族样本函数仅包含两个函数:cos p pt, t. 显然显然这个随机过程的状态空间为这个随机过程的状态空间为(- - , + ).8例例2 考虑考虑X(t)=a a cos(w wt+Q Q), t (- - , ), (1.1)式中式中a a和和w w是正常数是正常数, Q Q是在是在(0,2p p)上服从均匀上服从均匀分布的随机变量分布的随机变量.tOx(t)x1(t),q1=

7、0x2(t), q2=3p/29显然显然, 对于每一个固定的时刻对于每一个固定的时刻t=t1, X(t1)=a a cos(w wt1+Q Q)是一个随机变量是一个随机变量, 因而由因而由(1.1)式确定的式确定的X(t)是一个随机过程是一个随机过程, 通常称它通常称它为随机相位正弦波为随机相位正弦波. 它的状态空间是它的状态空间是- -a a, a a. 在在(0,2p p)内随机地取一数内随机地取一数q qi, 相应地即得这个相应地即得这个随机过程的一个样本函数随机过程的一个样本函数xi(t)=a a cos(w wt+q qi), q qi (0,2p p).10例例3 在测量运动目标的

8、距离时存在随机误差在测量运动目标的距离时存在随机误差, 若以若以e e(t)表示在时刻表示在时刻t的测量误差的测量误差, 则它是一个则它是一个随机变量随机变量. 当目标随时间当目标随时间t按一定规律运动时按一定规律运动时, 测量误差测量误差e e(t)也随时间也随时间t而变化而变化, 换句话说换句话说, e e(t)是依赖于时间是依赖于时间t的一族随机变量的一族随机变量, 亦即亦即e e(t), t 0是一随机过程是一随机过程. 且它们的状态空间是且它们的状态空间是(- - , + ).11例例4 设某城市的设某城市的120急救电话台迟早会接到用急救电话台迟早会接到用户的呼叫户的呼叫, 以以X

9、(t)表示时间间隔表示时间间隔(0,t内接到的内接到的呼叫次数呼叫次数, 它是一个随机变量它是一个随机变量, 且对于不同的且对于不同的t 0, X(t)是不同的随机变量是不同的随机变量. 于是于是, X(t),t 0是一随机过程是一随机过程. 且它的状态空间是且它的状态空间是0,1,2,.12例例5 考虑抛掷一颗骰子的试验考虑抛掷一颗骰子的试验. (i) 设设Xn是第是第n次次(n 1)抛掷的点数抛掷的点数, 对于对于n=1,2,.的不同值的不同值, Xn是不同的随机变量是不同的随机变量, 因而因而Xn, n 1构成一构成一随机过程随机过程, 称为伯努利过程或伯努利随机序列称为伯努利过程或伯努

10、利随机序列. (ii)设设Xn是前是前n次抛掷中出现的最大点数次抛掷中出现的最大点数, Xn, n 1也是一随机过程也是一随机过程. 它们的状态空间都是它们的状态空间都是1,2,3,4,5,6.13工程技术中有很多随机现象工程技术中有很多随机现象, 例如例如, 地震波幅地震波幅, 结构物承受的风荷载结构物承受的风荷载, 时间间隔时间间隔(0, t内船舶甲内船舶甲板板上浪上浪的次数的次数, 通讯系统和自控系统中的通讯系统和自控系统中的各种噪声和干扰各种噪声和干扰, 以及生物群体的生长等等变以及生物群体的生长等等变化过程都可用随机过程这一数学模型来描绘化过程都可用随机过程这一数学模型来描绘. 不过

11、不过, 这些随机过程都不能象随机相位正弦波这些随机过程都不能象随机相位正弦波那样那样, 很方便很方便, 很具体地用时间和随机变量很具体地用时间和随机变量(一一个或几个个或几个)的关系式表示出来的关系式表示出来, 其主要原因是其主要原因是自然界和社会产生随机因素的机理极为复杂自然界和社会产生随机因素的机理极为复杂, 甚至不可能观察到甚至不可能观察到, 因此只有通过分析样本函因此只有通过分析样本函数才能掌握它们的规律性数才能掌握它们的规律性.14随机过程的不同描述方式在本质上是一致的随机过程的不同描述方式在本质上是一致的. 在理论分析时往往以随机变量族的描述方式在理论分析时往往以随机变量族的描述方

12、式作为出发点作为出发点, 而在实际测量和数据处理中往往而在实际测量和数据处理中往往采用样本函数族的描述方式采用样本函数族的描述方式. 这两种描述方式这两种描述方式在理论和实际两方面是互为补充的在理论和实际两方面是互为补充的.随机过程可依其在任一时刻的状态是连续型随机过程可依其在任一时刻的状态是连续型或离散型随机变量而分成或离散型随机变量而分成连续型随机过程连续型随机过程和和离散型随机过程离散型随机过程. 热噪声电压热噪声电压, 例例2和和例例3是连是连续型随机过程续型随机过程, 例例1, 例例4和和例例5是离散型随机过是离散型随机过程程.15随机过程还可依时间随机过程还可依时间(参数参数)是连

13、续或离散进是连续或离散进行分类行分类. 当时间集当时间集T是有限或无限区间时是有限或无限区间时, 称称X(t), t T为连续参数随机过程为连续参数随机过程(以下如无特以下如无特别指明别指明, 随机过程随机过程总是指连续参数而言的总是指连续参数而言的). 如果如果T是离散集合是离散集合, 例如例如T=0,1,2,., 则称则称X(t), t T为离散参数随机过程或随机序列为离散参数随机过程或随机序列, 此时常记成此时常记成Xn, n=0,1,2,.等等, 如如例例5.16有时为了数字化的需要有时为了数字化的需要, 实际中也常将连续参实际中也常将连续参数随机过程转化为随机序列处理数随机过程转化为

14、随机序列处理. 例如例如, 我们我们只在时间集只在时间集T=D Dt, 2D Dt, .,nD Dt, .上观察电阻上观察电阻热噪声电压热噪声电压V(t), 这时就得到一个随机序列这时就得到一个随机序列V1,V2,.,Vn,.,其中其中Vn=V(nD Dt), 显然显然, 当当D Dt充分小时充分小时, 这个随这个随机序列能够近似地描述连续时间情况下的热机序列能够近似地描述连续时间情况下的热噪声电压噪声电压.17参数参数t通常解释为时间通常解释为时间, 但它也可以表示其它但它也可以表示其它的量的量, 诸如序号诸如序号, 距离等距离等. 例如例如, 在例在例5中中, 我们我们假定每隔一个单位时间

15、抛掷骰子一次假定每隔一个单位时间抛掷骰子一次, 那么第那么第n次抛掷的骰子出现的点数次抛掷的骰子出现的点数Xn就相当于就相当于t=n时时骰子出现的点数骰子出现的点数.182 随机过程的统计描述随机过程的统计描述19(一一)随机过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程X(t), t T. 对于每一个固定的对于每一个固定的t T, 随机变随机变量量X(t)的分布函数一般与的分布函数一般与t有关有关, 记为记为FX(x,t)=PX(t) x, x R,称它为随机过程称它为随机过程X(t), t T的的一维分布函数一维分布函数, 而而FX(x,t), t T称为称为一维分布函数族

16、一维分布函数族.一维分布函数族刻画了随机过程在各个个别一维分布函数族刻画了随机过程在各个个别时刻的统计特性时刻的统计特性. 20为了描述随机过程在不同时刻状态之间的统为了描述随机过程在不同时刻状态之间的统计联系计联系, 一般可对任意一般可对任意n(n=2,3,.)个不同时刻个不同时刻t1,t2,.,tn T, 引入引入n维随机变量维随机变量(X(t1),X(t2),., X(tn), 它的分布函数记为它的分布函数记为FX(x1,x2,.,xn;t1,t2,.,tn)=PX(t1) x1, X(t2) x2,., X(tn) xn,xi R, i=1,2,.,n.对于固定的对于固定的n, 称称F

17、X(x1,x2,.,xn;t1,t2,.,tn), ti T为随机过程为随机过程X(t), t T的的n维分布函数族维分布函数族.21当当n充分大时充分大时, n维分布函数族能够近似地描维分布函数族能够近似地描述随机过程的统计特性述随机过程的统计特性. 显然显然, n取得越大取得越大, 则则n维分布函数族描述随机过程的特性也越趋完维分布函数族描述随机过程的特性也越趋完善善. 一般一般, 可以指出可以指出(科尔莫戈罗夫定律科尔莫戈罗夫定律):有限有限维分布函数族维分布函数族, 即即FX(x1,x2,.,xn, n=1,2,.,t1, t2, .,tn), ti T完全地确定了随机过程的统计特完全

18、地确定了随机过程的统计特性性.22(二二) 随机过程的数字特征随机过程的数字特征 随机过程的分布函随机过程的分布函数族能完善地刻画随机过程的统计特性数族能完善地刻画随机过程的统计特性. 但是但是人们在实际中人们在实际中, 根据观察往往只能得到随机过根据观察往往只能得到随机过程的部分资料程的部分资料(样本样本), 用它来确定有限维分布用它来确定有限维分布函数族是困难的函数族是困难的, 甚至是不可能的甚至是不可能的, 因而象引因而象引入随机变量的数字特征那样入随机变量的数字特征那样, 有必要引入随机有必要引入随机过程的基本的数字特征过程的基本的数字特征-均值函数和相关函数均值函数和相关函数等等.

19、将会看到将会看到, 这些数字特征在一定条件下是这些数字特征在一定条件下是便于测量的便于测量的. 23给定随机过程给定随机过程X(t), t T, 固定固定t T, X(t)是一是一随机变量随机变量, 它的一切均值一般与它的一切均值一般与t有关有关, 记为记为m mX(t)=EX(t),(2.1)称称m mX(t)随机过程随机过程X(t), t T的的均值函数均值函数.注意注意, m mX(t)是随机过程的所有样本函数在时刻是随机过程的所有样本函数在时刻t的函数值的平均值的函数值的平均值, 通常称这种平均为通常称这种平均为集平集平均均或或统计平均统计平均.均值函数均值函数m mX(t)表示了随机

20、过程表示了随机过程X(t)在各个时在各个时刻的摆动中心刻的摆动中心.24把随机变量把随机变量X(t)的二阶原点矩和二阶中心矩的二阶原点矩和二阶中心矩分别记作分别记作并分别称它们为随机过程并分别称它们为随机过程X(t), t T的均方的均方值函数和方差函数值函数和方差函数. 方差函数的算术平方根方差函数的算术平方根s sX(t)称为随机过程的标准差函数称为随机过程的标准差函数, 它表示随机它表示随机过程过程X(t)在时刻在时刻t对于均值对于均值m mX(t)的平均偏离程的平均偏离程度度.25tX(t)m mX(t)m mX(t)- -s sX(t)m mX(t)+ +s sX(t)x1(t)x2

21、(t)xi(t)26又设任意又设任意t1,t2 T, 把随机变量把随机变量X(t1)和和X(t2)的二的二阶矩原点混合矩记作阶矩原点混合矩记作RXX(t1,t2)=EX(t1)X(t2), (2.4)并称它为随机过程并称它为随机过程X(t),t T的的自相关函数自相关函数, 简称简称相关函数相关函数. RXX也简记为也简记为RX(t1,t2). X(t1)和和X(t2)的二阶混合中心矩记作的二阶混合中心矩记作CXX(t1,t2)=CovX(t1),X(t2)=EX(t1)- -m mX(t1)X(t2)- -m mX(t2), (2.5)并称它为随机过程并称它为随机过程X(t),t T的自协方

22、差函的自协方差函数数, 简称协方差函数简称协方差函数. CXX(t1,t2)也常简记为也常简记为CX(t1,t2).27由由(2.2)和和(2.4)式知式知由由(2.5)式展开式展开, 得得 CX(t1,t2)=RX(t1,t2)- -m mX(t1)m mX(t2). (2.7)特别特别, 当当t1=t2=t时时, 由由(2.7)式得式得由上面可知诸数字特征中最主要的是均值由上面可知诸数字特征中最主要的是均值函数和自相关函数函数和自相关函数.28随机过程随机过程X(t), t T, 如果对每一个如果对每一个t T, 二二阶矩阶矩EX2(t)都存在都存在, 则称它为则称它为二阶矩过程二阶矩过程

23、.二阶矩过程的相关函数总存在二阶矩过程的相关函数总存在. 事实上事实上, 由于由于EX2(t1), EX2(t2)存在存在, 根据柯西根据柯西-许瓦兹不等许瓦兹不等式有式有EX(t1)X(t2) EX2(t1)X2(t2), t1,t2 T.即知即知RX(t1,t2)=EX(t1)X(t2)存在存在29在实际中在实际中, 常遇到一种特殊的二阶矩过程常遇到一种特殊的二阶矩过程-正正态过程态过程. 随机过程随机过程X(t), t T称为称为正态过程正态过程, 如果它的每一个有限维分布都是正态分布如果它的每一个有限维分布都是正态分布, 亦亦即对任意整数即对任意整数n 1及任意及任意t1,t2,.,t

24、n T, (X(t1), X(t2),., X(tn)服从服从n维正态分布维正态分布. 由第四章的结由第四章的结论知论知, 正态过程的全部统计特性完全由它的均正态过程的全部统计特性完全由它的均值函数和自协方差函数值函数和自协方差函数(或自相关函数或自相关函数)所确所确定定.30例例1 设随机变量设随机变量AN(0,1), BU(0,2), A,B相互相互独立独立, 求随机过程求随机过程X(t)=At+B, t T=(- - , )的均的均值函数值函数m mX(t)和自相关函数和自相关函数RX(t1,t2).解解 由题意由题意E(A)=0, E(A2)=1, E(B)=1, E(B2)=4/3,

25、 m mX(t)=EX(t)=EAt+B=tEA+EB=1, RX(t1,t2)=EX(t1)X(t2)=E(At1+B)(At2+B) =t1t2EA2+(t1+t2)EAB+EB2 =t1t2+4/3, t1,t2 T.31例例2 求随机相位正弦波求随机相位正弦波(1例例2)的均值函数的均值函数, 方方差函数和自相关函数差函数和自相关函数.解解 由假设由假设Q Q的概率密度为的概率密度为于是于是, 由定义由定义32而自相关函数而自相关函数式中式中t t=t2- -t1. 特别特别, 令令t1=t2=t, 即得方差函数为即得方差函数为33例例3 设设X(t)=Acosw wt+Bsinw w

26、t, t T=(- - , + ), 其中其中A,B是相互独立是相互独立, 且都服从正态分布且都服从正态分布N(0,s s2)的随机变量的随机变量, w w是实常数是实常数. 试证明试证明X(t)是正是正态过程态过程, 并求它的均值函数和自相关函数并求它的均值函数和自相关函数.解解 由题设由题设A,B是相互独立的正态变量是相互独立的正态变量, 所以所以(A,B)是二维正态变量是二维正态变量, 对任意一组实数对任意一组实数t1,t2,.,tn T,X(ti)=Acosw wti+Bsinw wti, i=1,2,.,n都是都是A,B的线性组合的线性组合, 而正态变量的任何线性而正态变量的任何线性

27、组合仍然是正态变量组合仍然是正态变量, 因此因此X(t1),X(t2),.,X(tn)是是n维正态变量维正态变量, 因为因为n, ti是任意的是任意的, 因此因此X(t)是正态过程是正态过程.34另因另因E(A)=E(B)=E(AB)=0, E(A2)=E(B2)=s s2,由此可算得由此可算得X(t)的均值函数和自协方差函数的均值函数和自协方差函数(自相关函数自相关函数)分别为分别为:m mX(t)=E(Acosw wt+Bsinw wt)=0,CX(t1,t2)=RX(t1,t2)=E(Acosw wt1+Bsinw wt1)(Acosw wt2+Bsinw wt2)=s s2(cosw

28、wt1cosw wt2+sinw wt1sinw wt2)=s s2cosw w(t2- -t1).35(三三)二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 实实际问题中际问题中, 有时必须同时研究两个或以上随机有时必须同时研究两个或以上随机过程及它们之间的统计联系过程及它们之间的统计联系. 例如例如, 某地在时某地在时段段(0,t内的最高温度内的最高温度X(t)和最低温度和最低温度Y(t)都是都是随机过程随机过程, 需要研究它们的统计联系需要研究它们的统计联系. 又如又如, 输输入到一个系统的信号和噪声可以都是随机过入到一个系统的信号和噪声可以都是随机过程程, 这时输出也

29、是随机过程这时输出也是随机过程. 需要研究输出与需要研究输出与输入之间的统计联系等输入之间的统计联系等. 对这类问题对这类问题, 除了对除了对各个随机过程的统计特性加以研究外各个随机过程的统计特性加以研究外, 还必须还必须将几个随机过程作为整体研究其统计特性将几个随机过程作为整体研究其统计特性.36设设X(t), Y(t)是依赖于同一参数是依赖于同一参数t T的随机过程的随机过程, 对于不同的对于不同的t T, (X(t),Y(t)是不同的二维随是不同的二维随机变量机变量, 称称(X(t),Y(t), t T为为二维随机过程二维随机过程.给定二维随机过程给定二维随机过程(X(t),Y(t),

30、t T, t1,t2,.,tn;t1,t2,.,tm是是T中任意两组实数中任意两组实数, 称称n+m维随机维随机变量变量(X(t1),X(t2),.,X(tn);Y(t1),Y(t2),.Y(tm)的分布函数的分布函数F(x1,x2,.,xn;t1,t2,.,tn:y1,y2,.,yn;t1,t2,.,tm),xi,yj R, i=1,2,.,n, j=1,2,.,m为这个二维过程的为这个二维过程的n+m维分布函数维分布函数或随机过或随机过程程X(t)与与Y(t)的的n+m维联合分布函数维联合分布函数.37如果对于任意的正整数如果对于任意的正整数n,m, 任意的数组任意的数组t1,t2,.,t

31、n T,t1,t2,.,tm T, n维随机变量维随机变量(X(t1),X(t2),.,X(tn)与与m维随机变量维随机变量Y(t1),Y(t2),.Y(tm)相相互独立互独立, 称随机过程称随机过程X(t)和和Y(t)是是相互独立相互独立的的.关于数字特征关于数字特征, 除了除了X(t),Y(t)各别的均值和自各别的均值和自相关函数外相关函数外, 在应用课题中感兴趣的是在应用课题中感兴趣的是X(t)和和Y(t)的二阶混合原点矩的二阶混合原点矩, 记作记作RXY(t1,t2)=EX(t1)Y(t2), t1,t2 T, (2.9)并称它为随机过程并称它为随机过程X(t)和和Y(t)的的互相关函

32、数互相关函数.38还有如下定义的还有如下定义的X(t)和和Y(t)的的互协方差函数互协方差函数CXY(t1,t2)=EX(t1)- -m mX(t1)Y(t2)- -m mY(t2) =RXX(t1,t2)- -m mX(t1)m mY(t2), t1,t2 T. (2.10)如二随随机过程如二随随机过程(X(t),Y(t)对任意的对任意的t1,t2 T有有 CXY(t1,t2)=0,(2.11)则称随机过程则称随机过程X(t)和和Y(t)是是不相关不相关的的.两个随机过程如果是相互独立的两个随机过程如果是相互独立的, 且它们的二且它们的二阶矩存在阶矩存在, 则它们必然不相关则它们必然不相关.

33、 反之反之, 从不相关从不相关一般并不能推断出它们是相互独立的一般并不能推断出它们是相互独立的.39当同时考虑当同时考虑n(n2)个随机过程或个随机过程或n维随机过程维随机过程时时, 可引入它们的多维分布可引入它们的多维分布, 以及均值函数和以及均值函数和两两之间的互相关函数两两之间的互相关函数(或互协方差函数或互协方差函数).在许多应用问题中在许多应用问题中, 经常要研究几个随机过程经常要研究几个随机过程之和之和(例如例如, 将信号和噪声同时输入到一个线将信号和噪声同时输入到一个线性系统的情形性系统的情形)的统计特性的统计特性. 现考虑三个随机现考虑三个随机过程过程X(t), Y(t)和和Z

34、(t)之和的情形之和的情形. 令令W(t)=X(t)+Y(t)+Z(t),显然显然, 均值函数均值函数m mW(t)=m mX(t)+m mY(t)+m mZ(t).40而而W(t)的自相关函数可以根据均值运算规则的自相关函数可以根据均值运算规则和相关函数的定义得到和相关函数的定义得到: RWW(t1,t2)=EW(t1)W(t2)=RXX(t1,t2)+RXY(t1,t2)+RXZ(t1,t2)+RYX(t1,t2)+RYY(t1,t2)+RYZ(t1,t2) +RZX(t1,t2)+RZY(t1,t2)+RZZ(t1,t2).此事表明此事表明, 几个随机过程之和的自相关函数可几个随机过程之

35、和的自相关函数可以表示为各个随机过程的自相关函数以及各以表示为各个随机过程的自相关函数以及各对随机过程的互相关函数之和对随机过程的互相关函数之和.41如果上述三个随机过程是两两不相关的如果上述三个随机过程是两两不相关的, 且各且各自的均值函数都为零自的均值函数都为零, 则由则由(2.11)式可知诸互式可知诸互相关函数均等于零相关函数均等于零, 此时此时W(t)的自相关函数简的自相关函数简单地等于各个过程的自相关函数之和单地等于各个过程的自相关函数之和, 即即 RWW(t1,t2)=RXX (t1,t2)+RYY (t1,t2)+RZZ (t1,t2)(2.12)特别地特别地, 令令t1=t2=

36、t, 由上式可得由上式可得W(t)的方差函数的方差函数(此外即为均方值函数此外即为均方值函数)为为423 泊松过程及维纳过程泊松过程及维纳过程43泊松过程及维纳过程是两个典型的随机过程泊松过程及维纳过程是两个典型的随机过程, 它们在随机过程的理论和应用中都有重要的它们在随机过程的理论和应用中都有重要的地位地位, 它们都属于所谓独立增量过程它们都属于所谓独立增量过程, 所以下所以下面先介绍独立增量过程面先介绍独立增量过程.给定二阶矩过程给定二阶矩过程X(t), t 0, 称随机变量称随机变量X(t)- -X(s), 0 st为随机过程在区间为随机过程在区间(s,t上的增量上的增量. 如果对任意选

37、定的正整数如果对任意选定的正整数n和任意选定的和任意选定的0 t0t1t2.tn, n个增量个增量X(t1)- -X(t0),X(t2)- -X(t1),.,X(tn)- -X(tn- -1)相互独立相互独立, 则称则称X(t), t 0为为独立增量过程独立增量过程.44对于独立增量过程对于独立增量过程, 可以证明可以证明: 在在X(0)=0的条的条件下件下, 它的有限维分布函数族可以由增量它的有限维分布函数族可以由增量X(t)- -X(s)(0 st)的分布所确定的分布所确定.特别特别, 若对任意的实数若对任意的实数h和和0 s+ht+h, X(t+h)- -X(s+h)与与X(t)- -X

38、(s)具有相同的分布具有相同的分布, 则称则称增量增量具有平稳性具有平稳性. 这时这时, 增量增量X(t)- -X(s)的分布函数的分布函数实际上只依赖于时间差实际上只依赖于时间差t- -s(0 st), 而不依赖而不依赖于于t和和s本身本身(事实上事实上, 令令h=-=-s即知即知). 当增量具有当增量具有平稳性时平稳性时, 称相应的独立增量过程是称相应的独立增量过程是齐次的齐次的或或时齐的时齐的.45设设X(0)=0和方差函数和方差函数DX(t)为已知为已知, 计算独立增计算独立增量过程量过程X(t), t 0的协方差函数的协方差函数CX(s,t).记记Y(t)=X(t)- -m mX(t

39、). 则当则当X(t)具有独立增量时具有独立增量时, Y(t)也具有独立增量也具有独立增量; Y(0)=0, EY(t)=0, 且方且方差函数差函数DY(t)=EY2(t)=DX(t). 当当0 st时时 CX(s,t)=EY(s)Y(t)=EY(s)- -Y(0)(Y(t)- -Y(s)+Y(s)=EY(s)- -Y(0)EY(t)- -Y(s)+EY2(s)=DX(s).由此知对任意由此知对任意s,t 0, CX(s,t)=DX(min(s,t). (3.1)46(一一)泊松过程泊松过程 考虑下列随时间推移迟早会重考虑下列随时间推移迟早会重复出现的事件复出现的事件:(i) 自电子管阴极发射

40、的电子到达阳极自电子管阴极发射的电子到达阳极;(ii) 意外事故或意外差错的发生意外事故或意外差错的发生;(iii) 要求服务的顾客到达服务站要求服务的顾客到达服务站, 此处此处顾客顾客与与服务站服务站的含义也是相当广泛的的含义也是相当广泛的. 例例如如, 顾客顾客可以是电话的呼叫可以是电话的呼叫, 服务站服务站是是120急救台急救台; 顾客顾客可以是来领配件的汽车维可以是来领配件的汽车维修工修工, 服务站服务站是维修站配件仓库的管理员是维修站配件仓库的管理员, 顾客顾客也可以是联网的个人电脑也可以是联网的个人电脑, 服务站服务站是某网站的主页等等是某网站的主页等等.47为建立一般模型方便起见

41、为建立一般模型方便起见, 把电子把电子, 顾客等看顾客等看作时间轴上的质点作时间轴上的质点, 电子到达阳极电子到达阳极, 顾客到达顾客到达服务站等事件的发生相当于质点出现服务站等事件的发生相当于质点出现. 于是抽于是抽象地说象地说, 我们研究的对象将是随时间推移我们研究的对象将是随时间推移, 陆陆续地出现在时间轴上的许多质点所构成的随续地出现在时间轴上的许多质点所构成的随机的质点流机的质点流.以以N(t), t 0表示在时间间隔表示在时间间隔(0, t内出现的质内出现的质点数点数. N(t), t 0是一状态取非负整数是一状态取非负整数, 时间时间连续的随机过程连续的随机过程, 称为称为计数过

42、程计数过程.48一样本函数如图所示一样本函数如图所示:135N(t)t1t2t5Ot49令令N(t0, t)=N(t)- -N(t0), 0 t00称为过程称为过程N(t)的强度的强度, 而而o(D Dt)当当D Dt0时是关于时是关于D Dt的高阶无穷小的高阶无穷小;503 对于充分小的对于充分小的D Dt, 4 N(0)=0.把满足条件把满足条件14的计数过程的计数过程N(t), t 0称作称作强度为强度为l l的泊松过程的泊松过程, 相应的质点流或即质点相应的质点流或即质点出现的随机时刻出现的随机时刻t1,t2,.称作称作强度为强度为l l的泊松流的泊松流.下面先求出增量的分布律下面先求

43、出增量的分布律.51对泊松过程对泊松过程, 因因下面就泊松过程来计算概率下面就泊松过程来计算概率(3.2)52首先确定首先确定P0(t0,t). 为此为此, 对对D Dt0, 考虑考虑P0(t0,t+D Dt)=PN(t0,t+D Dt)=0=PN(t0,t)+N(t,t+D Dt)=0=PN(t0,t)=0,N(t,t+D Dt)=0,由条件由条件1和和(3.5)式式, 上式可写成上式可写成P0(t0,t+D Dt)=PN(t0,t)=0PN(t,t+D Dt)=0=P0(t0,t)1- -l lD Dt+o(D Dt)或或 P0(t0,t+D Dt)- -P0(t0,t)=-=-l lP0

44、(t0,t)D Dt+o(D Dt).现以现以D Dt除上式两边除上式两边, 并令并令D Dt0, 得微分方程得微分方程53复习一阶线性微分方程的解复习一阶线性微分方程的解.一阶线性微分方程一阶线性微分方程它的通解是它的通解是54因为因为N(t0,t0)=0, 故故P0(t0,t0)=1. 把它看作初始条把它看作初始条件即可从方程件即可从方程(3.6)解得解得P0(t0,t)=exp- -l l(t- -t0), tt0. (3.7)再来计算再来计算Pk(t0,t),k 1. 根据和事件概率公式和根据和事件概率公式和条件条件1, 有有PN(t0,t+D Dt)=k=PN(t0,t)+N(t,t

45、+D Dt)=k由由P0(t,t+D Dt)=1- -l lD Dt+o(D Dt)并注意到并注意到55上式可表示成上式可表示成 =1- -l lD Dt+o(D Dt)Pk(t0,t) +l lD Dt+o(D Dt)Pk- -1(t0,t)+o(D Dt) (k 1).将此式适当整理后将此式适当整理后, 两边除以两边除以D Dt, 并令并令D Dt0, 就可以得到就可以得到P0(t0,t)满足的微分满足的微分-差分方程差分方程初始条件为初始条件为Pk(t0,t0)=0, k 1.(3.9)56于是于是, 令令k=1, 并利用已求出的并利用已求出的P0(t0,t), 可解出可解出P1(t0,

46、t)=l l(t- -t0)exp- -l l(t- -t0),tt0.如此重复如此重复, 即逐次令即逐次令k=2,3,.就可求得在就可求得在(t0,t内出现内出现k个质点的概率为个质点的概率为 Pk(t0,t)=PN(t0,t)=k(3.10)由上式易见增量由上式易见增量N(t0,t)=N(t)- -N(t0)的概率分布的概率分布是参数为是参数为l l(t- -t0)的泊松分布的泊松分布, 且只与时间差且只与时间差t- -t0有关有关, 所以强度为所以强度为l l的泊松过程是一齐次的独的泊松过程是一齐次的独立增量过程立增量过程.57在有些书中在有些书中, 泊松过程也用另一种定义泊松过程也用另

47、一种定义, 即若即若计数过程计数过程N(t), t 0满足下列三个条件满足下列三个条件:(i)它是独立增量过程它是独立增量过程;(ii)对任意的对任意的tt0 0, 增量增量N(t)- -N(t0)p p(l l(t- -t0);(iii) N(0)=0,则称则称N(t),t 0是一强度为是一强度为l l的泊松过程的泊松过程.则从前面的演算结果不难看到从条件则从前面的演算结果不难看到从条件14可可以推出以推出(i)(iii), 反之反之, 在在(ii)中令中令t- -t0=D Dt, 并利用并利用e- -l lD Dt的泰勒级数展开式的泰勒级数展开式, 就能得到条件就能得到条件2和和3. 由此

48、由此, 定义泊松过程的两组条件是等价的定义泊松过程的两组条件是等价的.58因为因为N(t)- -N(t0)p p(l l(t- -t0). tt0 0, 可知可知EN(t)- -N(t0)=VarN(t)- -N(t0)=l l(t- -t0).特别地特别地, 令令t0=0, 由于假设由于假设N(0)=0, 故可推知泊故可推知泊松过程的均值函数和方差函数分别为松过程的均值函数和方差函数分别为EN(t)=l lt, DN(t)=varN(t)=l lt. (3.11)从从(3.11)式可以看到式可以看到, l l=EN(t)/t, 即泊松过程即泊松过程的强度的强度l l(常数常数)等于单位长时间

49、间隔内出现的等于单位长时间间隔内出现的质点数目的期望值质点数目的期望值.关于泊松过程的协方差函关于泊松过程的协方差函数数, 由由(3.1),(3.11)式直接推得式直接推得:CN(s,t)=l l min(s,t), s,t 0.而相关函数而相关函数 RN(s,t)=EN(s)N(t)=l l2st+l l min(s,t),s,t 0.59如果强度如果强度l l非均匀非均匀, 即即l l是时间的函数是时间的函数l l=l l(t), t 0. 则称泊松过程为非齐次的则称泊松过程为非齐次的. 对于非齐次对于非齐次泊松过程泊松过程, 用类似的方法用类似的方法, 可得可得60下面介绍与泊松过程有关

50、的两个随机变量下面介绍与泊松过程有关的两个随机变量, 即即等待时间和点间间距等待时间和点间间距, 以及它们的概率分布以及它们的概率分布.在较多的实际问题中在较多的实际问题中, 通常对质点的观察通常对质点的观察, 不不是对时间间隔是对时间间隔(t1,t2中出现的质点计数中出现的质点计数, 而是而是对记录到某一预定数量的质点所需要的时间对记录到某一预定数量的质点所需要的时间进行计时进行计时. 例如例如, 为研究含某种放射性元素的为研究含某种放射性元素的物质物质, 常对它发射出来的粒子作计时试验常对它发射出来的粒子作计时试验.一般一般, 设质点设质点(或事件或事件)依次重复出现的时刻依次重复出现的时

51、刻t1,t2,.,tn,.是一强度为是一强度为l l的泊松流的泊松流, N(t), t 0为相应的为相应的泊松过程泊松过程.61以惯用记号记以惯用记号记W0=0,Wn=tn, n=1,2,.Wn是一随机变量是一随机变量, 表示第表示第n个质点个质点(或事件第或事件第n次次)出现的出现的等待时间等待时间. 如下图所示如下图所示.T1T2TkOW1W2Wk- -1Wkt62求求Wn的分布函数如下的分布函数如下将它关于将它关于t求导求导, 得得Wn的概率密度为的概率密度为63这就是说这就是说, 泊松流泊松流(泊松过程泊松过程)的等待时间的等待时间Wn服服从从G G分布分布. 特别特别, 质点质点(或

52、事件或事件)首次出现的等待首次出现的等待时间时间W1服从指数分布服从指数分布:又记又记 Ti=Wi- -Wi- -1, i=1,2,.它也是一个连续型随机变量它也是一个连续型随机变量, 称为相继出现的称为相继出现的第第i- -1个质点和第个质点和第i个质点的点间间距个质点的点间间距. 下面来下面来求求Ti的分布的分布.64由于由于T1=W1, 所以所以T1服从指数分布服从指数分布. 对于对于i 2, 也可以证明也可以证明, Ti也服从同样的指数分布也服从同样的指数分布, 即即且且T1,T2,.,Ti,.是相互独立的随机变量是相互独立的随机变量. 即有即有定理一定理一 强度为强度为l l的泊松流

53、的泊松流(泊松过程泊松过程)的点间的点间间距是相互独立的随机变量间距是相互独立的随机变量, 且服从同一个指且服从同一个指数分布数分布.65定理二定理二 如果任意相继出现的两个质点的点间如果任意相继出现的两个质点的点间间距是相互独立间距是相互独立, 且服从同一个指数分布且服从同一个指数分布, 则则质点流构成了强度为质点流构成了强度为l l的泊松过程的泊松过程.这两个定理刻画出了泊松过程的特征这两个定理刻画出了泊松过程的特征. 定理二定理二说明说明, 为要确定一个计数过程是不是泊松过程为要确定一个计数过程是不是泊松过程, 只要用统计方法检验点间间距是否独立只要用统计方法检验点间间距是否独立, 且服

54、且服从同一个指数分布从同一个指数分布.泊松过程或泊松流是研究排队理论的工具泊松过程或泊松流是研究排队理论的工具, 在在技术领域内它又是构造技术领域内它又是构造(模似模似)一类重要噪声一类重要噪声(散粒噪声散粒噪声)的基础的基础.66(二二)维纳过程维纳过程 维纳过程是布朗运动的数学模维纳过程是布朗运动的数学模型型. 英国植物学家布朗在显微镜下英国植物学家布朗在显微镜下, 观察漂浮观察漂浮在平静的液面上的微小粒子在平静的液面上的微小粒子, 发现它们不断地发现它们不断地进行着杂乱无章的运动进行着杂乱无章的运动, 这种现象后来称为布这种现象后来称为布朗运动朗运动. 以以W(t)表示运动中一微粒从时刻

55、表示运动中一微粒从时刻t=0到时刻到时刻t0的位移的横坐标的位移的横坐标(同样也可以讨论同样也可以讨论纵坐标纵坐标), 且设且设W(0)=0, 根据爱因斯坦根据爱因斯坦1905年提年提出的理论出的理论, 微粒的这种运动是由于受到大量随微粒的这种运动是由于受到大量随机的相互独立的分子的碰撞的结果机的相互独立的分子的碰撞的结果. 于是于是, 粒粒子在时段子在时段(s,t上的位移可以看作是许多微小上的位移可以看作是许多微小位移的代数和位移的代数和. 则则W(t)- -W(s)服从正态分布服从正态分布.67其次其次, 由于粒子的运动完全是由液体分子的不由于粒子的运动完全是由液体分子的不规则碰撞而引起的

56、规则碰撞而引起的. 这样这样, 在不相重叠的时间在不相重叠的时间间隔内间隔内, 碰撞的次数碰撞的次数, 大小和方向可假定是相大小和方向可假定是相互独立的互独立的, 这就是说这就是说W(t)具有独立的增量具有独立的增量. 另另外外, 液面处于平衡状态液面处于平衡状态, 这时粒子在一时段上这时粒子在一时段上位移的概率分布可以认为只依赖于这时段的位移的概率分布可以认为只依赖于这时段的长度长度, 而与观察的起始时刻无关而与观察的起始时刻无关, 即即W(t)具有具有平稳增量平稳增量.68给定二阶矩过程给定二阶矩过程W(t), t 0, 如果它满足如果它满足1具有独立增量具有独立增量;2对任意的对任意的ts 0, 增量增量W(t)- -W(s)N(0,s s2(t- -s), 且且s s0;3W(0)=0,则称此过程为则称此过程为维纳过程维纳过程.W(t)Ot69维纳过程增量的分布只与时间差有关维纳过程增量的分布只与时间差有关, 所以它所以它是齐次的独立增量过程是齐次的独立增量过程. 它也是正态过程它也是正态过程. 事事实上实上, 对任意对任意n(n 1)个时刻个时刻0t1t2.0.维纳过程不只是布朗运动的数学模型维纳过程不只是布朗运动的数学模型, 电子元电子元件在恒温下的热噪声也可归结为维纳过程件在恒温下的热噪声也可归结为维纳过程.