《随机过程课件：第一章：预备知识（概率论）》由会员分享，可在线阅读，更多相关《随机过程课件：第一章：预备知识（概率论）（43页珍藏版）》请在金锄头文库上搜索。
1、1随机过程2课程介绍掌握随机过程的概念、方法与计算，为后续通信课程学习打下必备的数学基础概率论与数理统计高等数学信号与系统随机过程信息论与编码通信原理统计信号处理3教材或参考书v随机过程刘次华 编华中科技大学出版社v随机信号分析朱华，黄辉宁 等编北京理工大学出版社4课程大纲v第一章：预备知识（概率论）v第二章：随机过程的概念及基本类型v第三章： 泊松过程v第四章：马尔柯夫链v第五章：连续时间的马尔柯夫链v第五章（下）：正态过程v第六章：平稳随机过程v第七章：平稳过程的谱分析5第一章：预备知识（概率论）v预备知识v简要回顾一下概率论中与本课程有关的基本概念：随机试验、样本空间、事件、概率、随机变
2、量等6 6随机试验v试验结果事先不能准确预言，三个特征:可以在相同条件下重复进行；每次试验结果不止一个，可预先知道试验所有可能结果；每次试验前不能确定那个结果会出现。样本空间随机试验所有可能结果组成的集合，记为事件样本空间的子集A称为事件集合运算7古典概率v随机试验中一切可能结果是有限多个；v每个结果出现的可能性是相等的；v则事件A发生的概率可表示为8几何概率v计算无穷个基本事件的情形；v样本点具有均匀分布的性质；v设用L（ ）作为区域大小的量度，而区域中任意可能出现的小区域A的量度用L（A）表示；v则事件A（或某一区域）发生的概率表示为9统计概率v用于计算前两种随机概率概括不了的随机事件概率
3、；v用事件的频率近似地去表达事件的概率；v若在同样的条件下，将随机试验独立的重复做n次，事件A出现了nA次，则事件A的频率是v当试验次数n增大时，其中大量的频率聚集在一个常数周围；v这个常数是客观存在的，反映了事件A出现可能性的大小，我们认为这个常数就是事件的概率。10公理化定义概率v对于一个事件A样本空间，赋予一个实数P，若满足：1.0P(A) 1;2.P()=1;3.若A1,A2,.,Ak两两互斥，则我们称P（A）为事件A的一个概率。11概率空间v规定一个随机试验，所有样本点之集合构成样本空间 ，在样本空间中一个样本点或若干个样本点之适当集合F称为事件域，F中的每一个集合称为事件。若A F
4、，则P(A)就是事件A的概率，并称这三个实体的结合（ ，F，P）为一个概率空间v并不是所有的的子集都能方便地定义概率，要有限制。12121313条件概率v在事件B已发生这一条件下，事件A发生的概率。全概率v若有N个互斥事件Bn（n=1,2,N），它的并集等于整个样本空间，则1414v设事件A1，A2，An构成一个完备事件组，概率P(Ai)0,i=1,2,n,对于任何一个事件B，若P(B)0, 有贝叶斯公式独立事件v独立的等价命题：1）A，B独立； 2） A，BC独立； 3）P(A/B)=P(A)； 4） P(A/BC)=P(A)v思考：独立与互斥的关系15v事件A1，A2，An看作是导致事件B
5、发生的“因素”，P(Ai )是在事件B已经出现这一信息得知前Ai出现的概率，通常称为先验概率。v在试验中事件B的出现，有助于对导致事件B出现的各种“因素”发生的概率作进一步探讨，公式给出的P(AiB)是在经过试验获得事件B已经发生这个信息之后，事件Ai发生的概率，称为后验概率。v后验概率依赖于试验中得到的新信息的具体情况（比如事件B发生还是事件B补发生），并且给出在获得新信息之后，导致B出现的各种因素Ai发生情况的新知识，因此贝叶斯公式又称为后验概率公式或逆概率公式。 先验概率与后验概率1616随机变量定义：设（，F，P）是概率空间，X=X(e)是定义在上的实函数，如果对任意实数x，e:X(e
6、) x F，则称X(e)是F上的随机变量（X也称为F可测的）。1717事件随机变量离散型随机变量：只取有限个数值或可列无穷多个值。连续型随机变量：从原样本空间到新样本空间的映射是某一个范围，是一段（或几段）实线（也可能是整个坐标轴），随机变量可以取值于某一区间中的任一数。18分布函数（一个描述随机变量取值的概率分布情况的统一方法）性质：1.F(x)是非降函数；2.0F(x) 1；3.Px1Xx2=F(x2)-F(x1)4.F(x)是右连续。19离散型随机变量的概率分布用分布列描述01分布二项分布泊松分布连续型随机变量的概率分布用概率密度描述均匀分布正态分布指数分布20随机变量函数的分布在给定某
7、任意的随机变量X，以及它的概率分布函数FX(x)，希望进一步求出给定的随机变量的某些可测函数（如Y=g(X)）的概率分布函数。非线性放大器YXY的概率分布函数公式为如果上式右端概率的导数对于y处处存在，那么这个导数就给出了随机变量Y的概率密度2121n维随机变量及其分布函数设（ ，F，P）是概率空间，X=X(e)（X1(e),Xn(e)）是定义在上的n维空间Rn中取值的向量函数。如果对于任意X=(X1,Xn) Rn，e:X1(e) x1,Xn(e) xn F，则称X=X(e)为n维随机变量。称为X=(X1,X2,Xn)的联合分布函数22边际分布若二维联合分布函数中有一个变元趋于无穷，则其极限函
8、数便是一维分布函数，对于这种特殊性质，我们称其为边际分布。对于任意两个随机变量X,Y，其联合分布函数为FXY(x,y)，则分别称F1(x)和F2(y)为FXY(x,y)关于X和关于Y的边际分布函数。离散型随机变量（X，Y）边际分布函数计算如下连续型随机变量（X，Y）边际分布函数计算如下23相互独立的随机变量设X，Y是两个随机变量，若对任意实数x，y有则称X，Y为相互独立的随机变量。若X，Y为相互独立随机变量，则有联合密度边际密度边际密度联合密度2424条件分布条件概率条件分布函数两边对x微分2525全概率公式（续）设A是一个事件，X是连续随机变量，概率密度为fx(x)，x0,)，则则设Y是一个
9、随机变量，分布函数为FY(y) ， FY/X (y/x) 为X=x时的条件分布，则26随机变量的数字特征v统计平均与随机变量的数学期望v随机变量函数的期望值v方差v协方差v相关系数v独立与不相关27统计平均与数学期望设离散随机变量X，它可能取4个值x1，x2，x3，x4，做试验n次，计算X的算术平均可得：P(X=xk)对于离散型随机变量可以用脉冲函数来表示其概率密度冲激函数随机变量数学期望定义2828随机变量函数的期望值已知随机变量X的数学期望值，求随机变量函数Y=g(X)的数学期望，对于多维随机变量29设X1,X2, ,Xn为随机变量，求随机变量函数Y=a1X1+a2X2+anXn的数学期望
10、。N维随机变量的数学期望30已知随机变量X1和X2，求随机变量函数YaX1+bX2的数学期望加权和的期望等于加权期望的和求数学期望是线性运算数学期望的线性运算不受独立条件限制3131已知随机变量X1和X2，求随机变量函数Yg1(X1)g2(X2)的数学期望假设两个随机变量X1和X2相互独立，则有3232K阶原点矩（moments），k阶中心矩随机变量X，若E|X|k，称EXk为k阶原点矩。离散随机变量连续随机变量又若EX存在，且E|X-EX|k ，称为X的k阶中心矩。离散随机变量连续随机变量3333一阶原点矩就是随机变量的数学期望，数学期望大致的描述了概率分布的中心。二阶中心矩就是随机变量的方
11、差，3434中心化的两个随机变量X-EX，Y-EY的互相关矩称为随机变量X和Y的协方差，协方差是描述随机现象中，随机变量X和Y概率相关的程度。引入一个描述两个随机变量相关程度的系数XY称为归一化的协方差系数或相关系数。3535若XY0，则称随机变量X和Y不相关。若两个随机变量X和Y的联合矩满足则称随机变量X和Y统计独立3636统计独立不相关统计独立不相关设Z是一个随机变量，具有均匀概率密度令X=sinZ，Y=cosZ，求随机变量X和Y是否相关，是否独立？3737条件期望v定义：记称E(X|Y)为X关于Y的条件期望。 思考： E(X|Y)是一个随机变量，其概率分布如何求？v连续随机变量的条件期望设（X,Y）的条件密度函数为其条件期望为3838条件期望v定义：两个随机变量 X,Y，如果P(X=Y)=1，称 X,Y几乎处处相等，记为X=Y a.s.（almost surely)。v条件期望的基本性质： 3939生成函数（母函数）v定义：设an为数字序列，称该序列的Z-变换为an的生成函数，记为： v定义：设X为离散随机变量，令an =PX=n ，称PX(z)=ag(z)=E(zX)为X的生成函数，|z|1。 v卷积性质 4040生成函数（母函数）41特征函数42特征函数43作业v复习概率论与数理统计方面的知识。预备知识结束
