《第二讲随机变量的定义及分布课件》由会员分享，可在线阅读，更多相关《第二讲随机变量的定义及分布课件（68页珍藏版）》请在金锄头文库上搜索。
1、本章学习的目标：本章学习的目标：复习概率与随机变量的理论复习概率与随机变量的理论加深随机变量函数的理论（重点）加深随机变量函数的理论（重点）深化一些重要概念的理解深化一些重要概念的理解加深多维正态随机变量的理论加深多维正态随机变量的理论增加增加MatlabMatlab的统计分析函数的统计分析函数( (自主学习）自主学习）1.1 1.1 概率的基本术语概率的基本术语 随机试验随机试验(Random Experiment):(Random Experiment): 满足下列三个条件的试验称为随机试验：满足下列三个条件的试验称为随机试验： (1)(1)在相同条件下可重复进行；在相同条件下可重复进行；
2、 (2) (2)试验的结果不止一个，所有可能的结果能事先明确；试验的结果不止一个，所有可能的结果能事先明确； (3) (3)每次试验前不能确定会出现哪一个结果。每次试验前不能确定会出现哪一个结果。例：投掷硬币例：投掷硬币(Toss a coin)The outcome varies in an unpredictable fashion when the experiment is repeated under the same conditions.随机事件随机事件(Random Event):(Random Event):在随机试验中，对试验中可能出现也可能不出在随机试验中，对试验中可能出
3、现也可能不出现、而在大量重复试验中却具有某种规律性的现、而在大量重复试验中却具有某种规律性的事情，称为随机事件，简称为事件。事情，称为随机事件，简称为事件。如投掷硬币出现正面就是一个随机事件。如投掷硬币出现正面就是一个随机事件。基本事件基本事件(Elementary Event):(Elementary Event):随随机机试试验验中中最最简简单单的的随随机机事事件件称称为为基基本本事事件件，如如投投掷掷骰骰子子出出现现1 1、2 2、.、6 6点点是是基基本本事事件件，出现偶数点是随机事件，但不是基本事件。出现偶数点是随机事件，但不是基本事件。( (简单事件简单事件Simple Event
4、)Simple Event)样本空间样本空间(Sample Space)(Sample Space)随机试验的所有基本事件组成的集合称为样本空间随机试验的所有基本事件组成的集合称为样本空间. .Toss a coin：S=Head, Tail=H,TToss a die: S=1,2,3,4,5,6关于样本空间的注释：关于样本空间的注释：离散的样本空间离散的样本空间Toss a die: S=1,2,3,4,5,6连续的样本空间连续的样本空间由多次子试验构成的样本空间看下例由多次子试验构成的样本空间看下例IF we toss a coin three times and let the tri
5、plet xyz denote the outcome “x on the first toss, y on the second toss, z on the third toss”, then the sample space of the experiment isS=HHH, HHT, HTH, HTT, THH, THT, TTH, TTTThe event “ one head and two tails” is defined byE=HTT, THT, TTH关于样本空间的注释：关于样本空间的注释：离散的样本空间离散的样本空间Toss a die: S=1,2,3,4,5,6连
6、续的样本空间连续的样本空间由多次子试验构成的样本空间由多次子试验构成的样本空间可数无穷的样本空间可数无穷的样本空间S=S1 S1 =HH, HT, TH, TT, S1=H,T频率和概率频率和概率(Frequency and Probability):(Frequency and Probability):n n次重复试验中，次重复试验中，事件事件A A发生的次数发生的次数n nA A：- -事件事件A A的的频数频数比值比值n nA A/n:-/n:- 事件事件A A发生的发生的频率频率概率概率频率反映了事件频率反映了事件A A发生的频繁程度，若事件发生的频繁程度，若事件A A发发生的可能性
7、大，那么相应的频率也大，反之则生的可能性大，那么相应的频率也大，反之则较小。较小。 1.2 1.2 随机变量的定义随机变量的定义(Definition of a random variable)(Definition of a random variable)设随机试验设随机试验E E的样本空间为的样本空间为S=eS=e，如果对于每一，如果对于每一个个e e S S，有一个实数，有一个实数X(e)X(e)与之对应，这样就得到与之对应，这样就得到一个定义在一个定义在S S上的单值函数上的单值函数X(e)X(e)，称，称X(e)X(e)为随机为随机变量，简记为变量，简记为X X。 随机变量是定义在
8、样本空间随机变量是定义在样本空间S S上的单值函数上的单值函数1. 1. 定义定义Interpretation of random variable:SeReal lineRandom variable is a function that assigns a numerical value to the outcome of the experiment.A coin tossSe1Real line10e2Mapping of the outcome of a coin toss into the set of real numberA discrete random variable i
9、s a random variable that can be take on at most a countable number of possible values根据随机变量取值的不同可以分为：根据随机变量取值的不同可以分为： 连续型随机变量连续型随机变量(Continuous random variable)(Continuous random variable) 离散型随机变量离散型随机变量(Discrete random variable)(Discrete random variable)2. 2. 概率分布列概率分布列Xx1x2.xnpkp1p2.pnProbability
10、mass function (PMF)(1) (0,1)(1) (0,1)分布分布 随机变量的可能取值为随机变量的可能取值为0 0和和1 1两个值，其概率分布为两个值，其概率分布为PMF:0 1Bernoulli random variableLet A be an event of interest in some experiment, e.g., a device is not defective. We say that a “success” occurs if A occurs when we perform the experiment.Bernoulli random vari
11、able IA is equal to 1 if A occurs and zero otherwise. (2) Binomial 独立地进行独立地进行n次贝努利试验，事件次贝努利试验，事件A发生发生m次的概率次的概率刚好是刚好是 展开的第展开的第m+1项的系项的系数数例：雷达双门限检测器例：雷达双门限检测器Example: Transmission error in a binary communications channel .Let X be the number of errors in n independent transmissions. Find the PMF of X.
12、 Find the probability of one or fewer errors0101 1- 1- The probability of k errors in n bits transmissions is given by the probability of an error pattern that k 1s and n-k 0s X is a binomial random variable例：信息传输问题（例：信息传输问题（Message Transmissions）Let X be the number of times needs to be transmitted
13、until it arrivers correctly at its destination. Find the probability that X is an a even number.X is a discrete random variable taking on values from S=1,2,3,.(3) geometric random variableThe event X=k occurs if k-1 consecutive erroneous transmissions (failures) followed by a error-free one (success
14、) X is called the geometric random variable泊松分布泊松分布(Poisson distribution)(Poisson distribution)例：交通路口在单位时间内通过的车辆数例：交通路口在单位时间内通过的车辆数1.3 1.3 分布函数和概率密度函数分布函数和概率密度函数Probability Density Function, （PDF） Distribution Function or Cumulative Distribution Function, (CDF)1. 定义定义右连续2. 分布函数的性质（分布函数的性质（Properties
15、 of the CDF）分布函数是右连续的不减函数，在负无穷处为零，分布函数是右连续的不减函数，在负无穷处为零，正无穷处为正无穷处为1 1。对于连续型随机变量，取某一特定。对于连续型随机变量，取某一特定值的概率是为零的。即值的概率是为零的。即PX=x=0PX=x=0对于离散型随机变量，分布函数为阶梯函数，阶梯的对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变点出现在随机变量的取值点上，跳变的高度为随跳变点出现在随机变量的取值点上，跳变的高度为随机变量取该值的概率。机变量取该值的概率。对于离散型随机变量，对于离散型随机变量，PMF与与CDF的关系为的关系为概率密度概率密度随机变量落入(x1,x
16、2) 的概率 对于离散型随机变量，它的概率密度函数是一串对于离散型随机变量，它的概率密度函数是一串 函数函数之和，之和， 函数出现在随机变量的取值点，强度为取该值函数出现在随机变量的取值点，强度为取该值的概率。的概率。 3. 3. 常见概率分布常见概率分布 正态分布（正态分布（NormalNormal），也称高斯（），也称高斯（GaussGauss）分布）分布 -4-3-2-10123400.10.20.30.40.50.60.70.8N(0,1)N(0,1)正态分布概率密度正态分布概率密度 标准正态分布函数标准正态分布函数瑞利分布（瑞利分布（RayleighRayleigh）瑞利分布概率密度
17、瑞利分布概率密度 2 2 02468101200.050.10.150.20.250.30.350.4指数（指数（ExponentialExponential）分布）分布指数分布概率密度指数分布概率密度 0123456700.511.5 对数正态分布（对数正态分布（LogNormalLogNormal）高分辨率雷达杂波分布高分辨率雷达杂波分布01234567891000.10.20.30.40.5对数正态分布概率密度对数正态分布概率密度 为尺度参数为尺度参数 为形状参数为形状参数1.4 1.4 多维随机变量及其分布多维随机变量及其分布 Multiple Random Variables and
18、 Distributions Multiple Random Variables and Distributions 1. 定义定义Se2. 2. 二维分布函数和概率密度二维分布函数和概率密度 Bivariate CDF and PDF Bivariate CDF and PDF 二维分布函数图解二维分布函数图解 定义：定义：二维分布函数性质：二维分布函数性质： 边缘（边缘（MarginalMarginal）分布）分布由二维分布函数可以求出一维分布函数由二维分布函数可以求出一维分布函数 二维概率密度：二维概率密度： 由二维概率密度可以求出边缘概率密度由二维概率密度可以求出边缘概率密度随机变量落
19、在某个区域的概率随机变量落在某个区域的概率 3. 3. 条件分布条件分布(Conditional Distribution) (Conditional Distribution) 条件分布函数条件分布函数条件概率密度条件概率密度称随机变量称随机变量X X、Y Y独立独立Example: Communication Channel with Discrete Input and Continuous Outputnoise voltage NU(-2,2) 通信信道通信信道X: +1 or -1Find PX=+1, Y0YSolution:1/2When the input X=1, the
20、output Y is uniformly distributed in the interval Therefore1.5 1.5 随机变量的数字特征随机变量的数字特征 均值均值 方差方差 协方差与相关系数协方差与相关系数 协方差矩阵协方差矩阵 举例举例1. 1. 均值均值（Mean)Mean)算术平均：算术平均： 所有可能取值等概率加权所有可能取值等概率加权统计平均值：统计平均值： 所有可能取值按概率加权所有可能取值按概率加权连续型随机变量：连续型随机变量：离散型随机变量：离散型随机变量：性质：性质：如果如果X X和和Y Y相互独立，相互独立，如果如果EXY=0，则称，则称X和和Y正交正交
21、(Orthogonal)。2. 2. 方差方差(Variance)(Variance)方方差差反反映映了了随随机机变变量量X X的的取取值值偏偏离离其其均均值值的的偏偏离离程程度度或或分散程度，分散程度，D(X)D(X)越大，则越大，则X X的取值越分散。的取值越分散。性质：性质：如果如果X X1 1,X,X2 2,.,X,.,Xn n相互独立。相互独立。Variance is a nonlinear operator3. 3. 协方差和相关系数协方差和相关系数(Covariance and Correlation coefficient)(Covariance and Correlation
22、 coefficient)如果如果X和和Y相互独立，则相互独立，则rXY=0，| rXY|=1的充要条件是的充要条件是PY=aX+b=1we define X and Y to be uncorrelatedIf ,If X and Y are independent, then X and Y are uncorrelated.X and Y are independentX and Y are uncorrelatedTrueFalseThe correlation coefficient provides a measure of how good a prediction of the
23、 value of one of the two RVs can be formed based on an observed value of the other. 1 indicates a high degree of linear between X and Y+1 means b0 and -1 means b0Independent:UncorrelatedOrthogonal:不相关就认为不相关就认为X与与Y没有关系吗？没有关系吗？例：例： 为零均值正态随机变量，为零均值正态随机变量， Y 与与X相关吗？相关吗？Y是依赖于是依赖于X的的(Dependence)，但但Y与与X不相关
24、不相关(Uncorrelated), 线性不相关的。线性不相关的。Independent implies zero covariance but zero covariance does not imply independence.Example: Uncorrelated but dependent random variablesLet be uniformly distributed in the interval (0,2 )。LetX and Y are uncorrelated but dependent注意英文单词的区别注意英文单词的区别:Correlation (Uncorr
25、elated)Dependent（Independent)It can be shown that 4. 4. 协方差矩阵（协方差矩阵（Covariance MatrixCovariance Matrix）多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。协方差矩阵是对称（共轭对称）的；协方差矩阵是对称（共轭对称）的；如果变量之间是不相关的，则如果变量之间是不相关的，则K K是一个对角阵。是一个对角阵。例例1: (0,1)分布随机变量，分布随机变量，PX=1=p,PX=0=q=1-p, 求求X的均值和方差的均值和方差5. Exp
26、ected value of some important random variableEX=1PX=1+0 PX=0=pEX2=12 PX=1+02 PX=0=pD(X)=E(X2)-(EX)2=p-p2=pq解解:例例2 (a,b)2 (a,b)上均匀分布的随机变量，求均值和方差上均匀分布的随机变量，求均值和方差 例例3 3 求瑞利分布随机变量的均值和方差。求瑞利分布随机变量的均值和方差。常用分布及其数字特征归纳常用分布及其数字特征归纳Uniform Random VariableExponential Random VariableGaussian Random VariableRem
27、ark: Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable. Gamma Random VariableRemark: Chi-Square random variable with k degree of freedom: k=2 , =1/2Laplacian Random VariableRayleigh Random Variable随机变量的定义与分布随机变量的定义与分布（1）概率的基本术语：）概率
28、的基本术语：随机试验随机试验 基本事件基本事件 随机事件随机事件 样本空间，频率与概率样本空间，频率与概率（2）随机变量的定义）随机变量的定义 从样本空间到实轴的映射从样本空间到实轴的映射（3）随机变量的分布）随机变量的分布 PMF CDF PDF 典型随机变量的分布典型随机变量的分布 （4）条件分布）条件分布 小结小结随机变量的数字特征随机变量的数字特征1.均值均值 反映随机变量取值的统计平均值反映随机变量取值的统计平均值2.方差方差 随机变量取值偏离均值的偏离程度随机变量取值偏离均值的偏离程度3.相关系数相关系数 X与与Y线性程度的度量线性程度的度量 注意：线性不相关并不意味他们没有关系注意：线性不相关并不意味他们没有关系 注意与独立的差别注意与独立的差别4. 协方差矩阵协方差矩阵5. 常见随机变量的数字特征常见随机变量的数字特征
