大数定理与正态分布

《大数定理与正态分布》由会员分享，可在线阅读，更多相关《大数定理与正态分布（50页珍藏版）》请在金锄头文库上搜索。

1、第十一讲第十一讲 大数定理与正态分布大数定理与正态分布 本次课讲授第四章第本次课讲授第四章第1-5节，正态分布，中心极节，正态分布，中心极限定理；限定理； 下次课讲授第四章第下次课讲授第四章第5节，第五章第节，第五章第1-4节节;数理数理统计基础知识；统计基础知识； 下次上课时交作业下次上课时交作业P41-42页；页； 重点：正态分布的概率、期望与方差；重点：正态分布的概率、期望与方差； 难点：正态分布的概率、期望与方差；难点：正态分布的概率、期望与方差；covariance协方差协方差(相关矩相关矩):相关系数：相关系数：（1）相关系数的计算）相关系数的计算: (3)(3)强相关定理强相关定

2、理一、回顾：两个变量的相关特征一、回顾：两个变量的相关特征第十一讲第十一讲 大数定理与正态分布大数定理与正态分布(4)(4)不相关概念不相关概念由定义容易得到不相关的几个等价结论由定义容易得到不相关的几个等价结论第十一讲第十一讲 大数定理与正态分布大数定理与正态分布10-2-1 将一枚硬币重复掷将一枚硬币重复掷n次，次，X 和和Y 分别表示正面向上和反分别表示正面向上和反面向上的次数，则面向上的次数，则X和和Y的相关系数等于的相关系数等于解解选选(A).(A) - -1 (B) 0 (C) 0.5 (D) 1. （2001年）年）例题例题10-2-2（2000，3分）分）第十一讲第十一讲 大数

3、定理与正态分布大数定理与正态分布三、切比雪夫定理三、切比雪夫定理 1.1.背景：背景：若已知一个随机变量分布的均值与方差，那么随若已知一个随机变量分布的均值与方差，那么随机变量值的是以什么形式集中在均值附近？例如某年级机变量值的是以什么形式集中在均值附近？例如某年级10001000名名学生线性代数课程成绩的均值为学生线性代数课程成绩的均值为8585分，我们关心的是，有多少分，我们关心的是，有多少学生的成绩集中在均值附近？学生的成绩集中在均值附近？2.2.切比雪夫定理（不等式）：切比雪夫定理（不等式）：第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数

4、定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题10-3-1(2001，数一），数一）设独立随机变量设独立随机变量 并且方差是并且方差是一致有上界一致有上界的，即存在某的，即存在某则对于任何正数则对于任何正数 ，恒有，恒有 定理定理2（切比雪夫大数定理）（切比雪夫大数定理）分别有数学期望分别有数学期望及方差及方差 D(X1),一常数一常数K，使得使得第十一讲第十一讲 大数定理与正态分布大数定理与正态分布证证第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布3.3.依概率收敛定义依概率收敛定义推论：推论： 存在

5、存在:设独立随机变量设独立随机变量服从同一分布服从同一分布,期望及方差期望及方差则对于任何正数则对于任何正数 ，有，有第十一讲第十一讲 大数定理与正态分布大数定理与正态分布在独立试验序列中在独立试验序列中,设事件设事件 A 的概率的概率P(A) = = p，定理定理3(3(伯努利定理）伯努利定理）按概率收敛于事件按概率收敛于事件 A 的概率的概率p.即对于任何正数即对于任何正数则事件则事件 A在在 n 次独立试验中发生的频率次独立试验中发生的频率fn(A),当试验次数当试验次数 , 有有证证设随机变量设随机变量 Xi 表示事件表示事件A 在第在第 i 次试验中发生的次数次试验中发生的次数(i=

6、1,2, ,n, ),则这些随机变量相互独立，服从相同的则这些随机变量相互独立，服从相同的0-10-1分布，分布，且有数学期望与方差：且有数学期望与方差：由切比雪夫定理的推论即得由切比雪夫定理的推论即得而而就是事件就是事件A在在n次试验中发生的次数次试验中发生的次数m，由此可知，由此可知第十一讲第十一讲 大数定理与正态分布大数定理与正态分布一、正态分布的密度与分布一、正态分布的密度与分布1.1.背景：背景：正态分布是现代统计学的基础。正态分布是现代统计学的基础。1818世纪科学家发现测世纪科学家发现测量的误差具有惊人的规律性，这种规律性满足类似于某种特殊量的误差具有惊人的规律性，这种规律性满足

7、类似于某种特殊的的“中间大，两头小中间大，两头小”的特征，现实中众多的问题都具有这种的特征，现实中众多的问题都具有这种特性，棣美佛、拉普拉斯、高斯是最初研究类似现象并发现了特性，棣美佛、拉普拉斯、高斯是最初研究类似现象并发现了其密度和分布的数学家。他们将这种分布称为正态分布。其密度和分布的数学家。他们将这种分布称为正态分布。2.2.正态分布的密度正态分布的密度第十一讲第十一讲 大数定理与正态分布大数定理与正态分布记作记作 1.1.定义定义其中其中 及及 0 0都为常数，这种分布叫做都为常数，这种分布叫做正态分布正态分布或或高斯分布高斯分布。设连续型随机变量设连续型随机变量 X X 的概率密度为

8、的概率密度为 第十一讲第十一讲 大数定理与正态分布大数定理与正态分布特别地，当特别地，当 时，正态分布时，正态分布 叫做叫做标准正态分布标准正态分布。 其概率密度为其概率密度为 2.2.正态分布正态分布 的密度曲线的密度曲线 若固定若固定=0 第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布3.正态密度函数的性质正态密度函数的性质第十一讲第十一讲 大数定理与正态分布大数定理与正态分布0.54.4.正态变量的分布函数正态变量的分布函数查表查表 注注11 注注22第十一讲第十一讲 大数定理与正态分布大数定理与正态分布11-1-1 求求 解

9、解 若若 , 求求X 落在区间落在区间 内的概率，内的概率， 其中其中例题例题11-1-2第十一讲第十一讲 大数定理与正态分布大数定理与正态分布解解查表得查表得第十一讲第十一讲 大数定理与正态分布大数定理与正态分布拐点拐点 拐点拐点 随机变量随机变量 X 落在落在 之外的概率小于之外的概率小于3。 通常认为这一概率很小，根据小概率事件的实际不可能性通常认为这一概率很小，根据小概率事件的实际不可能性 原理，我们常把区间原理，我们常把区间看作是随机变量看作是随机变量 X 的的 实际可能的取值区间这一原理叫做实际可能的取值区间这一原理叫做三倍标准差原理三倍标准差原理（或（或3 法则法则）。）。第十一

10、讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题11-1-3（2010，4分）分）第十一讲第十一讲 大数定理与正态分布大数定理与正态分布二、正态分布的数字特征二、正态分布的数字特征1.1.数学期望数学期望第十一讲第十一讲 大数定理与正态分布大数定理与正态分布1.1.方差方差3.3.中心矩中心矩第十一讲第十一讲 大数定理与正态分布大数定理与正态分布若若 k 为偶数，为偶数，若若 k 为奇数，奇函数对称积分为奇数，奇函数对称积分则：则：第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题11-2-1(87,数学一）数学一）第十

11、一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题11-2-2（2009，4分）二维随机变量二维随机变量( ( X X,Y ,Y ) ) 的正态分布概率密度表示如下：的正态分布概率密度表示如下： 其中，参数其中，参数 及及 分别是随机变量分别是随机变量 X X 及及 Y Y 的数的数学期望，学期望， 及及 分别是它们的标准差，分别是它们的标准差，参数参数参数参数 r r 是它们的相关系数。是它们的相关系数。三、二维正态分布三、二维正态分布1.1.二维正态分布的密度二维正态分布的密度2.2.二维正态分布的边缘密度二维正态分布的边缘密度 根

12、据二维分布密度函数定义根据二维分布密度函数定义第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布3.3.二维正态分布的数字特征二维正态分布的数字特征如果随机变量如果随机变量X与与 Y 独立独立, 并且都服从正态分布并且都服从正态分布,则则 第十一讲第十一讲 大数定理与正态分布大数定理与正态分布反之反之, 若设若设 r = 0, 则得则得 第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例例11-3-1 设随机变量设随机变量X 与与Y 独立独立, 并且都服从正态分布并且都服从正态分布 N (0, 1) ,求求的的概率密度概率密度.

13、解解 第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题11-3-2（2007，4分）分）四、正态变量的线性函数的分布四、正态变量的线性函数的分布1.1.Y= a+bX Y= a+bX 的分布的分布定理定理1第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题11-3-3（2003，数三，数三，4分）分）证证由于由于 是单调函数，且反函数为是单调函数，且反函数为 推论推论第十一讲第十一讲 大数定理与正态分布大数定理与正态分布定理定理2证证第十一讲第十一讲 大数定理与正态分布大数定理与正态分布定理定理3以上结论还可以推广

14、到更一般的情况以上结论还可以推广到更一般的情况第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布 正态分布需要关注和其它分布的不同点，除了分布函数与密正态分布需要关注和其它分布的不同点，除了分布函数与密度函数的形式不同以外，它区别于其它分布的几个重点如下：度函数的形式不同以外，它区别于其它分布的几个重点如下：例题例题11-4-1(1999,3分分)第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题例题11-4-2（1998，6分）分）第十一讲第十一讲 大数定理与正态分布大数定理与正态分布五、中心极限定理五、中心极限定理1.1.背

15、景背景：大数定理告诉我们，随机变量个数很大时，独立随机大数定理告诉我们，随机变量个数很大时，独立随机变量之和收敛于其均值的和。此时，独立随机变量之和的标准变量之和收敛于其均值的和。此时，独立随机变量之和的标准变量的概率分布应是什么状态？中心极限定理告诉我们，变量变量的概率分布应是什么状态？中心极限定理告诉我们，变量个数很大时，和的分布依概率收敛于标准正态分布。个数很大时，和的分布依概率收敛于标准正态分布。设随机变量之和为设随机变量之和为: 且数学期望和方差都存在：且数学期望和方差都存在： 设随机变量设随机变量相互独立相互独立,则则则和的标准变量为：则和的标准变量为：2.2.中心极限定理变量的设

16、定中心极限定理变量的设定第十一讲第十一讲 大数定理与正态分布大数定理与正态分布1.1.林德伯格条件及其意义林德伯格条件及其意义设独立随机变量设独立随机变量有有其中其中是随机变量是随机变量 的概率密度的概率密度,若对于任意的正数若对于任意的正数 ,第十一讲第十一讲 大数定理与正态分布大数定理与正态分布则当则当 时，时，有有设独立随机变量设独立随机变量满足林德伯格条件满足林德伯格条件满足林德伯格条件满足林德伯格条件: :有有其中其中是随机变量是随机变量 的概率密度的概率密度,即对于任意的正数即对于任意的正数 ,(z 为任意实数为任意实数) 即即2.2.林德伯格定理林德伯格定理林德伯格定理林德伯格定

17、理林德伯格定理长一些，我们不去证明，这里只解释它的意义：林德伯格定理长一些，我们不去证明，这里只解释它的意义：林德伯格定理长一些，我们不去证明，这里只解释它的意义：林德伯格定理长一些，我们不去证明，这里只解释它的意义：第十一讲第十一讲 大数定理与正态分布大数定理与正态分布列维定理列维定理列维定理列维定理服从相同的分布，服从相同的分布，并且有数学期望和方差：并且有数学期望和方差： 则当则当 时，时，(z 为任意实数为任意实数) 设独立随机变量设独立随机变量它们和的极限分布是正态分布，即它们和的极限分布是正态分布，即 在中心极限定理中，我们重点关注列维在中心极限定理中，我们重点关注列维- -林德伯

18、格定理林德伯格定理和拉普拉斯中心定理和拉普拉斯中心定理第十一讲第十一讲 大数定理与正态分布大数定理与正态分布第十一讲第十一讲 大数定理与正态分布大数定理与正态分布各次实验中发生的概率为各次实验中发生的概率为棣莫弗棣莫弗拉普拉斯定理拉普拉斯定理n 次实验中发生的次数次实验中发生的次数, 则有则有其中其中z 是任何实数，是任何实数，设在独立实验序列中设在独立实验序列中,事件事件A 在在随机变量随机变量 表示事件表示事件A 在在为任意实数为任意实数第十一讲第十一讲 大数定理与正态分布大数定理与正态分布当当 n 充分大时充分大时,变量变量 近似地服从正态分布近似地服从正态分布由于随机变量服从二项分布由于随机变量服从二项分布所以所以棣莫弗棣莫弗拉普拉斯拉普拉斯定理说明定理说明:的随机的随机第十一讲第十一讲 大数定理与正态分布大数定理与正态分布例题12-1-1第十二讲：中心极限定理数理统计基本知识第十二讲：中心极限定理数理统计基本知识第十二讲：中心极限定理数理统计基本知识第十二讲：中心极限定理数理统计基本知识