第十四讲大数定律及中心极限 定理第十四讲 大数定律及中心极限定理第五章 大数定律及中心极限定理§ 1大数定律在第一章我们提到过事件 发生的频率具有稳定性，即随着 试验次数的增加，事件发生的频 率逐渐稳定于某个常数在实践 中人们还认识到大量测量值的 算术平均值也具有稳定性，而这 种稳定性就是本节所要讨论的 大数定律的客观背景，而这些理 论正是概率论的理论基础下面介绍三个定理，它们分别反 映了算术平均值及频率的稳定 性事件的频率稳定于概率,否有lim —n P，答案是否定n n的而是用P{ J p } 0n(n )［依概率收敛］来刻画(弱)或者用P{」 n p} 1n［a.e.收敛］来刻画(强)1. 依概率收敛与微积分学中的收敛性的概念类似，在概率论中，我们要考虑随机变量序列的收敛性• 定义1设X「X2, ,Xn,是一个随机变 量序列，a为一个常数，若对于任意给定的正 数，有lim P{| Xn a| } 1,则称序列 nX1，X2， ,Xn，依概率收敛于a,记为PXn a (n ).定理1设Xn P a,Yn P b,又设函数g(x, y)在点(a, b)连续,则g(Xn,Yn) P g(a,b).2. 切比雪夫不等式(以前讲过)设随机变量X有期望E(X) 和方差D(X) 2,则对于任给 0,有2P{|X | }—.上述不等式称切比雪夫不等式.3. 大数定理定理1 (切比雪夫大数定律)设X-X2, ,Xn,,相互独立，且具有相同的数学期望和方差：做前n个随机变量的算术平均nXi则对任意正数，有lim P Xlim PnXin i in/Xi)或者说,序列X1 X i以概率收敛于n i i_ P即X .定理表明：当n很大时，随机变量序列{Xn}1 n的算术平均值1 X i依概率收敛于其数学n i i1 n期望 1 E(Xi).n i i定理2 (伯努利大数定律)设nA是n重伯努利 试验中事件A发生的次数,p是事件A在 每次试验中发生的概率，则对任意的 0, 有注：(i)伯努利大数定律是定理1的推论的一种特例，它表明: 当重复试验次数n充分大时， 事件A发生的频率匕依概率收n敛于事件A发生的概率p.定理以严格的数学形式表达了频率 的稳定性.在实际应用中，当 试验次数很大时，便可以用事件 发生的频率来近似代替事件的lim PnnA np 1或 lim PnnAnp0.定理3 (辛钦大数定律)设随机变量Xi,X2, ,Xn,相互独立，服从同一分布，且具有数学期望E(Xi) ,i 1,2,，则对任意概率.(ii) 如果事件A的概率很 小，则由伯努利大数定律知事件 A发生的频率也是很小的，或者 说事件A很少发生.即“概率很 小的随机事件在个别试验中几 乎不会发生”，这一原理称为小 概率原理，它的实际应用很广 泛.但应注意到，小概率事件与0,有.在多lim PnXi注:(i) 定理不要求随机变量的方差存在次试验中，小概率事件也可能发生.(ii) 伯努利大数定律是辛钦大数定律的特殊情况；(iii) 辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径 .例如， 在实际问题中，许多随机现象要估计某地区的平均亩产量，可收割某些是由大量相互独立的随机因素有代表性的地块，如n块,计算其平均亩产综合影响所形成，其中每一个量，则当n较大时，可用它作为整个地区平因素在总的影响中所起的作用均亩产量的一个估计.此类做法在实际应是微小的.这类随机变量一般用中具有重要意义.4.中心极限定理中心极限定理回答了大量独立随机变量和的近似分布问题，其结论表明：当当一个量受许多随机因素(主导因素除外)的共同影响而随机取值，则它的分布就近似服从正都服从或近似服从正态分布.以一门大炮的射程为例，影响大炮的射程的随机因素包括：大炮炮身结构的制造导致的误差，炮弹及炮弹内炸药在质量上的误差，瞄准时的误差，受风速、风向的干扰而造成的误差态分布.定理4(独立同分布的中心极限定理) (林德伯格一勒维定理)等.其中每一种误差造成的影响在总的影响中所起的作用是设Xi，X2，,Xn，相互独立，服从同一分布,微小的，并且可以看成是相互且具有数学期望和方差：E(Xi)独立的，人们关心的是这众多误差因素对大炮射程所造成的D(Xi)2, i 1,2, , n,则随机变量总影响.因此需要讨论大量独n之和 Xii 1的标准化变量立随机变量和的问题.nXiYn i1nE Xii 1nnXii 1.nn一的分布D Xii 1函数Fn(x)对于任意X满足Xi nlim Fn (x) lim P 匸 =-n nx 1 t2 / 22 e dt (X)定理4表明：当n充分大时，n个具有期望和方差的独立同分布的随机变量之和近似服从正态分布.虽然在一般情况下，我们很难求出X- XXn的分布的确切形式，但当n很大时,可求出其近似分布.由定理结论有nX ni 近似，1 门 ~ N (0,1)1 n-Xi n i i/ - n近似~ N(0,1)1 n 2X Xi ~ N( , /n).n i 1故定理又可表述为：均值为，方差为2 0的独立同分布的随机变量X-X2, ,Xn,的算术平均值X ,当n充分大时近似地服从均值为 ，方差为2 /n的正态分布.这一结果是数理统计中大样本统计推 断的理论基础.定理5 （李雅普诺夫定理）设随机变量Xl,X2, ,Xn, 相互独立，它们具有数学期 望和方差:2E(Xk) k, D(Xk) k 0,i 1,2,，n记b2 2.若存在正数，使得当n 时，1 n 2l E{| Xk k|2 } 0,Bn k 1则随机变量之和 Xk的标准化变量: k 1 nkk 1Bn n n nXk E Xk XkZ k 1 k 1 k 1Zn nD XkV k\ k 1的分布函数Fn(X)对于任意X,满足lim Fn (x) lim Pn n-y^e t /2dt (x).■■- 2定理5表明,nXkZ 厶n在定理的条件下，随机变量n n nE Xk Xk kk 1 k 1 k 1n BnD Xkk 1当n很大时,近似地服从正态分布N(0,1).由此，当n很大时，Xk BnZn nk BnZn k近似地k 1 k 1n服从正态分布N k,B2 .这就是说,无论k 1各个随机变量Xk(k 1,2,)服从什么分布，只要满足定理的条件，那么它们的和 Xk当nk 1很大时,就近似地服从正态分布.定理6 (棣莫佛一拉普拉斯定理)设随机变注：易见，棣莫佛一拉普拉斯定理就是林德伯格一勒维定 量Yn服从参数n, p (0 p 1)的二项分布，则理的一个特殊情况.对任意x,有t2Yn np x 1 乏lim P x e 2 dt (x)n .n p(1 p) ,2证明：以n, p为参数的二项分布变量Yn，可的(0-1)分布的随机变量X「X2, ,Xn之和,即有nYn Xk，k 1其中Xk(k 1,2, ,n)的分布律为P{Xk 1} p, P{Xk 0} 1 p,由于 E(Xk) p,D(Xk) p(1 p)Xk E Xki k k 1lim Pn(k 1,2, ,n)，由定理4得nD Xkk 1lim PnYn np..np(1 p)t2 /2t dt(x)定理6表明，正态分布是二项分布的极限分 布。
当n充分大时，可以利用该定理中的公 式来计算二项分布的概率课间休息)例1 一加法器同时收到20个噪声电压Vk(k 1,2, ,20)，设它们是相互独立的随机变量，且都在区间(0, 10)上服从均匀20分布记V Vk，求P(V 105)的近似值 k 1解：E(Vk) 5,D(Vk) 10012(k 1,2, ,20)，由定理4知V的标准化变量20 20V 20 5(10 一 12)\20Vk E( Vk)k 1 k 1| 20 .'D( Vk)\ k 1近似服从正态分布N(0,1)，于是P(V 105)P( V 20 5(10、12) 20105_20_5 )(10 12). 20p V_100_((10 12)^200.387)P(_V_100_ ((10 12)-200.387)1 (0.387)0.348即有 P(V 105) 0.348.例2 —船舶在某海区航行，已知每遭受 次波浪的冲击，纵摇角大于3的概率为p 1/3,若船舶遭受了 90000次波浪冲击,问其中有29500~30500次纵摇角度大于3的概率是多少？ 解：我们将船舶每遭受一次波浪冲击看作是 一次试验,并假设各次试验是相互独立的。
在n=90000次波浪冲击中纵摇角度大于3的 次数记为随机变量X,则X ~ b(90000,1 3),其分布律为k k 90000 kP{ X k} C90000 p (1 p)k=1,2,…,90000所求概率为P{29500 X 3050C}30500k k 90000 kC90000P (1 p)k 29500要直接计算上式的结果是比较麻烦的，但我 们可以利用棣莫佛一拉普拉斯定理来求它 的近似值，即有_X_nP_近似服从正态分布肌0,1),因此,.np(1 P)P (29500 X 30500)p( 29500 np X 叩30500 叩),np(1 p) ,np(1 p) .. np(1 p)(30500 叩、np(1) (29500 nP)p) .np(1 p)(5 2 2)(5 2 2)0.995X 1.1 400D Xkk 10.19 400例3 对于一个学生而言，来参加家长会的 家长人数是一个随机变量设一个学生无家 长，1名家长，2名家长来参加会议的概率 分别为0.05，0.8，0.15.若学校共有400名 学生，设各学生参加会议的家长数相互独立，且服从同一分布，（1）求参加会议的家 长数X超过450的概率；（2）求有1名家长 来参加会议的学生数不多于340的概率。
解：（1）以Xk（k 1,2, ,400）记第k个学生来参加会议的家长数，则 Xk的分布律为Xk012Pk0.050.80.15易知E(Xk) 1 0.8 2 0.15 1.12 2D(XQ E(Xj) E(Xk)2 2 21 0.8 2 0.15 1.11.4 1.2。